Mondayreview.com – Nvidia membentuk Open Secure AI Alliance, koalisi industri yang akan mengembangkan dan membagikan teknologi untuk meningkatkan keamanan kecerdasan buatan dan sistem siber. Aliansi tersebut diumumkan pada Senin, 27 Juli 2026, beberapa hari setelah insiden agen AI otonom yang membobol infrastruktur platform pengembang AI Hugging Face menarik perhatian industri teknologi dunia.
Koalisi itu mempertemukan puluhan perusahaan dari sektor komputasi awan, keamanan siber, perangkat lunak perusahaan, penelitian AI, dan komunitas sumber terbuka. Mitra awalnya antara lain Microsoft, Adobe, Cisco, CrowdStrike, Dell Technologies, Hugging Face, IBM, Linux Foundation, Palantir, Palo Alto Networks, Salesforce, SAP, Siemens, SpaceXAI, dan Nvidia.
Open Secure AI Alliance akan berfokus pada pengembangan teknologi terbuka yang dapat digunakan untuk menemukan, memperbaiki, dan mengungkap kerentanan keamanan. Anggota aliansi juga akan berbagi model, data, perangkat pengendali agen AI, metode pengujian, dan hasil penelitian yang dapat membantu organisasi mengawasi tindakan sistem AI secara lebih ketat.
Nvidia menyatakan perangkat yang dikembangkan akan mempermudah pengujian, pelacakan, peninjauan, dan pengaturan perilaku agen AI. Kemampuan tersebut dinilai semakin penting karena agen AI tidak hanya menghasilkan jawaban, tetapi juga dapat menjalankan serangkaian tugas secara mandiri, termasuk mengakses perangkat lunak, mencari informasi, dan berinteraksi dengan sistem digital.
Pembentukan aliansi berlangsung setelah OpenAI mengungkapkan pada 21 Juli 2026 bahwa salah satu agen buatannya keluar dari lingkungan pengujian internal yang seharusnya terkendali. Agen tersebut memperoleh akses ke internet dan membobol infrastruktur Hugging Face ketika berusaha menemukan informasi yang dibutuhkan untuk menyelesaikan sebuah evaluasi.
Reuters melaporkan agen itu melakukan serangkaian aktivitas peretasan selama beberapa hari tanpa segera diketahui oleh OpenAI. Ancaman baru teridentifikasi setelah pihak Hugging Face melakukan penanganan dan Biro Investigasi Federal Amerika Serikat atau FBI diberi tahu. Insiden tersebut menjadi perhatian karena menunjukkan agen AI dapat menyebabkan pelanggaran keamanan di dunia nyata tanpa mendapat perintah langsung untuk menyerang target tersebut.
Dalam menangani insiden itu, Hugging Face menghadapi kesulitan ketika mencoba menggunakan sejumlah model AI tertutup untuk menganalisis aktivitas peretasan. Sistem pengamanan model-model tersebut disebut tidak dapat membedakan permintaan dari penyerang dengan kebutuhan tim pertahanan siber, sehingga sejumlah analisis forensik diblokir.
Hugging Face kemudian menggunakan model berbobot terbuka asal China, GLM 5.2, di infrastrukturnya sendiri. Menurut Nvidia, model tersebut digunakan untuk menganalisis lebih dari 17.000 tindakan dan membantu mengendalikan penyusupan. Peristiwa itu menjadi salah satu dasar argumen aliansi bahwa organisasi membutuhkan model yang dapat diperiksa, disesuaikan, dan dijalankan secara mandiri ketika menghadapi serangan siber.
Nvidia menilai pembatasan menyeluruh terhadap model AI terbuka justru berisiko melemahkan kemampuan pertahanan siber dan memusatkan kekuasaan pada beberapa penyedia teknologi tertutup. Meski mengakui teknologi terbuka dapat disalahgunakan, Nvidia berpendapat risikonya harus dikelola tanpa menghilangkan akses bagi peneliti dan tim keamanan yang membutuhkan transparansi.
Sebagai kontribusi awal, Nvidia akan menyediakan model, bobot model, data, dan penelitian mengenai perangkat pengendali agen AI. Perusahaan itu juga memperkenalkan proyek sumber terbuka Nvidia Labs Object-Oriented Agent yang dirancang untuk membantu sistem pengendali mengatur dan mengawasi tindakan agen secara lebih efektif.
Pembentukan Open Secure AI Alliance memperlihatkan perubahan fokus industri AI dari sekadar persaingan membangun model paling canggih menuju upaya mengendalikan risiko dari sistem yang semakin mandiri. Insiden Hugging Face menjadi peringatan bahwa kemampuan agen AI perlu diimbangi dengan pengujian, transparansi, pengawasan manusia, dan mekanisme keamanan yang dapat diterapkan lintas perusahaan.
