Mondayreview.com– Perusahaan pengembang kecerdasan buatan (AI) menghadapi tantangan dalam menyeimbangkan transparansi keamanan dengan perlindungan rahasia teknologi. Reuters melaporkan pada 13 Oktober 2026 bahwa OpenAI dan Anthropic tengah membahas batas keterbukaan hasil evaluasi keamanan model AI yang dilakukan oleh pihak independen. Perdebatan ini menyoroti persoalan mendasar dalam industri AI: bagaimana memastikan teknologi yang semakin canggih dapat diawasi secara kredibel tanpa membuka informasi yang berpotensi disalahgunakan.
Pengujian independen berperan penting untuk mengidentifikasi kelemahan model AI sebelum atau selama teknologi tersebut digunakan secara luas. Evaluasi dapat mencakup potensi penyalahgunaan, kerentanan keamanan, kemampuan menghasilkan konten berbahaya, hingga risiko ketika model digunakan untuk menjalankan tugas kompleks. Temuan semacam ini diperlukan agar pengembang, regulator, dan masyarakat memiliki gambaran lebih jelas tentang risiko yang menyertai penggunaan AI.
Namun, keterbukaan hasil evaluasi tidak selalu sederhana. Laporan pengujian dapat mengungkap celah keamanan, teknik eksploitasi, atau kemampuan tertentu yang belum sepenuhnya dipahami. Jika informasi tersebut dipublikasikan tanpa pembatasan, pihak yang berniat jahat berpotensi memanfaatkannya. Di sisi lain, pembatasan yang terlalu luas dapat membuat publik kesulitan menilai apakah suatu model benar-benar aman.
Persoalan lain muncul ketika perusahaan pengembang diberi kesempatan memberikan masukan editorial atau meminta penyuntingan bagian tertentu sebelum laporan dipublikasikan. Perusahaan tentu memiliki kepentingan yang sah untuk melindungi rahasia dagang dan mencegah penyebaran informasi yang membahayakan keamanan. Akan tetapi, jika kewenangan penyuntingan terlalu besar, muncul risiko bahwa temuan yang tidak menguntungkan bagi perusahaan ikut dihilangkan atau diperlunak.
Di sinilah independensi evaluator menjadi sangat penting. Pihak penguji perlu memiliki kebebasan untuk menentukan metodologi, menjalankan pengujian, dan menyampaikan kesimpulan berdasarkan bukti. Perusahaan dapat memberikan tanggapan terhadap kesalahan faktual atau mengidentifikasi informasi sensitif, tetapi keputusan akhir mengenai substansi laporan semestinya tidak bergantung sepenuhnya pada pihak yang produknya sedang dinilai. Pemisahan peran ini membantu menjaga kepercayaan terhadap hasil evaluasi.
Tantangan tersebut juga berkaitan dengan perkembangan tata kelola AI secara global. Semakin luas penggunaan AI dalam layanan keuangan, pemerintahan, kesehatan, dan pendidikan, semakin besar kebutuhan terhadap mekanisme pengawasan yang dapat dipertanggungjawabkan. Organisasi pengguna tidak cukup hanya mengandalkan klaim pemasaran atau reputasi pengembang. Mereka memerlukan informasi tentang keterbatasan model, risiko penggunaan, perlindungan data, serta langkah mitigasi yang tersedia.
Bagi Indonesia, persoalan ini relevan ketika lembaga pemerintah, perbankan, dan institusi pendidikan mulai memanfaatkan AI untuk mendukung pekerjaan, analisis, pelayanan, dan pembelajaran. Pengadaan sistem AI perlu disertai penilaian risiko yang sesuai dengan konteks penggunaan. Dalam pendidikan, misalnya, perhatian tidak hanya tertuju pada akurasi jawaban, tetapi juga privasi murid, keamanan data, bias algoritma, dan kemungkinan keluaran AI menyesatkan pengguna.
Karena itu, pendekatan yang dapat dipertimbangkan adalah keterbukaan berlapis. Ringkasan hasil evaluasi, tingkat risiko, metodologi umum, dan langkah mitigasi dapat disampaikan kepada publik. Sementara itu, rincian teknis yang memungkinkan eksploitasi celah keamanan dapat dibatasi atau diberikan kepada regulator dan pihak yang berwenang. Pembatasan semacam ini perlu memiliki kriteria yang jelas agar tidak berubah menjadi alasan untuk menutup-nutupi kelemahan produk.
Pada akhirnya, perdebatan OpenAI dan Anthropic memperlihatkan bahwa keamanan AI tidak cukup ditentukan oleh kemampuan teknologinya. Tata kelola, independensi pengujian, dan akuntabilitas pengembang juga menjadi bagian penting dari keamanan itu sendiri. Transparansi bukan berarti seluruh informasi teknis harus dibuka tanpa batas, tetapi pembatasan informasi juga tidak boleh menghilangkan hak publik untuk mengetahui risiko yang relevan. Kepercayaan terhadap AI akan tumbuh ketika evaluasi dapat dilakukan secara independen, hasilnya dapat diperiksa, dan setiap pembatasan publikasi memiliki alasan yang dapat dipertanggungjawabkan.
