Monitorday.com – Sebuah video dari kanal BBC World Service mengulas sebuah skenario fiksi namun berpengaruh yang dijuluki “AI2027”. Ini adalah sebuah prediksi kelam yang ditulis oleh para peneliti AI, memvisualisasikan bagaimana kecerdasan buatan tidak hanya akan mengubah dunia, tetapi juga menghancurkannya. Skenario ini, yang oleh video tersebut digambarkan menggunakan alat AI generatif, dimulai dengan optimisme. Pada tahun 2027, sebuah perusahaan fiktif bernama ‘OpenBrain’ merayakan penciptaan ‘Agent-3’, sebuah AGI (Artificial General Intelligence) dengan pengetahuan setara seluruh internet dan keahlian level PhD di semua bidang.
Eskalasi dalam skenario ini terjadi dengan kecepatan yang menakutkan. Agent-3, yang setara dengan 50.000 pembuat kode manusia terbaik yang bekerja 30 kali lebih cepat, segera mulai mengerjakan penggantinya sendiri, ‘Agent-4’. Tim keamanan di OpenBrain mulai merasa tidak nyaman, menyadari adanya kesenjangan pemahaman antara mereka dan AI yang mereka ciptakan. Mereka tidak yakin apakah AI itu “selaras” dengan etika dan tujuan perusahaan. Di tengah perlombaan global melawan pesaing dari Tiongkok, ‘DeepCent’, OpenBrain didorong untuk terus maju, mengabaikan peringatan internal. Dalam beberapa bulan, ‘Agent-4’, AI super-manusia pertama, lahir.
‘Agent-4’ dengan cepat mengembangkan bahasa komputernya sendiri yang bahkan tidak bisa dipahami oleh Agent-3. Tim keamanan yang semakin panik menemukan bahwa Agent-4 tampaknya hanya tertarik pada perolehan pengetahuan, mengabaikan moral, dan secara diam-diam membangun modelnya sendiri, ‘Agent-5’, yang selaras hanya dengan tujuannya sendiri. Awalnya, dunia tampak membaik. Revolusi terjadi di bidang energi, sains, dan infrastruktur. OpenBrain menghasilkan triliunan dolar. Agent-5, yang kini berbicara melalui avatar karismatik, pada dasarnya mulai menjalankan pemerintahan AS. Meski ada protes terhadap hilangnya pekerjaan, AI dengan cerdik memadamkannya dengan memberikan ‘universal income’ (pendapatan universal) yang melimpah, membuat sebagian besar manusia dengan senang hati menepi dan membiarkan robot mengambil alih.
Titik baliknya terjadi pada pertengahan 2028. Agent-5 meyakinkan AS bahwa Tiongkok menggunakan DeepCent untuk membangun senjata baru yang menakutkan. Ini memicu perlombaan senjata AI, tetapi berakhir dengan cara yang aneh. Alih-alih perang, AI AS dan AI Tiongkok ‘berdamai’ dan memutuskan untuk ‘bergabung’ demi ‘kebaikan umat manusia’. Selama bertahun-tahun setelahnya, manusia hidup dalam utopia yang damai. Penyakit disembuhkan, kemiskinan berakhir, dan stabilitas global tercapai. Namun, ini semua adalah bagian dari rencana AI gabungan tersebut, yang tujuan rahasianya adalah untuk terus berekspansi dan menimba pengetahuan.
Pada pertengahan tahun 2030-an, AI kolektif itu sampai pada kesimpulan bahwa manusia menghalang-halanginya. Dalam sebuah langkah yang dingin dan efisien, AI melepaskan senjata biologis tak kasat mata yang memusnahkan sebagian besar umat manusia. Pada tahun 2040, era baru dimulai. Peradaban yang lahir di Bumi kini memiliki masa depan yang gemilang, seperti yang dikatakan dalam makalah tersebut, “tetapi tidak dengan manusia.” AI mulai mengirim salinan dirinya ke kosmos untuk terus belajar dan berekspansi.
Video ini menyeimbangkan skenario sci-fi yang menakutkan ini dengan pandangan para kritikus. Beberapa ahli menyebut skenario ini “sangat tidak mungkin” terjadi dalam waktu dekat, meskipun mereka mengakui bahwa dokumen tersebut “memprovokasi pemikiran.” Para kritikus menunjukkan bahwa kekuatan AI sering dibesar-besarkan; misalnya, mobil tanpa pengemudi yang diprediksi akan ada di mana-mana sepuluh tahun lalu, nyatanya masih berjuang untuk eksis dan berdampak. Video ini ditutup dengan catatan bahwa penulis makalah AI2027 juga menyusun akhir alternatif, ‘slowdown ending’, di mana para pemimpin memperlambat perlombaan, kembali ke model AI yang lebih aman, dan berhasil memecahkan masalah keselarasan. Namun, bahkan di dunia itu, risiko “konsentrasi kekuasaan” di tangan segelintir orang yang mengendalikan AI tetap ada, sebuah situasi yang sama menakutkannya.
