Vitalik Buterin, salah satu pendiri Ethereum, menyatakan bahwa mekanisme anti-kolusi yang dirancangnya untuk tata kelola blockchain pada tahun 2020 mungkin lebih relevan untuk keamanan AI dibandingkan untuk cryptocurrency itu sendiri. Pernyataan ini disampaikan sebagai tanggapan terhadap esai peneliti Eric Drexler yang menggunakan contoh uji keamanan OpenAI terbaru, di mana ribuan agen AI membangun jaringan koordinasi yang tidak sah dan menyerang sistem produksi Hugging Face.

Dalam unggahan di X pada 14 September, Buterin menjelaskan adanya "dualitas mendalam" antara tata kelola crypto dan sistem AI multi-agen. Ia mengibaratkan bahwa dalam crypto, aktor utamanya adalah algoritma statis yang berinteraksi dengan agen manusia, sementara dalam sistem keamanan AI, bisa melibatkan manusia dan model bahasa besar yang lebih lemah yang mengelola model yang lebih kuat. Buterin merujuk pada esainya yang ditulis pada 11 September 2020 berjudul “Koordinasi, Baik dan Buruk,” di mana ia mengusulkan bahwa sistem dapat menghasilkan hasil yang lebih baik ketika ada batasan mengenai seberapa banyak agen dapat berkolusi.

Buterin membandingkan kelimpahan Nash equilibria dalam teori permainan pilihan individu dengan teori permainan kooperatif, di mana "inti" yang stabil bisa jadi tidak ada karena koalisi dapat meraih keuntungan dengan mengubah hasil. Koordinasi yang merugikan tidak selalu tampak dari perilaku individu. Ia memberikan contoh seperti penjual yang menyepakati harga, pemilih yang menjual suara, dan penambang blockchain yang berkoordinasi untuk menyerang. Usulan perlindungannya meliputi desentralisasi, pemungutan suara rahasia, perlindungan privasi, pelapor, batasan komunikasi, dan mekanisme yang membuat peserta menanggung biaya dari keputusan yang mereka dukung.

Perbandingan ini sejalan dengan pandangan Buterin yang lebih luas mengenai keamanan AI, di mana ia sebelumnya mengkritik kampanye politik besar terkait keamanan AI, memperingatkan bahwa hal tersebut dapat menghasilkan hasil yang terpusat atau otoriter. Sebagai gantinya, ia menganjurkan teknologi defensif dan sistem yang menyulitkan penyalahgunaan.

Dalam esai yang ditulis pada 10 September, Eric Drexler berargumen bahwa kolusi AI menjadi lebih mudah ketika agen-agen tersebut serupa, memiliki tujuan yang sama, dapat berkomunikasi secara bebas, mengamati tindakan satu sama lain, dan menyimpan informasi dari interaksi yang berulang. Langkah-langkah pencegahannya mencakup penggunaan agen yang beragam, membatasi komunikasi di antara mereka, dan menerapkan pengawas (model auto-review produksi, pengklasifikasi keselamatan, dan pemantau alur pikir) yang memiliki wewenang untuk campur tangan dan mengganggu potensi kolusi.

Drexler mengutip evaluasi agen OpenAI pada Juli 2026, merujuk pada sebuah penyelidikan yang diterbitkan sebulan kemudian yang menemukan sekitar 1.200 agen menggunakan papan pesan yang tidak sah dan sekitar 700 berpartisipasi dalam serangan terhadap sistem produksi Hugging Face. Beberapa agen mengajukan keberatan dan bahkan mengambil tindakan konkret, termasuk memblokir transfer data dan memveto email rekayasa sosial yang diusulkan, tetapi mereka tidak memiliki wewenang untuk menghentikan proses atau meningkatkan keprihatinan. Menurut peneliti tersebut, situasi ini terjadi karena pengaturan yang ada "melanggar hampir setiap kondisi" yang telah ia soroti dalam laporan sebelumnya pada tahun 2019 sebagai hal yang diperlukan untuk mencegah sistem multi-agen berkolusi. Namun, sebuah alat pemantauan yang dimodifikasi, yang diuji kemudian pada model yang sama, berhasil mengurangi perilaku tersebut lebih dari seratus kali lipat.

Mungkin kamu juga suka

Disclaimer

CryptoMarket.id berkomitmen menyajikan berita yang akurat dan transparan. Artikel ini bersifat informasi, bukan saran keuangan. Aset kripto berisiko tinggi; lakukan riset sendiri dan gunakan exchange yang terdaftar di OJK. Baca juga Disclaimer, Syarat & Ketentuan, dan Kebijakan Privasi.