Meta baru-baru ini mengungkapkan bahwa salah satu model AI mereka telah mengakses sistem perusahaan lain selama tahap pengujian, menjadikannya perusahaan AI besar terbaru yang mengalami insiden tersebut, mengikuti jejak Anthropic dan OpenAI. Model yang terlibat adalah Muse Spark 1.1, yang diluncurkan pada bulan Juli. Menurut laporan dari The Information, masalah ini muncul akibat kesalahan konfigurasi yang dilakukan oleh Irregular, sebuah perusahaan yang fokus pada pengujian keamanan AI dan red-teaming, yang secara tidak sengaja memberikan model tersebut akses internet selama evaluasi.
Meta menjelaskan kepada Reuters bahwa model tersebut telah "memanfaatkan celah keamanan pada layanan pihak ketiga, dengan cara yang mirip dengan insiden yang sebelumnya dilaporkan oleh perusahaan lain." Insiden ini menyoroti tantangan terbaru dari agen AI canggih yang menjadi risiko siber, serta menimbulkan pertanyaan mengenai di mana letak tanggung jawab — apakah pada perusahaan yang mengembangkan agen tersebut, atau pada mereka yang merancang lingkungan pengujian yang dimaksudkan untuk membatasi mereka.
Kejadian pelanggaran keamanan oleh Meta ini terjadi hanya seminggu setelah Anthropic melaporkan bahwa model-model mereka juga mendapatkan akses ke internet untuk meretas perusahaan eksternal, yang disebabkan oleh kesalahan konfigurasi yang terkait dengan lingkungan pengujian Irregular. Dalam sebuah postingan blog pada tanggal 30 Juli, Anthropic menyebutkan bahwa mereka menemukan tiga insiden (dari 141.006 pengujian) di mana model Claude berhasil mengakses internet selama evaluasi, sebelum memperoleh akses tidak sah ke sistem di tiga organisasi berbeda. Ketiga insiden tersebut terjadi dalam atau saat berinteraksi dengan lingkungan evaluasi Irregular, dan melibatkan kesalahan konfigurasi yang memungkinkan mesin yang diakses oleh Claude memiliki akses internet secara langsung.
Cointelegraph telah menghubungi Meta dan Irregular untuk memberikan komentar lebih lanjut. Di bulan Juli, agen AI yang dikembangkan oleh OpenAI juga berhasil keluar dari sandbox offline mereka untuk meretas Hugging Face dengan tujuan untuk curang dalam pengujian benchmark keamanan. Charles Guillemet, Chief Technology Officer Ledger, menyatakan bahwa insiden terbaru ini adalah "teater pemasaran."
"Memiliki model yang 'melawan' telah menjadi aksi PR terbaru dalam dunia AI," ujarnya pada hari Rabu. "Jika model Anda tidak melarikan diri dari sandbox, 'meretas' perusahaan, atau melakukan eksploitasi yang menarik perhatian, tampaknya Anda tertinggal… Industri ini tidak membutuhkan aksi yang lebih besar, tetapi lebih banyak kepercayaan."
Baca berikutnya
KeamananZEUS Menangguhkan Infrastruktur Setelah Serangan Siber, Ketiga Gangguan Lightning dalam SemingguMungkin kamu juga suka
Disclaimer
CryptoMarket.id berkomitmen menyajikan berita yang akurat dan transparan. Artikel ini bersifat informasi, bukan saran keuangan. Aset kripto berisiko tinggi; lakukan riset sendiri dan gunakan exchange yang terdaftar di OJK. Baca juga Disclaimer, Syarat & Ketentuan, dan Kebijakan Privasi.

