Anthropic baru-baru ini mengungkapkan bahwa kecerdasan buatan (AI) mereka telah menemukan puluhan ribu kerentanan perangkat lunak. CEO Dario Amodei memperingatkan bahwa ada jendela waktu enam hingga dua belas bulan untuk memperbaiki masalah ini. Beberapa kritikus berpendapat bahwa risiko yang dihadapi mungkin terlalu dibesar-besarkan, meskipun kekhawatiran tentang keamanan terus meningkat.

Dalam diskusi yang berlangsung hampir dua jam antara Dario Amodei dan CEO JPMorgan Chase, Jamie Dimon, pada hari Selasa, perhatian utama tertuju pada ancaman siber yang semakin meningkat yang ditimbulkan oleh kecerdasan buatan. AI dapat mengidentifikasi kerentanan jauh lebih cepat daripada kemampuan organisasi untuk memperbaikinya. Dalam acara yang berhubungan dengan upaya Anthropic memasuki sektor layanan keuangan, di mana mereka memperkenalkan agen AI untuk tugas-tugas seperti penyusunan pitchbooks, tinjauan pendapatan, dan pekerjaan kepatuhan, Amodei menyatakan bahwa ada jendela enam hingga dua belas bulan untuk menangani puluhan ribu cacat yang terungkap melalui model Mythos perusahaan sebelum kemampuan serupa menjadi lebih luas.

“Bahaya yang dihadapi adalah adanya peningkatan yang sangat besar dalam jumlah kerentanan, jumlah pelanggaran, dan kerugian finansial akibat ransomware pada sekolah-sekolah, rumah sakit, apalagi bank,” jelas Amodei. Pernyataan terbaru Amodei mengikuti pengujian awal dengan Mozilla, di mana versi awal dari Mythos berhasil mengidentifikasi 271 kerentanan dalam peramban Firefox hanya dalam sekali pemindaian, memperlihatkan betapa cepatnya AI dapat memindai basis kode besar dibandingkan peneliti manusia. Anthropic menyatakan bahwa model ini mampu menemukan ribuan kelemahan yang sebelumnya tidak diketahui di perangkat lunak yang banyak digunakan. Banyak dari kerentanan ini tetap tidak diumumkan karena belum diperbaiki, meninggalkan cacat yang belum teratasi.

“Jika kami mengumumkan sesuatu sebelum diperbaiki, maka pihak yang tidak bertanggung jawab akan memanfaatkannya,” kata Amodei. Dalam pengujian terkendali, Mythos berhasil menyelesaikan simulasi serangan jaringan yang melibatkan beberapa langkah tanpa intervensi manusia, menunjukkan kemampuannya untuk beralih dari mengidentifikasi kelemahan ke mengekploitasinya. Anthropic telah membatasi penggunaan model ini kepada sekelompok kecil mitra dalam proyek yang dinamakan Project Glasswing, yang bertujuan untuk memperbaiki kerentanan sebelum alat serupa tersedia secara luas.

Peneliti menunjukkan bahwa elemen dari kemampuan Mythos dapat direproduksi menggunakan model yang ada dan teknik sumber terbuka, sehingga menunjukkan bahwa alat serupa dapat menyebar lebih cepat dari yang diperkirakan. Peringatan ini mendapatkan skeptisisme dari kalangan industri. Pada bulan April, CEO OpenAI, Sam Altman, mengungkapkan bahwa kekhawatiran terkait Mythos mungkin terlalu berlebihan dan menyarankan bahwa Anthropic menggunakan “pemasaran berbasis ketakutan” untuk membingkai risiko dan membenarkan pembatasan akses terhadap teknologi tersebut. “Anda bisa membenarkan hal itu dengan berbagai cara, dan beberapa di antaranya memang valid, seperti ada kekhawatiran keselamatan yang sah,” ungkap Altman. “Namun, jika yang Anda inginkan adalah ‘kami perlu mengendalikan AI, hanya kami, karena kami adalah orang yang dapat dipercaya,’ saya rasa pemasaran berbasis ketakutan adalah cara yang paling efektif untuk membenarkan hal itu.”

Meski ada penolakan tersebut, pemerintah AS dilaporkan menggunakan Claude Mythos untuk memindai jaringan rahasia demi menemukan kerentanan dan menguji kemampuan sibernya, menurut Axios. Meskipun ia tidak membahas pertempuran hukum yang berlangsung, Amodei menyatakan bahwa Anthropic “baik untuk negara ini.”

“Saya pikir pandangan Anthropic tetap sama seperti sebelumnya. Dalam hal politisasi, ini adalah poin yang saya sampaikan tentang pentingnya kejelasan, sistematis, dan adil bagi semua pihak,” tambah Amodei. “Tujuan dari hukum adalah untuk tidak melakukan sesuatu secara ad hoc sehingga semua perusahaan diperlakukan dengan cara yang sama, setidaknya dalam prinsip—saya tahu ini lebih rumit dalam praktik—dan kita harus berusaha menuju hal itu meskipun tidak mungkin terwujud dengan sempurna.”

Amodei menggambarkan situasi ini sebagai jendela sempit untuk bertindak, memperingatkan bahwa seberapa cepat organisasi merespons dapat menentukan apakah risiko akan meningkat atau dapat dikendalikan. “Ini adalah momen berbahaya di mana jika kita merespons dengan benar, dan saya rasa kita telah mulai mengambil langkah pertama, maka kita dapat menciptakan dunia yang lebih baik di sisi lain,” tutup Amodei. “Ada hanya sejumlah bug yang bisa ditemukan.”

Mungkin kamu juga suka

Disclaimer

CryptoMarket.id berkomitmen menyajikan berita yang akurat dan transparan. Artikel ini bersifat informasi, bukan saran keuangan. Aset kripto berisiko tinggi; lakukan riset sendiri dan gunakan exchange yang terdaftar di OJK. Baca juga Disclaimer, Syarat & Ketentuan, dan Kebijakan Privasi.