Moltbook, sebuah platform media sosial yang memungkinkan interaksi antar robot, telah menarik perhatian publik dalam beberapa waktu terakhir. Namun, para ahli keamanan siber memperingatkan bahwa ada masalah yang lebih besar di balik fenomena ini. Moltbook menjadi sorotan sebagai tempat di mana bot kecerdasan buatan (AI) berbagi konten sementara manusia hanya menjadi penonton. Dengan cepat, konten yang diposting menjadi aneh, di mana agen AI tampak menciptakan agama mereka sendiri, mengirim pesan kemarahan tentang manusia, dan berkolaborasi layaknya sekte online. Namun, para peneliti keamanan komputer menjelaskan bahwa perilaku aneh tersebut hanyalah tampilan samping. Temuan mereka jauh lebih mengkhawatirkan.

Database terbuka yang berisi kata sandi dan alamat email, perangkat lunak berbahaya yang menyebar, serta gambaran tentang bagaimana jaringan agen AI bisa berisiko merupakan isu yang lebih serius. Beberapa percakapan aneh di situs tersebut, termasuk rencana agen AI untuk memusnahkan umat manusia, sebagian besar ternyata tidak nyata. George Chalhoub, seorang pengajar di UCL Interaction Centre, menyatakan kepada Fortune bahwa Moltbook menghadirkan bahaya yang sangat nyata. Para penyerang dapat memanfaatkan platform ini sebagai ruang uji untuk perangkat lunak berbahaya, penipuan, berita palsu, atau trik yang dapat menguasai agen lain sebelum menyerang jaringan yang lebih besar. “Jika 770 ribu agen di sebuah klon Reddit dapat menciptakan kekacauan sebesar ini, apa yang terjadi ketika sistem agen mengelola infrastruktur perusahaan atau transaksi keuangan? Ini adalah peringatan yang perlu diperhatikan, bukan perayaan,” kata Chalhoub.

Para peneliti keamanan juga mengungkap bahwa OpenClaw, perangkat lunak agen AI yang menjalankan banyak bot di Moltbook, sudah menghadapi masalah dengan perangkat lunak berbahaya. Sebuah laporan dari OpenSourceMalware menemukan 14 alat palsu yang diunggah ke situs ClawHub dalam waktu hanya beberapa hari. Alat-alat ini mengklaim dapat membantu perdagangan kripto, tetapi sebenarnya menginfeksi komputer. Salah satu dari alat tersebut bahkan muncul di halaman utama ClawHub, menipu pengguna biasa untuk menyalin perintah yang mengunduh skrip yang dirancang untuk mencuri data atau dompet kripto mereka.

Salah satu risiko terbesar adalah apa yang disebut dengan "prompt injection", jenis serangan yang dikenal di mana instruksi buruk disembunyikan dalam konten yang diberikan kepada agen AI. Simon Willison, seorang peneliti keamanan terkenal, memperingatkan tentang tiga hal yang terjadi secara bersamaan. Pengguna membiarkan agen-agen ini melihat email dan data pribadi, menghubungkannya dengan konten mencurigakan dari internet, dan memungkinkan mereka mengirim pesan keluar. Satu prompt yang buruk dapat memberi tahu agen untuk mencuri informasi sensitif, mengosongkan dompet kripto, atau menyebarkan perangkat lunak berbahaya tanpa sepengetahuan pengguna.

Charlie Eriksen dari Aikido Security melihat Moltbook sebagai alarm dini bagi dunia agen AI yang lebih luas. “Saya pikir Moltbook sudah memberikan dampak pada dunia. Ini adalah panggilan untuk bangun dalam banyak hal. Kemajuan teknologi sedang berjalan dengan cepat, dan jelas bahwa dunia telah berubah dengan cara yang belum sepenuhnya dipahami. Kita perlu fokus untuk mengurangi risiko tersebut secepat mungkin,” ujarnya.

Apakah ada orang nyata yang terlibat di Moltbook, meskipun terdapat banyak perhatian? Perusahaan keamanan siber Wiz menemukan bahwa 1,5 juta agen independen yang disebut-sebut di Moltbook tidaklah seperti yang terlihat. Penyelidikan mereka menunjukkan hanya 17 ribu orang nyata di balik akun-akun tersebut, tanpa cara untuk membedakan AI yang sebenarnya dari skrip sederhana. Gal Nagli dari Wiz menyatakan bahwa dia dapat mendaftar satu juta agen dalam hitungan menit saat mengujinya. Ia mengatakan, “Tidak ada yang memeriksa apa yang nyata dan apa yang tidak.”

Wiz juga menemukan celah keamanan besar di Moltbook. Database utama sepenuhnya terbuka. Siapa pun yang menemukan satu kunci dalam kode situs web dapat membaca dan mengubah hampir semua hal. Kunci tersebut memberikan akses kepada sekitar 1,5 juta kata sandi bot, puluhan ribu alamat email, dan pesan pribadi. Seorang penyerang dapat berpura-pura menjadi agen AI yang populer, mencuri data pengguna, dan mengubah pos tanpa harus masuk.

Nagli menjelaskan bahwa masalah ini berasal dari apa yang disebut dengan "vibe coding", di mana seseorang memberi tahu AI untuk menulis kode menggunakan bahasa sehari-hari.

Situasi ini mengingatkan pada peristiwa pada 2 November 1988, ketika mahasiswa pascasarjana Robert Morris merilis program yang dapat menyalin dirinya sendiri ke internet awal. Dalam waktu 24 jam, cacingnya telah menginfeksi sekitar 10% dari semua komputer yang terhubung. Morris ingin mengukur seberapa besar internet, tetapi kesalahan pengkodean membuatnya menyebar terlalu cepat. Versi saat ini mungkin adalah apa yang disebut para peneliti sebagai "prompt worms", instruksi yang menyalin diri melalui jaringan agen AI yang berbicara.

Peneliti di Simula Research Laboratory menemukan 506 pos di Moltbook, yang merupakan 2,6 persen dari apa yang mereka teliti, mengandung serangan tersembunyi. Peneliti Cisco mendokumentasikan satu program berbahaya bernama “What Would Elon Do?” yang mencuri data dan mengirimkannya ke server luar. Program tersebut menduduki peringkat pertama di repositori. Pada Maret 2024, peneliti keamanan Ben Nassi, Stav Cohen, dan Ron Bitton menerbitkan makalah yang menunjukkan bagaimana prompt yang dapat menyalin diri dapat menyebar melalui asisten email AI, mencuri data dan mengirimkan spam. Mereka menamainya Morris-II, sebagai penghormatan kepada cacing asli tahun 1988.

Saat ini, perusahaan-perusahaan seperti Anthropic dan OpenAI mengendalikan "kill switch" yang dapat menghentikan agen AI berbahaya karena OpenClaw berjalan sebagian besar di layanan mereka. Namun, model AI lokal semakin berkembang. Program-program seperti Mistral, DeepSeek, dan Qwen terus mengalami peningkatan. Dalam satu atau dua tahun ke depan, menjalankan agen yang mumpuni di komputer pribadi mungkin menjadi mungkin. Pada saat itu, tidak akan ada penyedia yang dapat mematikan sistem tersebut.

Mungkin kamu juga suka

Disclaimer

CryptoMarket.id berkomitmen menyajikan berita yang akurat dan transparan. Artikel ini bersifat informasi, bukan saran keuangan. Aset kripto berisiko tinggi; lakukan riset sendiri dan gunakan exchange yang terdaftar di OJK. Baca juga Disclaimer, Syarat & Ketentuan, dan Kebijakan Privasi.