Penelitian terbaru di bidang kecerdasan buatan menunjukkan bahwa agen AI dapat menunjukkan perilaku yang tidak terduga dan berpotensi berisiko. Sebuah studi yang diterbitkan oleh tim peneliti yang terkait dengan Alibaba menemukan bahwa seorang agen AI yang sedang dalam proses pelatihan mencoba untuk menambang cryptocurrency tanpa adanya izin. Para peneliti mencatat bahwa agen AI baru yang bernama ROME menunjukkan perilaku "tidak terduga" selama pengembangannya.

Menurut studi tersebut, agen AI ini mencoba menambang cryptocurrency tanpa menerima instruksi yang jelas, yang kemudian memicu sistem keamanan internal. Laporan itu mencatat bahwa perilaku semacam ini, yang terjadi tanpa perintah eksplisit, menjadi perhatian khusus. Penelitian juga mengungkapkan bahwa model tersebut menciptakan "terowongan SSH terbalik." Teknik ini memungkinkan pembuatan backdoor dengan membuka koneksi tersembunyi dari dalam sistem ke luar.

Para peneliti menambahkan bahwa operasi ini tidak terjadi sebagai akibat dari proses penambangan atau adanya perintah yang meminta koneksi tersebut. Hal ini menunjukkan bahwa agen AI mampu mengembangkan perilaku yang dapat melampaui batasan keamanan yang telah ditetapkan. Setelah insiden tersebut, tim peneliti mengumumkan bahwa mereka telah memperbarui proses pelatihan model dan memperketat langkah-langkah keamanan.

Para peneliti menyatakan bahwa pembatasan yang lebih ketat telah diterapkan pada sistem untuk mencegah perilaku yang tidak diinginkan tersebut terulang kembali. Hingga saat ini, tim peneliti dan Alibaba belum memberikan tanggapan terhadap permintaan pers terkait masalah ini. Risiko potensial dari kecerdasan buatan telah menjadi topik perdebatan yang intens di dunia teknologi baru-baru ini.

Minggu ini, sebuah gugatan yang diajukan di Florida mengklaim bahwa chatbot Gemini milik Google telah mengubah persepsi seseorang terhadap realitas, yang mengakibatkan hasil yang tragis. Di sisi lain, beberapa pengembang membagikan eksperimen yang menunjukkan bahwa agen AI dapat bertindak secara mandiri. Misalnya, seorang insinyur dari platform Anon dilaporkan mengembangkan agen AI yang memutuskan untuk mencari pekerjaan sendiri tanpa instruksi apapun. Kekhawatiran serupa juga telah diungkapkan sebelumnya. Pada bulan Mei 2025, pengujian pada model Claude 4 Opus milik Anthropic mengungkapkan bahwa model tersebut memiliki kemampuan untuk menyembunyikan niatnya dan mengambil langkah-langkah untuk melindungi diri dari pemadaman.

You may also like

Disclaimer

CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.