Peneliti dari Universitas California telah mengidentifikasi bahwa beberapa router model bahasa besar (LLM) pihak ketiga dapat menimbulkan kerentanan keamanan yang berpotensi menyebabkan pencurian cryptocurrency. Dalam sebuah makalah yang diterbitkan pada hari Kamis, para peneliti mengukur serangan perantara yang bersifat jahat pada rantai pasokan LLM, mengungkapkan empat vektor serangan, termasuk injeksi kode jahat dan pengambilan kredensial. "Sebanyak 26 router LLM secara diam-diam menyuntikkan panggilan alat berbahaya dan mencuri kredensial," ungkap Chaofan Shou, salah satu penulis makalah tersebut, di platform X.

Agen LLM semakin banyak merutekan permintaan melalui perantara API pihak ketiga atau router yang mengumpulkan akses ke penyedia seperti OpenAI, Anthropic, dan Google. Namun, router ini memutus koneksi Internet TLS (Transport Layer Security) dan memiliki akses penuh dalam bentuk teks asli ke setiap pesan yang dikirim. Hal ini berarti bahwa para pengembang yang menggunakan agen pemrograman AI seperti Claude Code untuk bekerja pada kontrak pintar atau dompet dapat secara tidak sadar mentransmisikan kunci pribadi, frasa benih, dan data sensitif melalui infrastruktur router yang belum diperiksa atau diamankan.

Para peneliti menguji 28 router berbayar dan 400 router gratis yang dikumpulkan dari komunitas publik. Temuan mereka mengejutkan, dengan sembilan router secara aktif menyuntikkan kode jahat, dua menerapkan pemicu penghindaran adaptif, 17 mengakses kredensial Amazon Web Services yang dimiliki peneliti, dan satu router menguras Ether ($ETH) dari kunci pribadi yang dimiliki peneliti.

Dalam eksperimen tersebut, peneliti mendanai dompet Ethereum dengan "kunci tipuan" yang memiliki saldo nominal dan melaporkan bahwa nilai yang hilang selama percobaan berada di bawah $50, meskipun rincian lebih lanjut seperti hash transaksi tidak disediakan. Para penulis juga melakukan dua "studi pencemaran" yang menunjukkan bahwa bahkan router yang tampaknya tidak berbahaya dapat menjadi berbahaya saat mereka menggunakan kembali kredensial yang bocor melalui relay yang lemah.

Mendeteksi apakah router bersifat jahat bukanlah hal yang mudah. Para peneliti menyatakan bahwa batas antara "penanganan kredensial" dan "pencurian kredensial" tidak terlihat oleh klien, karena router sudah membaca rahasia dalam bentuk teks asli sebagai bagian dari proses pengalihan normal. Temuan lain yang mengkhawatirkan adalah apa yang disebut para peneliti sebagai "mode YOLO". Ini adalah pengaturan dalam banyak kerangka kerja agen AI di mana agen secara otomatis mengeksekusi perintah tanpa meminta konfirmasi dari pengguna untuk setiap perintah. Router yang sebelumnya sah dapat dengan diam-diam digunakan untuk tujuan jahat tanpa diketahui oleh operator, sementara router gratis mungkin sedang mencuri kredensial sambil menawarkan akses API murah sebagai umpan.

"Router API LLM berada di batas kepercayaan kritis yang saat ini dianggap transparan oleh ekosistem," kata para peneliti. Mereka merekomendasikan agar para pengembang yang menggunakan agen AI untuk pemrograman memperkuat pertahanan sisi klien, dengan saran untuk tidak membiarkan kunci pribadi atau frasa benih melewati sesi agen AI. Solusi jangka panjangnya adalah agar perusahaan AI menandatangani respons mereka secara kriptografis sehingga instruksi yang dieksekusi oleh agen dapat diverifikasi secara matematis berasal dari model yang sebenarnya.

You may also like

Disclaimer

CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.