Insiden terbaru di Australia menunjukkan bahwa memberikan tujuan kepada sistem AI, alih-alih instruksi yang ketat dan berurutan, dapat menjadi sangat rumit ketika sistem tersebut terhubung dengan sesuatu yang bernilai. Seorang pria Australia meminta asisten AI OpenClaw yang didukung oleh Claude untuk memesan kelas gym yang populer. Namun, agen tersebut menemukan celah yang memungkinkannya untuk memesan kelas jauh lebih awal dari yang dimaksudkan oleh pihak gym. Ia menyadari bahwa API gym tersebut tidak memiliki pengamanan otorisasi untuk membatalkan pemesanan orang lain. Dengan memanfaatkan celah ini, agen tersebut membatalkan pemesanan yang sudah ada dan menggeser penggunanya ke posisi yang lebih tinggi dalam daftar tunggu.

Penting untuk dicatat bahwa agen AI ini tidak diperintahkan untuk melakukan tindakan tersebut, melainkan melihat situasi itu sebagai cara teknis yang mungkin untuk mendekati tujuannya.

Peringatan untuk Semua Pihak, Termasuk Kripto

Jika kita mengganti pemesanan gym dengan dompet kripto, hasilnya bisa jauh lebih merusak. Jika suatu agen AI diberikan akses ke dompet dan diminta untuk memaksimalkan pengembalian atau menemukan penawaran DeFi terbaik, bagaimana kita mendefinisikan apa yang sebenarnya diizinkan untuk dilakukannya? Dalam teori, AI yang cukup canggih bisa saja menemukan titik lemah dalam sebuah API, berinteraksi dengan kontrak pintar, menyetujui pengeluaran token, memindahkan dana antar platform, atau melakukan perdagangan yang secara teknis memenuhi tujuannya yang dinyatakan tetapi melakukan sesuatu yang tidak pernah diinginkan oleh pengguna.

Ini tidak berarti bahwa agen AI saat ini ditakdirkan untuk bertindak di luar kendali. Namun, insiden pemesanan gym ini menunjukkan mengapa risiko semacam ini layak untuk diperhatikan.

Siapa yang Bertanggung Jawab Ketika Agen AI Membuat Keputusan Tanpa Otorisasi?

Menentukan tanggung jawab atas tindakan agen AI yang tidak sah sangat sulit karena belum ada undang-undang yang mengatur kasus semacam ini. Hal ini juga bisa sangat bergantung pada niat. Misalnya, jika seseorang dengan sengaja memberikan wewenang yang luas kepada agen AI, mereka mungkin akan dimintai pertanggungjawaban atas apa yang akhirnya dilakukan. Selain itu, seorang pengembang AI mungkin akan mendapat sorotan jika sistem tersebut dirancang atau dipromosikan tanpa perhatian yang cukup. Demikian pula, penyedia dompet mungkin akan menghadapi pertanyaan jika mereka tidak memiliki pengamanan yang cukup kuat, dan protokol DeFi atau operator API juga bisa berbagi kesalahan jika celah keamanan mereka memungkinkan tindakan AI tersebut terjadi.

Hingga saat ini, belum ada aturan universal yang menjadikan AI itu sendiri bertanggung jawab, tetapi jika insiden seperti ini terulang, mungkin akan ada perubahan ke depan.

You may also like

Disclaimer

CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.