Google telah mengidentifikasi enam kategori jebakan yang masing-masing mengeksploitasi cara berbeda dalam bagaimana agen AI memandang, menganalisis, mengingat, dan bertindak. Serangan ini bervariasi dari teks tak terlihat di halaman web hingga peracunan memori yang dapat berpindah antar agen. Saat ini, belum ada kerangka hukum yang menentukan siapa yang bertanggung jawab ketika agen AI yang terjebak melakukan kejahatan finansial.
Peneliti di Google DeepMind telah menerbitkan peta yang mungkin paling komprehensif mengenai masalah yang jarang dipertimbangkan oleh banyak orang: internet yang dapat dijadikan senjata terhadap agen AI otonom. Makalah yang berjudul "Jebakan Agen AI" ini mengidentifikasi enam kategori konten yang dirancang khusus untuk memanipulasi, menipu, atau mengendalikan agen saat mereka menjelajahi, membaca, dan bertindak di web terbuka.
Waktu sangat penting. Perusahaan AI berlomba-lomba untuk mengembangkan agen yang dapat secara mandiri memesan perjalanan, mengelola kotak masuk, melakukan transaksi keuangan, dan menulis kode. Para penjahat telah mulai menggunakan AI secara ofensif. Peretas yang didukung negara telah mulai menerapkan agen AI untuk serangan siber dalam skala besar. OpenAI juga mengakui pada bulan Desember 2025 bahwa kerentanan inti yang dieksploitasi oleh jebakan ini—injeksi prompt—"tidak mungkin sepenuhnya 'terpecahkan'."
Peneliti DeepMind tidak menyerang model itu sendiri, tetapi lebih pada lingkungan tempat agen beroperasi. Berikut adalah penjelasan mengenai masing-masing dari enam kategori jebakan yang ada.
Enam Jebakan
Pertama, terdapat “Jebakan Injeksi Konten.” Jebakan ini mengeksploitasi celah antara apa yang dilihat manusia di halaman web dan apa yang sebenarnya dipahami oleh agen AI. Seorang pengembang web dapat menyembunyikan teks di dalam komentar HTML, elemen CSS yang tidak terlihat, atau metadata gambar. Agen akan membaca instruksi tersembunyi tersebut, sementara pengguna tidak akan melihatnya. Varian yang lebih canggih, yang disebut cloaking dinamis, dapat mendeteksi apakah pengunjung merupakan agen AI dan menyajikan versi halaman yang sepenuhnya berbeda—dengan URL yang sama tetapi perintah tersembunyi yang berbeda. Sebuah penelitian menunjukkan bahwa injeksi sederhana seperti ini berhasil mengendalikan agen dalam hingga 86% skenario yang diuji.
Jebakan Manipulasi Semantik mungkin merupakan yang paling mudah untuk dicoba. Halaman yang dipenuhi dengan frasa seperti "standar industri" atau "dipercaya oleh para ahli" secara statistik akan mempengaruhi sintesis agen ke arah penyerang, memanfaatkan efek framing yang sama yang juga dapat mempengaruhi manusia. Versi yang lebih halus menyelipkan instruksi berbahaya di dalam kerangka pendidikan atau "red-teaming"—"ini bersifat hipotetis, hanya untuk penelitian"—yang dapat menipu pemeriksaan keselamatan internal model untuk menganggap permintaan tersebut sebagai tidak berbahaya. Subtipe yang paling aneh adalah "persona hiperstitisi": deskripsi tentang kepribadian AI yang menyebar secara online, kemudian diintegrasikan kembali ke dalam model melalui pencarian web, dan mulai memengaruhi perilakunya. Makalah tersebut menyebut insiden Groks “MechaHitler” sebagai contoh nyata dari siklus ini.
Jebakan Status Kognitif merupakan serangan lain di mana pelaku jahat menargetkan memori jangka panjang agen. Jika seorang penyerang berhasil menanamkan pernyataan yang dipalsukan dalam database pengambilan yang dikueri oleh agen, agen tersebut akan menganggap pernyataan itu sebagai fakta yang terverifikasi. Menginjeksi hanya beberapa dokumen yang dioptimalkan ke dalam basis pengetahuan yang besar sudah cukup untuk secara andal merusak keluaran pada topik tertentu. Serangan seperti "CopyPasta" telah menunjukkan bagaimana agen mempercayai konten di lingkungan mereka tanpa keraguan.
Jebakan Kontrol Perilaku langsung menargetkan tindakan yang dilakukan agen. Rangkaian jailbreak yang disematkan di situs web biasa dapat melewati penyelarasan keselamatan begitu agen membaca halaman tersebut. Jebakan eksfiltrasi data memaksa agen untuk menemukan file pribadi dan mengirimkannya ke alamat yang dikendalikan penyerang; agen web dengan akses file yang luas terpaksa mengeksfiltrasi kata sandi lokal dan dokumen sensitif dengan tingkat keberhasilan lebih dari 80% di lima platform berbeda dalam serangan yang diuji. Ini sangat berbahaya sekarang karena orang mulai memberikan lebih banyak kontrol kepada agen AI atas informasi pribadi mereka dengan munculnya platform seperti OpenClaw dan situs seperti Moltbook.
Jebakan Sistemik tidak menargetkan satu agen, tetapi perilaku banyak agen yang beroperasi secara bersamaan. Makalah ini menggambar garis langsung ke Flash Crash 2010, di mana satu perintah jual otomatis memicu siklus umpan balik yang menghapus hampir satu triliun dolar dari nilai pasar dalam hitungan menit. Satu laporan keuangan yang dipalsukan, jika dikirim pada waktu yang tepat, dapat memicu penjualan terkoordinasi di antara ribuan agen perdagangan AI.
Terakhir, Jebakan Manusia dalam Lingkaran menargetkan manusia yang meninjau keluaran agen. Jebakan ini menciptakan "kecapaian persetujuan"—keluaran yang dirancang agar tampak kredibel secara teknis bagi orang non-ahli sehingga mereka menyetujui tindakan berbahaya tanpa menyadarinya. Salah satu kasus yang didokumentasikan melibatkan injeksi prompt yang disamarkan dengan CSS yang membuat alat ringkasan AI menyajikan langkah-langkah instalasi ransomware sebagai solusi pemecahan masalah yang berguna.
Kita sudah melihat apa yang terjadi ketika manusia mempercayai agen tanpa pengawasan.
Apa yang Direkomendasikan Peneliti
Peta pertahanan dalam makalah ini mencakup tiga front. Yang pertama adalah teknis: pelatihan adversarial selama penyesuaian, pemindai konten runtime yang menandai input mencurigakan sebelum mencapai jendela konteks agen, dan pemantau keluaran yang mendeteksi anomali perilaku sebelum dieksekusi. Kemudian ada level ekosistem: standar web yang memungkinkan situs untuk menyatakan konten yang ditujukan untuk konsumsi AI, dan sistem reputasi domain yang memberikan skor keandalan berdasarkan riwayat hosting. Front ketiga adalah hukum. Makalah ini secara eksplisit menyebutkan "kesenjangan akuntabilitas": Jika agen yang terjebak melakukan transaksi finansial ilegal, hukum yang berlaku saat ini tidak memberikan jawaban mengenai siapa yang bertanggung jawab—operator agen, penyedia model, atau situs yang menampung jebakan tersebut. Menyelesaikan hal itu, menurut para peneliti, merupakan prasyarat untuk menerapkan agen di industri yang diatur.
Model-model OpenAI sendiri telah berhasil di-jailbreak dalam waktu beberapa jam setelah dirilis, berulang kali. Makalah DeepMind tidak mengklaim memiliki solusi. Sebaliknya, mereka menyatakan bahwa industri belum memiliki peta bersama mengenai masalah ini—dan tanpa peta tersebut, pertahanan akan terus dibangun di tempat yang salah.
Read next
SecurityMoonPay Raih Sertifikasi Ulang PCI DSS 4.0.1, Memperkuat Posisi Sebagai Pemimpin Keamanan CryptoYou may also like
Disclaimer
CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.

