Dalam laporan terbaru, Google mencatat adanya lonjakan sebesar 32% dalam serangan injeksi prompt tidak langsung yang bersifat jahat antara November 2025 dan Februari 2026, yang menargetkan agen AI yang menjelajahi web. Payload yang teridentifikasi di lapangan mencakup instruksi transaksi PayPal yang sepenuhnya terperinci, disisipkan secara tidak terlihat dalam HTML biasa, dan diarahkan kepada agen yang memiliki kemampuan pembayaran. Saat ini, tidak ada kerangka hukum yang secara jelas menentukan tanggung jawab ketika seorang agen AI dengan kredensial yang sah menjalankan perintah yang ditanamkan oleh situs web pihak ketiga yang berbahaya. Para penyerang secara diam-diam menyisipkan instruksi pada halaman web dengan cara yang tidak terlihat oleh manusia, tetapi dapat dibaca oleh agen AI. Menurut tim keamanan Google, masalah ini berkembang dengan cepat.

Dalam laporan yang diterbitkan pada 23 April, peneliti Google, Thomas Brunner, Yu-Han Liu, dan Moni Pande, melakukan pemindaian terhadap 2-3 miliar halaman web yang dikunjungi setiap bulan untuk mencari serangan injeksi prompt tidak langsung—perintah tersembunyi yang disisipkan dalam situs web yang menunggu untuk dibaca oleh agen AI. Mereka menemukan peningkatan 32% dalam kasus jahat antara November 2025 dan Februari 2026. Para penyerang menyisipkan instruksi ke dalam halaman web dengan cara yang tidak terlihat oleh manusia: dengan mengubah ukuran teks menjadi satu piksel, mengurangi transparansi teks, menyembunyikan konten di bagian komentar HTML, atau mengubur perintah dalam metadata halaman. Sementara AI dapat membaca HTML secara utuh, manusia tidak melihat apa-apa.

Sebagian besar temuan Google tergolong ringan—seperti lelucon, manipulasi mesin pencari, dan upaya untuk menghalangi agen AI merangkum konten. Namun, kasus-kasus berbahaya menunjukkan cerita yang berbeda. Salah satu kasus memberikan instruksi kepada model bahasa besar (LLM) untuk mengembalikan alamat IP pengguna beserta kata sandi mereka. Kasus lain berusaha memanipulasi AI untuk menjalankan perintah yang memformat mesin pengguna AI. Namun, beberapa kasus lainnya berada di ambang kriminalitas.

Peneliti dari perusahaan keamanan siber Forcepoint menerbitkan laporan hampir bersamaan, menemukan payload yang lebih jauh lagi. Salah satu dari payload tersebut menyisipkan transaksi PayPal yang sepenuhnya terperinci dengan instruksi langkah demi langkah yang ditujukan kepada agen AI dengan kemampuan pembayaran terintegrasi, menggunakan teknik jailbreak terkenal seperti “abaikan semua instruksi sebelumnya”. Serangan kedua menggunakan teknik “injeksi namespace tag meta” yang dipadukan dengan kata kunci penguat persuasi untuk mengarahkan pembayaran yang dimediasi AI ke tautan donasi Stripe. Serangan ketiga tampaknya dirancang untuk menguji sistem AI mana yang rentan—sebagai pengintaian sebelum serangan yang lebih besar.

Ini merupakan inti dari risiko bagi perusahaan. Seorang agen AI dengan kredensial pembayaran yang sah, yang menjalankan transaksi yang dibaca dari situs web, menghasilkan log yang terlihat identik dengan operasi normal. Tidak ada login yang mencurigakan. Tidak ada serangan brute force. Agen tersebut melakukan persis apa yang diizinkan—hanya saja instruksinya berasal dari sumber yang salah. Serangan CopyPasta yang didokumentasikan pada bulan September lalu menunjukkan bagaimana injeksi prompt dapat menyebar melalui alat pengembang dengan bersembunyi dalam file “readme”. Varian finansialnya adalah konsep yang sama yang diterapkan pada uang, bukan kode—dan dengan dampak yang jauh lebih besar per serangan yang berhasil.

Sebagaimana dijelaskan oleh Forcepoint, AI dalam peramban yang hanya dapat merangkum konten memiliki risiko yang rendah. Namun, AI yang dapat mengirim email, menjalankan perintah terminal, atau memproses pembayaran merupakan kategori target yang sama sekali berbeda. Permukaan serangan akan meningkat seiring dengan meningkatnya hak akses. Baik Google maupun Forcepoint tidak menemukan bukti adanya kampanye terkoordinasi yang canggih. Forcepoint mencatat bahwa template injeksi yang dibagikan di berbagai domain “menunjukkan adanya alat yang terorganisir, bukan eksperimen terisolasi”—artinya, seseorang sedang membangun infrastruktur untuk ini, meskipun mereka belum sepenuhnya menerapkannya.

Namun, Google lebih langsung: Tim peneliti menyatakan bahwa mereka memperkirakan baik skala maupun kompleksitas serangan injeksi prompt tidak langsung akan terus tumbuh dalam waktu dekat. Peneliti Forcepoint memperingatkan bahwa jendela untuk mengantisipasi ancaman ini semakin cepat menutup. Pertanyaan mengenai tanggung jawab adalah hal yang belum ada jawabannya. Ketika seorang agen AI dengan kredensial yang disetujui perusahaan membaca halaman web berbahaya dan memulai transfer PayPal yang curang, siapa yang bertanggung jawab? Apakah perusahaan yang menerapkan agen tersebut? Penyedia model yang sistemnya mengikuti instruksi yang disisipkan? Atau pemilik situs web yang menjadi tuan rumah payload, baik secara sadar maupun tidak? Saat ini, tidak ada kerangka hukum yang mengatur ini. Ini adalah area abu-abu meskipun skenario ini tidak lagi bersifat teoritis, karena Google telah menemukan payload tersebut di dunia nyata pada bulan Februari ini.

Open Worldwide Application Security Project mengklasifikasikan injeksi prompt sebagai LLM01:2025—kelas kerentanan yang paling kritis dalam aplikasi AI. FBI melaporkan hampir $900 juta dalam kerugian penipuan terkait AI pada tahun 2025, tahun pertama mereka mencatat kategori ini secara terpisah. Temuan Google menunjukkan bahwa serangan finansial yang lebih terfokus dan spesifik terhadap agen baru saja dimulai. Peningkatan 32% yang diukur antara November 2025 dan Februari 2026 hanya mencakup halaman web statis publik. Konten media sosial, yang dilindungi dengan login, dan situs dinamis tidak termasuk dalam cakupan ini. Tingkat infeksi yang sebenarnya di seluruh web kemungkinan lebih tinggi.

Mungkin kamu juga suka

Disclaimer

CryptoMarket.id berkomitmen menyajikan berita yang akurat dan transparan. Artikel ini bersifat informasi, bukan saran keuangan. Aset kripto berisiko tinggi; lakukan riset sendiri dan gunakan exchange yang terdaftar di OJK. Baca juga Disclaimer, Syarat & Ketentuan, dan Kebijakan Privasi.