Dalam laporan yang dirilis pada hari Senin, divisi intelijen ancaman Google (GTIG) mengungkapkan bahwa penjahat siber dan peretas yang didukung negara semakin memanfaatkan kecerdasan buatan generatif untuk mempercepat pengembangan eksploitasi, mengotomatiskan operasi malware, dan memperluas kampanye siber mereka. Temuan ini menunjukkan pergeseran dari eksperimen AI yang terbatas menuju penerapan operasional skala besar, di mana para lawan menggunakan AI untuk meningkatkan serangan, meskipun infrastruktur dan ekosistem perangkat lunak AI itu sendiri menjadi target.
Untuk pertama kalinya, GTIG telah mengidentifikasi sebuah eksploitasi zero-day yang dikembangkan dengan bantuan AI di dunia nyata. Menurut laporan tersebut, aktor kriminal telah menciptakan metode bypass 2FA yang menargetkan alat administrasi web open-source yang populer, menjelang rencana operasi eksploitasi massal. Kampanye ini berhasil dihentikan sebelum diluncurkan setelah GTIG bekerja sama dengan vendor untuk melakukan pengungkapan yang bertanggung jawab.
Para peneliti mencatat bahwa aktor ancaman yang terkait dengan China dan Korea Utara menunjukkan minat yang berkelanjutan terhadap penelitian kerentanan yang didukung AI, termasuk penggunaan pemicu berbasis persona, analisis eksploitasi otomatis, dan kerangka kerja agen yang dirancang untuk meningkatkan kegiatan pengintaian dan pengujian.
Di sisi malware, laporan tersebut menyoroti PROMPTSPY, sebuah backdoor Android yang menyisipkan agen otonom yang memberikan status antarmuka pengguna perangkat kepada API Gemini Google, menerima perintah terstruktur sebagai balasan, dan mengeksekusinya (seperti mengklik, menggesek, dan menavigasi) tanpa pengawasan manusia. PROMPTSPY dapat menangkap data biometrik, memutar kembali gestur otentikasi, dan bahkan mencegah pencopotan dirinya sendiri dengan membuat lapisan tidak terlihat di atas tombol “Uninstall” yang diam-diam menyerap peristiwa sentuhan.
Peneliti juga mendokumentasikan teknik obfuscation yang dibantu AI dalam malware yang terkait dengan operasi yang berafiliasi dengan Rusia, termasuk kode yang dihasilkan secara dinamis dan logika umpan yang diproduksi AI yang bertujuan untuk melewati sistem deteksi.
Google memperingatkan bahwa para penyerang sedang membangun infrastruktur profesional untuk mendapatkan akses anonim secara besar-besaran ke model AI premium melalui relai proxy, pembuatan akun otomatis, dan skema penyalahgunaan percobaan. Sementara itu, para lawan juga menargetkan rantai pasokan perangkat lunak AI itu sendiri, termasuk alat AI open-source dan lapisan integrasi model, untuk mendapatkan akses awal ke sistem perusahaan dan mencuri kredensial untuk operasi ransomware dan pemerasan.
Perusahaan tersebut menyatakan bahwa mereka menerapkan AI secara defensif melalui alat seperti Big Sleep dan CodeMender untuk mengidentifikasi dan memperbaiki kerentanan, sambil memperluas perlindungan di seluruh layanan Gemini dan layanan terkait.
Read next
SecurityPeran Kecerdasan Buatan dalam Penegakan Hukum di Tengah Meningkatnya Penipuan KriptoYou may also like
Disclaimer
CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.

