Sebuah studi oleh peneliti dari Cambridge, Edinburgh, dan Strathclyde menganalisis 97.895 utas forum cybercrime yang diposting setelah peluncuran ChatGPT. Meskipun alat “Dark AI” seperti WormGPT menciptakan buzz budaya, mereka hampir tidak menghasilkan malware yang berfungsi, sementara chatbot yang di-jailbreak semakin sulit untuk dipertahankan lebih dari beberapa hari. Kejahatan yang paling terukur yang dipicu oleh AI bukanlah peretasan, melainkan spam SEO yang diproduksi secara massal, penipuan cinta, dan gambar telanjang yang dihasilkan oleh AI dan dijual seharga satu dolar masing-masing.
Selama tiga tahun terakhir, perusahaan cybersecurity, pemerintah, dan laboratorium AI telah memperingatkan bahwa AI generatif akan melahirkan generasi baru peretas yang lebih berkemampuan. Namun, sebuah makalah akademis terbaru yang melakukan analisis mendalam menunjukkan bahwa peretas tersebut sebagian besar menggunakan ChatGPT untuk menulis spam dan menghasilkan gambar telanjang untuk kesenangan semata. Studi ini, berjudul “Stand-Alone Complex or Vibercrime?”, dipublikasikan di arXiv oleh para peneliti dari Cambridge dan universitas lainnya dengan tujuan untuk memahami bagaimana dunia bawah tanah cybercrime sebenarnya mengadopsi AI, bukan bagaimana vendor cybersecurity menggambarkannya.
Para peneliti melakukan analisis terhadap 97.895 utas forum yang diposting setelah peluncuran ChatGPT pada November 2022, yang diambil dari dataset CrimeBB dari Cambridge Cybercrime Centre yang mencakup forum bawah tanah dan dark web. Mereka menjalankan model topik, membaca lebih dari 3.200 utas secara manual, dan terjun langsung ke dalam lingkungan tersebut. Kesimpulan yang dihasilkan tidak terlalu menggembirakan bagi komunitas yang khawatir tentang AI: 97,3% dari utas dalam sampel diklasifikasikan sebagai “lainnya,” yang berarti tidak benar-benar membahas penggunaan AI untuk kejahatan. Hanya 1,9% yang melibatkan penggunaan alat coding vibe.
Ingat WormGPT, FraudGPT, dan gelombang chatbot berbahaya yang menghiasi berita di tahun 2023? Data forum menunjukkan cerita yang berbeda. Sebagian besar posting tentang produk “Dark AI,” ditemukan oleh para peneliti, adalah permohonan untuk akses gratis, spekulasi yang tidak berdasar, dan keluhan bahwa alat tersebut sebenarnya tidak berfungsi. Salah satu pengembang layanan Dark AI yang populer akhirnya mengakui kepada anggota forum bahwa produk tersebut hanyalah sebuah latihan pemasaran. “Pada akhirnya, [CybercrimeAI] tidak lebih dari sekadar ChatGPT yang tidak dibatasi,” tulis pengembang tersebut sebelum proyek itu dihentikan. “Siapa pun di Internet dapat menggunakan teknik jailbreak yang dikenal dan mencapai hasil yang sama, jika tidak lebih baik.”
Menurut para peneliti, pada akhir 2024, jailbreak untuk model mainstream telah menjadi sesuatu yang sekali pakai. Sebagian besar berhenti berfungsi dalam waktu seminggu atau kurang. Model sumber terbuka dapat di-jailbreak tanpa batas, tetapi mereka lambat, memerlukan banyak sumber daya, dan terjebak dalam waktu. “Pengawasan untuk sistem AI terbukti berguna dan efektif,” simpul para penulis, dalam temuan yang mereka sebut kontra-intuitif untuk sebuah makalah kritis.
Makalah ini juga membahas laporan yang banyak dibahas dari Anthropic pada Agustus 2025 yang mengklaim bahwa Claude Code telah digunakan untuk menjalankan kampanye pemerasan “vibe hacking” terhadap 17 organisasi. Namun, data tim Cambridge tidak menunjukkan pola itu dalam lingkup lebih luas. Di forum yang mereka teliti, asisten pengkodean AI digunakan dengan cara yang sama seperti digunakan oleh pengembang mainstream: sebagai pengganti autocomplete dan Stack Overflow untuk pengkode yang sudah terampil. Para aktor dengan keterampilan rendah lebih memilih skrip yang sudah jadi, karena skrip tersebut terbukti efektif.
Peneliti menemukan bahwa bahkan para peretas tidak mempercayai alat hacking yang mereka ciptakan menggunakan coding vibe. “Pengkodean yang dibantu AI adalah pedang bermata dua. Ini akan mempercepat pengembangan tetapi juga memperbesar risiko seperti kode yang tidak aman dan kerentanan rantai pasokan,” kata salah satu pengguna di forum yang dipantau oleh para peneliti. Yang lain memperingatkan tentang hilangnya keterampilan jangka panjang: “Sekarang jelas bahwa menggunakan AI untuk kode menyebabkan degradasi keterampilan yang sangat cepat,” tulis seorang peretas di forum, “Jika tujuan Anda hanya untuk menghasilkan penipuan SaaS dan Anda tidak peduli tentang kualitas/keselamatan/kinerja kode, mungkin bisa untuk menggunakan coding vibe. (Juga tampaknya layak untuk phishing).”
Hal ini sangat kontras dengan ramalan alarmis dari Europol, yang memperingatkan pada tahun 2025 bahwa AI yang sepenuhnya otonom suatu hari bisa mengendalikan jaringan kriminal. Namun, di mana AI benar-benar membantu para penjahat adalah di bagian bawah rantai makanan. Penipu SEO menggunakan model bahasa besar (LLM) untuk memproduksi spam blog secara massal demi mengejar pendapatan iklan yang menurun. Penipu cinta dan operator eWhoring menggabungkan suara dan gambar yang dihasilkan. Para pengusaha cepat kaya menghasilkan eBook yang ditulis oleh AI untuk dijual seharga $20 per buku.
Pasar yang paling mengkhawatirkan yang ditemukan para peneliti melibatkan layanan pembuatan gambar telanjang. Seorang operator mengiklankan: “Saya dapat membuat foto telanjang wanita mana pun dengan AI… 1 Foto = $1, 10 Foto = $8, 50 Foto = $40, 90 Foto = $75.” Semua ini bukanlah kejahatan cyber yang canggih. Ini adalah usaha dengan margin rendah dan volume tinggi yang telah mendukung industri spam selama dua dekade, kini beroperasi dengan alat yang sedikit lebih baik.
Observasi penutup dari para peneliti adalah yang paling tajam. Cara terbesar AI mengganggu ekosistem cybercrime, mereka sarankan, mungkin bukan dengan membuat para penjahat lebih mampu, tetapi dengan memaksa pengembang yang di-PHK dari teknologi yang sah untuk mencari pekerjaan di dunia bawah tanah. “Dalam beberapa bulan terakhir, kecemasan tentang gangguan pasar tenaga kerja akibat alat ini meningkat dengan cepat,” tulis makalah tersebut. “Ini mungkin menjadi cara terpenting di mana alat AI generatif mengganggu ekosistem cybercrime—PHK massal, penurunan ekonomi, dan pasar kerja yang dingin memaksa pengembang yang lebih terampil untuk masuk ke dalam komunitas bawah tanah yang penuh dengan skema cepat kaya, penipuan, dan kejahatan siber.”
Read next
SecurityAncaman Cyber: CEO Anthropic Peringatkan Pentingnya Tindakan Segera Terhadap Kerentanan Perangkat LunakYou may also like
Disclaimer
CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.


