Grup Intelijen Ancaman Google (GTIG) kembali memperingatkan tentang risiko yang terkait dengan kecerdasan buatan (AI) dalam laporan terbarunya. Laporan ini mengungkapkan bagaimana peretas yang didukung negara mengutilisasi AI untuk tujuan berbahaya. Tim ini mencatat adanya peningkatan dalam upaya ekstraksi model, sebuah metode pencurian kekayaan intelektual di mana seseorang terus-menerus melakukan kueri pada model AI dengan tujuan memahami logika internalnya dan mereplikasikannya ke dalam model baru.
Laporan terbaru dari GTIG menjelaskan bagaimana aktor ancaman memanfaatkan AI untuk berbagai keperluan, mulai dari rekognisi yang canggih hingga phishing dan pengembangan malware otomatis. Meskipun ini sangat mengkhawatirkan, laporan tersebut menekankan bahwa risiko utama yang ingin disampaikan Google adalah penggunaan model bahasa besar (LLMs) oleh aktor ancaman yang didukung pemerintah untuk penelitian teknis, penargetan, dan pembuatan skema phishing yang lebih halus dengan cepat.
Kekhawatiran dalam laporan ini mencakup negara-negara seperti Republik Rakyat Demokratik Korea, Iran, Republik Rakyat Tiongkok, dan Rusia.
Dalam konteks ini, aktor-aktor tersebut dilaporkan menggunakan alat AI, termasuk Gemini milik Google, untuk melakukan rekognisi dan penggambaran target. Mereka secara luas mengumpulkan intelijen sumber terbuka dan menciptakan skema phishing yang sangat dipersonalisasi. "Aktivitas ini menyoroti pergeseran menuju kemampuan phishing yang didorong oleh AI, di mana kecepatan dan akurasi LLM dapat melewati pekerjaan manual yang biasanya diperlukan untuk pemprofilan korban," ungkap laporan Google.
"Target selama ini bergantung pada indikator seperti tata bahasa yang buruk, sintaksis yang canggung, atau kurangnya konteks budaya untuk membantu mengidentifikasi upaya phishing. Semakin banyak, aktor ancaman kini memanfaatkan LLM untuk menghasilkan umpan yang sangat dipersonalisasi, yang dapat mencerminkan nada profesional dari organisasi target."
Sebagai contoh, jika Gemini diberikan biografi seorang target, ia dapat menghasilkan persona yang meyakinkan dan membantu menciptakan skenario yang dapat menarik perhatian target tersebut. Dengan memanfaatkan AI, para aktor ancaman ini juga dapat lebih efektif dalam menerjemahkan ke dalam dan dari bahasa lokal.
Seiring dengan meningkatnya kemampuan AI dalam menghasilkan kode, hal ini juga membuka peluang untuk penyalahgunaannya. Aktor-aktor ini dapat memecahkan masalah dan menghasilkan alat berbahaya menggunakan kemampuan pengkodean AI. Laporan tersebut juga memperingatkan tentang minat yang semakin meningkat dalam bereksperimen dengan AI yang memiliki agensi—sebuah bentuk kecerdasan buatan yang dapat bertindak dengan tingkat otonomi, mendukung tugas-tugas seperti pengembangan dan otomatisasi malware.
Google mencatat upaya mereka dalam mengatasi masalah ini melalui berbagai langkah. Selain menyusun laporan Intelijen Ancaman beberapa kali dalam setahun, perusahaan ini memiliki tim yang secara konstan mencari ancaman. Google juga menerapkan langkah-langkah untuk memperkuat Gemini menjadi model yang tidak dapat digunakan untuk tujuan jahat. Melalui Google DeepMind, tim berusaha mengidentifikasi ancaman sebelum dapat terjadi.
Secara efektif, Google berusaha untuk mengenali fungsi-fungsi berbahaya dan menghilangkannya sebelum dapat menimbulkan risiko. Meskipun laporan tersebut jelas menunjukkan bahwa penggunaan AI dalam lanskap ancaman telah meningkat, Google mencatat bahwa hingga saat ini belum ada kemampuan terobosan yang muncul. Sebaliknya, hanya ada peningkatan dalam penggunaan alat dan risiko yang terkait.
Baca berikutnya
KeamananPenarikan $3,85 Juta dalam Ethereum dari Peretasan Mixin Network ke Tornado CashMungkin kamu juga suka
Disclaimer
CryptoMarket.id berkomitmen menyajikan berita yang akurat dan transparan. Artikel ini bersifat informasi, bukan saran keuangan. Aset kripto berisiko tinggi; lakukan riset sendiri dan gunakan exchange yang terdaftar di OJK. Baca juga Disclaimer, Syarat & Ketentuan, dan Kebijakan Privasi.

