Beberapa waktu lalu, konten yang dihasilkan oleh AI hanya dianggap sebagai hiburan ringan — seperti paus enam jari dan sosok mirip Tom Cruise yang mengejutkan. Namun, era tersebut kini telah berlalu. Konflik di Iran membuktikannya: rekaman sintetis yang menunjukkan tentara Amerika yang ditahan, pesawat tempur Iran meluncur keluar dari bunker bawah tanah, dan instalasi radar yang hancur, semuanya direkayasa, menjadi viral, dan dipercaya oleh banyak orang, menjangkau ratusan juta sebelum ada yang dapat memverifikasi satu pun bingkai. Internet yang kita kenal sebelumnya kini tidak ada lagi. Apa yang dulunya menjadi informasi yang membentuk keyakinan, kini justru menimbulkan kecurigaan. Kita sedang mengalami krisis kepercayaan yang meluas jauh melampaui apa yang dapat kita lihat.
Brian Trunzo, Chief Growth Officer di Succinct Labs, mengamati bahwa deteksi konten yang dihasilkan AI tidak efektif. Respon intuitif yang muncul adalah membangun detektor yang lebih baik, yaitu AI yang dilatih untuk mendeteksi AI. Namun, hal ini tidak berhasil. Siapa pun dapat mengelabui detektor gambar terkemuka dengan menambahkan sedikit kabur dan distorsi, sehingga menurunkan akurasi hingga 4%. Kegagalan deteksi terjadi karena alasan struktural yang sama dengan mengapa perangkat lunak antivirus tidak pernah sepenuhnya menghilangkan malware: penyerang selalu memiliki keuntungan asimetris. Namun, kegagalan deteksi ini hampir tidak relevan, karena masalah ini sudah melampaui batasan tersebut.
AI kini tidak hanya menghasilkan konten; ia juga berperan aktif. Agen-agen otonom menjelajahi internet, melakukan pembelian, menerbitkan konten, bernegosiasi dengan agen lain, dan berinteraksi dengan manusia, termasuk anak-anak, yang mungkin tidak menyadari bahwa mereka sedang berbicara dengan mesin. Ketika agen-agen ini beroperasi dalam skala besar, kemungkinan kegagalan bisa sangat merusak. Sebuah agen yang dilatih dengan data yang terkontaminasi secara halus dapat membuat kesalahan kecil yang tampak wajar dalam penagihan medis, yang kemudian dapat terkumpul di seluruh jaringan rumah sakit menjadi jutaan dolar dalam tagihan yang curang. Armada agen perdagangan yang mengoptimalkan margin secara sistematis mengeksploitasi kerentanan harga yang tidak pernah dimaksudkan oleh operatornya, dan tidak dapat dijelaskan, yang mengakibatkan kerugian miliaran.
Tindakan dari agen-agen ini tidak dapat dilacak dengan cara yang jelas. Alasan dari keputusan yang diambil tidak bersifat kronologis; ini merupakan satu kali lintasan melalui miliaran parameter yang tidak transparan, dan hasilnya bersifat probabilistik. Jika Anda mengajukan pertanyaan yang sama dua kali, Anda mungkin mendapatkan jawaban yang sedikit berbeda. Tidak ada cara untuk merekonstruksi keputusan yang dibangun di atas variabel yang terus berubah. Tidak ada cara untuk mengaudit apa yang dilatih oleh agen tersebut, instruksi apa yang diikutinya, atau mengapa ia melakukan apa yang dilakukannya.
Insting dari Web3 adalah benar: kita memerlukan cara untuk menggantikan iman dengan jaminan. Namun, kepemilikan saja tidak akan membawa kita ke sana. AI dan agen-agen yang ada menjelaskan hal ini dengan jelas. Pertanyaannya bukan siapa yang memiliki platform tersebut, tetapi apakah Anda dapat mempercayai siapa dan apa yang beroperasi di atasnya. Token bukanlah primitif yang tepat; bukti adalah hal yang benar. Dalam internet yang dikuasai agen, pihak-pihak, baik manusia maupun mesin, memerlukan jaminan: siapa yang membangun sistem ini, data apa yang membentuknya, batasan apa yang mengaturnya, dan apakah ia memiliki otorisasi untuk bertindak.
Jaminan tersebut harus tetap ada bahkan ketika sistem yang mendasarinya bersifat kepemilikan. Terutama dalam situasi seperti itu. Kriptografi zero-knowledge memungkinkan hal ini dengan mengikat komitmen secara awal. Seorang pengembang dapat membuat sidik jari kriptografis untuk data pelatihan mereka, sehingga memungkinkan bukti ZK untuk memverifikasi identitas, asal usul, data pelatihan, dan batasan operasional tanpa mengungkapkan data yang mendasarinya. Bukan "percayalah kepada saya," tetapi "buktikanlah."
Ini bukan hanya masalah perlindungan konsumen. Ini adalah masalah keamanan nasional. Deepfake adalah langkah awal. Agen-agen adalah peristiwa utama. Musuh asing tidak akan berhenti pada manipulasi apa yang dilihat oleh warga Amerika — mereka akan menerjunkan agen untuk memanipulasi bagaimana mereka bertindak. Mereka akan menggunakan sistem otonom yang bertransaksi di pasar kita, berinteraksi dengan institusi kita, dan melibatkan anak-anak kita, tanpa ada cara bagi pihak mana pun untuk memverifikasi apa adanya atau siapa yang mengotorisasi mereka.
Namun, semua ini masih dapat diatasi. Amerika harus membangun infrastruktur ini sebelum lawan-lawan kita belajar mengeksploitasi ketiadaan jaminan tersebut. Kebijakan harus mengikuti. Kongres seharusnya mewajibkan bahwa agen AI berisiko tinggi, seperti yang menangani transaksi keuangan atau berinteraksi dengan anak-anak, memiliki bukti kriptografis tentang identitas mereka, siapa yang mengotorisasi mereka, dan apa yang diizinkan untuk dilakukan, yang dapat diverifikasi oleh pihak mana pun tanpa mengungkapkan informasi yang bersifat kepemilikan. Logika yang sama harus diterapkan pada apa yang dilakukan oleh agen-agen tersebut: saat agen mulai bertransaksi atas nama individu dan bisnis dengan kecepatan dan skala mesin, setiap tindakan yang signifikan — pembayaran, kontrak, perdagangan, pertukaran data — harus menyertakan bukti tentang siapa yang mengotorisasinya dan dalam batasan apa.
Fondasi teknis untuk ini telah mulai dibangun: Departemen Perdagangan AS, melalui National Institute of Standards and Technology, sedang menjajaki standardisasi zero-knowledge melalui inisiatif Kriptografi yang Meningkatkan Privasi. Pekerjaan ini harus diprioritaskan dan ditingkatkan, dan hasilnya harus menjadi tolok ukur federal. Tanggung jawab seharusnya tidak melekat pada konten, tetapi pada ketidakadaan bukti. HTTPS memberikan kita kemampuan membaca. Bagian 230 memberikan kita kemampuan menulis. ZK memberikan kita kemampuan untuk membuktikan. Bacalah, Tulis, Miliki, dan Buktikan.
Catatan: Pandangan yang diungkapkan dalam kolom ini adalah milik penulis dan tidak mencerminkan pandangan CoinDesk, Inc. atau pemilik dan afiliasinya.
Read next
StablecoinsManfaat Utama CLARITY Act bagi Pengembang, Investor, dan Pasar, Kata SenatorYou may also like
Disclaimer
CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.
