David Schwartz, mantan CTO Ripple, baru-baru ini menyoroti kembali makalah mengenai kecerdasan buatan (AI) yang ditulis oleh Gary Gensler pada tahun 2020. Schwartz sejalan dengan banyak kekhawatiran yang diungkapkan dalam makalah tersebut terkait dengan risiko finansial. Gensler dalam tulisannya memperingatkan bahwa adopsi luas pembelajaran mendalam dapat membuat pasar menjadi lebih rentan, terutama jika lembaga keuangan bergantung pada model, data, dan strategi optimasi yang serupa.

Schwartz mempertanyakan apakah sistem yang lebih cerdas justru akan membuat keputusan yang tidak rasional, beralih fokus pada perilaku yang berkorelasi, insentif, dan bagaimana agen otonom dapat mempengaruhi stabilitas keuangan dalam skala besar. Ia menyatakan bahwa meskipun banyak argumen dalam makalah tersebut terlihat logis, ia meragukan gagasan bahwa sistem yang mumpuni akan cukup pintar untuk bertindak secara tidak rasional. Tanggapan Schwartz ini menghidupkan kembali perdebatan tentang apakah adopsi AI yang luas dapat menciptakan risiko finansial melalui pengambilan keputusan yang terkoordinasi.

Gensler, sebelum menjabat sebagai ketua SEC, menulis makalah berjudul “Deep Learning and Financial Stability” bersama Lily Bailey pada November 2020. Penelitian tersebut berargumen bahwa adopsi pembelajaran mendalam di sektor keuangan dapat menciptakan kerentanan jika institusi bergantung pada model, data, dan strategi optimasi yang serupa. Kekhawatiran yang muncul bukan hanya tentang algoritma individu yang gagal, tetapi lebih kepada banyak sistem yang bereaksi dengan cara yang sama pada waktu yang bersamaan.

Kemungkinan ini semakin relevan seiring dengan pergeseran agen AI ke aktivitas keuangan otonom, termasuk investasi, pembayaran, dan manajemen portofolio. Diskusi mengenai hal ini juga menyentuh pada kekhawatiran bahwa agen otonom dapat dengan cepat memindahkan simpanan atau investasi saat mengoptimalkan hasil, sehingga memperburuk stres di saat terjadi gangguan pasar.

Schwartz tampaknya menerima risiko koordinasi ini, namun menolak gagasan bahwa kecerdasan yang lebih tinggi secara otomatis mendorong sistem menuju keputusan yang buruk. Perbedaannya ini menyoroti perhatian pada insentif dan perilaku yang berkorelasi, alih-alih menganggap bahwa model yang lebih cerdas akan bertindak secara tidak rasional.

Pertanyaan ini menjadi penting mengingat sistem pembayaran yang dapat diprogram memberikan kemampuan kepada perangkat lunak untuk mengeksekusi tindakan finansial secara terus-menerus dengan kecepatan mesin. Makalah tahun 2020 tersebut juga berargumen bahwa regulasi keuangan yang dirancang sebelum adopsi pembelajaran mendalam yang luas mungkin akan kesulitan menghadapi risiko yang ditimbulkan oleh sistem otomatis yang saling terhubung.

Isu ini menjadi lebih kompleks ketika model yang serupa beroptimasi terhadap sinyal yang sama dan bereaksi lebih cepat daripada pengambil keputusan manusia dapat campur tangan. Lembaga keuangan dan jaringan cryptocurrency kini sedang bereksperimen dengan perangkat lunak otonom, termasuk alat XRP Ledger untuk pembayaran yang didorong oleh AI, yang membuat peringatan sebelumnya lebih mudah untuk dihubungkan dengan infrastruktur yang ada.

Reaksi Schwartz tidak mendukung semua kesimpulan dalam makalah tersebut, tetapi ia mengakui bahwa sebagian argumen tetap kredibel. Pertanyaan yang belum terjawab adalah apakah AI dapat membuat keuangan lebih efisien tanpa membuat perilaku kolektif menjadi lebih terkoordinasi dan rentan. Saat agen otonom mendapatkan akses ke dompet, jalur pembayaran, dan alat investasi, keseimbangan antara optimasi individu dan stabilitas sistem secara keseluruhan bergerak dari ranah teori menuju isu operasional saat ini.

You may also like

Disclaimer

CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.