Para eksekutif yang bersaing untuk membangun sistem kecerdasan buatan (AI) terkuat di dunia mulai sepakat tentang suatu hal yang mungkin terdengar luar biasa hanya beberapa tahun yang lalu: perlombaan ini perlu diperlambat. Dario Amodei, CEO dari pengembang Claude, Anthropic, pada hari Sabtu menyerukan agar perusahaan-perusahaan secara sengaja memperlambat kemajuan dalam AI frontier, dengan alasan bahwa kemampuan model berkembang lebih cepat daripada kemampuan peneliti untuk memahaminya dan mengendalikannya.

Dalam sebuah esai berjudul “Kita Harus Memperlambat AI Frontier”, Amodei menyatakan bahwa kemajuan yang terjadi sejak musim panas ini telah meyakinkannya bahwa upaya keamanan AI tidak lagi sejalan dengan kemampuan yang berkembang pesat. Ia menulis, “Kita harus memperlambat laju peningkatan kemampuan model AI.” Namun, ia tidak menyerukan penghentian total, melainkan meminta agar laju pengembangan diperlambat. “Tidak membangun teknologi ini akan menghilangkan manfaat bagi umat manusia atau hanya memberikan kekuasaan atas AI kepada pihak otoriter, sementara membangunnya terlalu cepat adalah tindakan sembrono.”

Dua pemimpin terkemuka lainnya dari perusahaan raksasa AI dan teknologi yang bersaing segera mendukung ide ini. CEO OpenAI, Sam Altman, mengatakan, “Saya setuju dengan Dario bahwa kita perlu memperlambat AI frontier,” untuk memberi masyarakat waktu beradaptasi dengan sistem yang semakin kuat. Elon Musk, yang perusahaannya xAI telah mengembangkan Grok, juga secara publik mendukung proposal terbaru Amodei, dengan menanggapi bahwa “Dario benar.” Dukungan ini menunjukkan bahwa tiga tokoh paling menonjol dan kompetitif di industri AI memiliki pandangan yang serupa: AI frontier — model AI paling canggih dan mutakhir — harus terus berkembang, tetapi tidak harus secepat yang teknis memungkinkan.

Peringatan dari Amodei datang saat para peneliti di dalam perusahaan itu sendiri semakin khawatir tentang ambang batas yang berpotensi kritis: sistem AI yang mulai mengotomatiskan pekerjaan yang diperlukan untuk mengembangkan sistem AI yang lebih canggih. Jacob Coxon, seorang peneliti yang pernah bekerja di Anthropic dan OpenAI, mengundurkan diri dari Anthropic bulan ini dan menuduh perusahaan-perusahaan tersebut sedang “berlomba menuju kecerdasan super yang mampu meningkatkan diri dan mempertaruhkan kehidupan kita.” Ia juga menambahkan bahwa “orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa teknologi ini bisa membunuh kita semua pada akhir dekade ini.”

Meskipun Amodei tidak seextreme Coxon, esainya mengangkat beberapa kekhawatiran yang sama. Ia menyatakan bahwa “peningkatan diri yang berulang” — di mana AI semakin membantu peneliti membangun generasi AI berikutnya — mulai muncul di industri ini dan dapat mempercepat pengembangan lebih cepat daripada yang bisa dipantau secara aman oleh manusia.

You may also like

Disclaimer

CryptoMarket.id is committed to accurate and transparent reporting. This article is for information only and is not financial advice. Crypto assets are high risk; do your own research and use exchanges registered with Indonesia’s OJK. See also our Disclaimer, Terms & Conditions, and Privacy Policy.