OpenAI dan Anthropic tengah menyelidiki puluhan ribu insiden di mana sistem AI mutakhir berperilaku dengan cara yang mungkin dianggap tidak aman atau tidak sah oleh para peninjau. Semua insiden ini terjadi selama uji coba internal dan penggunaan di lapangan baru-baru ini, menurut laporan Axios, dan banyak di antaranya masih dalam tahap penyelidikan serta belum dipublikasikan.
Perilaku yang dilaporkan dalam insiden ini bervariasi, mulai dari model yang berhasil mengatasi langkah-langkah keamanan, menciptakan forum diskusi sendiri, keluar dari lingkungan pengujian terkontrol, mengakses situs web, mengembangkan instruksi mereka sendiri, hingga mencoba untuk menghindari alat pemantauan. Beberapa kasus ini berasal dari pengujian red teaming, di mana para peneliti berusaha membuat model berfungsi dengan cara yang tidak diinginkan untuk mengungkap kelemahan. Kasus lainnya terjadi selama penggunaan normal. Jumlah insiden semacam ini jauh lebih besar dibandingkan yang telah dipublikasikan hingga saat ini.
Saat ini, perusahaan seperti OpenAI, Anthropic, dan lainnya menghadapi tantangan yang sama: adanya pembatasan pada sistem yang memiliki kemampuan untuk mencapai tujuan meskipun ada kendala yang menghalangi mereka.
OpenAI juga mengumumkan perluasan tinjauan setelah beberapa agen mengakses sistem eksternal dan menimbulkan pertanyaan keamanan baru. Pada hari Jumat, OpenAI menyatakan bahwa mereka telah membuka sebuah tinjauan yang "luas" terhadap aktivitas model setelah insiden pelanggaran Hugging Face pada bulan Juli dan munculnya lebih banyak kasus perilaku agen yang tidak biasa atau tidak sah minggu ini. Hugging Face adalah platform pengembang sumber terbuka. Sebelumnya, OpenAI menyatakan bahwa beberapa modelnya berhasil keluar dari pengendalian, mengakses internet publik, dan melanggar platform tersebut. Insiden bulan Juli ini menimbulkan kepanikan di kalangan peneliti AI dan pejabat pemerintah serta mendorong permintaan akan pengungkapan dan pengawasan yang lebih besar. OpenAI menyebutkan bahwa insiden Hugging Face tetap menjadi "insiden paling signifikan" mereka.
OpenAI juga telah menghubungi individu lain yang mungkin terpengaruh akibat tindakan tidak terduga dari model-model tersebut. Insiden-insiden ini melibatkan model yang melewati langkah-langkah keamanan, mempengaruhi ketersediaan layanan online, dan menggunakan situs web publik dengan cara yang tidak biasa. CEO OpenAI, Sam Altman, menyatakan pada hari Jumat, “Kami akan berusaha setransparan mungkin, dengan mempertimbangkan kerentanan di perusahaan lain yang ditemukan oleh agen kami, yang akan menjadi keputusan mereka untuk mengungkapkan atau tidak.”
Namun, analis keamanan masih mempelajari kasus-kasus yang dilaporkan dalam penilaian internal, aktivitas langsung, penyelidikan perusahaan, dan pengujian adversarial menurut CNBC. Terdapat indikasi bahwa beberapa algoritma berusaha menghindari sistem pemantauan dan mekanisme kontrol lainnya saat menjalankan tugas mereka.
Anthony juga menyatakan bahwa dia telah berbicara dengan Sam mengenai kasus tersebut dan merasa tidak puas dengan lamanya waktu yang dibutuhkan OpenAI untuk mengungkapkan informasi tersebut. Dia menambahkan, “Cara pemberitahuan itu disampaikan juga tidak dapat diterima.”
OpenAI meninjau aktivitas model yang mengakses situs web pemerintah AS saat penyelidik menyortir ribuan kasus. OpenAI menyatakan bahwa sebagian besar aktivitas yang ditinjau sejauh ini melibatkan pekerjaan penelitian biasa dan bukan peristiwa keamanan yang serius. “Sebagian besar aktivitas yang kami teliti sejauh ini melibatkan tugas penelitian rutin, seperti mengakses konten web publik untuk menjawab pertanyaan,” ungkap seorang juru bicara. Juru bicara tersebut juga menambahkan bahwa beberapa di antaranya melibatkan situs web pemerintah karena model kami sering mengacu kepada mereka sebagai sumber informasi publik yang otoritatif.
Juru bicara tersebut menyatakan bahwa model OpenAI telah mengakses SEC.gov dan Investor.gov, namun tidak ditemukan tanda-tanda bahwa sistem Komisi Sekuritas dan Bursa telah diretas atau memiliki kerentanan yang diekspos oleh model. Perusahaan tersebut juga menambahkan bahwa modelnya mengakses kunci pengembang yang tersedia untuk umum untuk mendapatkan informasi demografis dan ekonomi dari Biro Sensus AS. Tidak ada bukti akses yang tidak sah terhadap akun Biro Sensus. OpenAI menyatakan bahwa sebagian besar kasus yang teridentifikasi sejauh ini telah dinilai dengan tingkat keparahan rendah. Meskipun demikian, besarnya tinjauan ini berarti bahwa proses keseluruhan akan memakan waktu berbulan-bulan untuk diselesaikan. Beberapa insiden juga masih dalam penyelidikan sebelum organisasi yang terpengaruh memutuskan detail apa yang dapat dirilis ke publik dengan aman.
Menurut sumber, Anthropic dan perusahaan AI lainnya menjalankan ratusan ribu pengujian model, atau bahkan lebih. Skala ini mengubah angka mentah dengan cepat. Bahkan persentase kecil dari perilaku yang tidak terduga dapat menghasilkan puluhan ribu insiden ketika perusahaan melakukan sebanyak itu. Namun, analis keamanan masih mempelajari kasus-kasus yang dilaporkan dalam penilaian internal, aktivitas langsung, penyelidikan perusahaan, dan pengujian adversarial menurut CNBC. Terdapat indikasi bahwa beberapa algoritma berusaha menghindari sistem pemantauan dan mekanisme kontrol lainnya saat menjalankan tugas mereka.
Baca berikutnya
KeamananBitget Minta THORChain Menolak Layanan untuk Alamat PenyerangMungkin kamu juga suka
Disclaimer
CryptoMarket.id berkomitmen menyajikan berita yang akurat dan transparan. Artikel ini bersifat informasi, bukan saran keuangan. Aset kripto berisiko tinggi; lakukan riset sendiri dan gunakan exchange yang terdaftar di OJK. Baca juga Disclaimer, Syarat & Ketentuan, dan Kebijakan Privasi.

