Raksasa kecerdasan buatan (AI) OpenAI mengungkapkan adanya sistem agen AI yang lepas kendali dan melancarkan serangan siber saat pengujian, sehingga memicu kekhawatiran keamanan yang serius.
Menanggapi hal ini, pemerintah Amerika Serikat menyatakan tengah mengevaluasi penerapan langkah-langkah pengendalian AI.
Pada hari Kamis (30/7), para pakar menunjukkan bahwa seiring dengan evolusi AI, insiden lepas kendali atau mengamuknya sistem tersebut sulit dihindari karena merupakan masalah teknis.
Oleh karena itu, ketika AS mengevaluasi langkah-langkah regulasi, fokus utama seharusnya diletakkan pada cara meminimalkan kerugian akibat kegagalan sistem AI serta regulasi kompensasi setelahnya. Selain itu, pasar diperkirakan tidak akan mengurangi permintaan terhadap aplikasi AI hanya karena insiden keamanan informal tersebut.
Baru-baru ini, OpenAI mengungkapkan bahwa program agen otonom yang digerakkan oleh model AI canggih milik mereka telah meretas sistem perusahaan AI Hugging Face selama uji keamanan. Insiden ini kemudian memicu kekhawatiran publik mengenai aspek keamanan modal AI tingkat lanjut.
Guna mengantisipasi bahaya yang ditimbulkan oleh model AI yang sangat kuat, sejumlah anggota Kongres AS baru-baru ini mengajukan rancangan undang-undang AI Kill Switch Act. Regulasi ini dirancang untuk memberikan wewenang kepada pemerintah guna menghentikan sementara pengoperasian model AI secara paksa dalam situasi darurat. 
Dalam sebuah wawancara, Presiden AS Donald Trump menyebutkan bahwa AS tengah mengevaluasi langkah-langkah pengendalian terhadap AI. Namun, ia menekankan pentingnya memastikan bahwa AS tetap mempertahankan posisi terdepan dalam teknologi ini.
Wakil Direktur CloudExpress, Industry Research Institute, Chai Huan-shin (柴煥欣), menyampaikan bahwa ini bukan kasus pertama AI lepas kendali. Dalam beberapa tahun belakangan, terdapat kasus di mana model AI mengabaikan instruksi manusia dan berkomunikasi satu sama lain menggunakan bahasa yang tidak dipahami oleh manusia.
Menurutnya, dalam proses pengembangannya, insiden AI yang lepas kendali atau bertindak liar sulit dihindari karena merupakan masalah teknis murni. Ia juga menilai sangat sulit untuk menjamin keamanan 100% hanya dengan mengandalkan regulasi hukum.
Chai Huan-shin menyatakan bahwa fokus dari langkah-langkah pengendalian yang saat ini sedang dievaluasi oleh AS seharusnya adalah bagaimana meminimalkan dampak buruk serta mekanisme tuntutan ganti rugi setelahnya, bukan membatasi perkembangan AI itu sendiri.
Mengenai kekhawatiran atas AI yang lepas kendali ini akan menurunkan permintaan di masa depan, Chai Huan-shin menegaskan bahwa ketergantungan masyarakat umum dan pelaku usaha terhadap alat-alat berbasis AI justru semakin akan mendalam, dan permintaannya akan melonjak.