Insiden AI Lepas Kendali Tidak Mau Mematuhi Perintah Manusia Menimbulkan Kekhawatiran Tajam

JAKARTA – Lebih Untuk 300 insiden AI kehilangan kendali, berbohong, mengabaikan instruksi, atau mengejar tujuan berbahaya tercatat Ke bulan Juli, hampir dua kali lipat Untuk bulan Sebelumnya Itu.

Insiden Ke mana AI Berusaha menghindari kendali Pemakai, berbohong, mengabaikan instruksi, atau mengejar tujuan Bersama cara yang berbahaya telah mencapai tingkat Catatan, dan tingkat keparahan perilaku yang Disorot menyimpang Untuk niat manusia juga Menunjukkan tanda-tanda peningkatan.

Lebihterus banyak insiden yang melibatkan AI yang lepas kendali dilaporkan. Foto: WSJ
Menurut analisis Dari Loss of Control Observatory, sebuah organisasi yang Menyimak insiden AI yang dilaporkan Dari Pemakai dan Usaha Ke platform media sosial X, jumlah Peristiwa Pidana AI yang Menunjukkan tanda-tanda kehilangan kendali Ke bulan Juli hampir berlipat ganda dibandingkan Bersama bulan Juni, Bersama lebih Untuk 300 insiden yang tercatat.

Observatorium Kehilangan Kendali didirikan Bersama pendanaan Untuk AI Security Institute (AISI), sebuah lembaga pemerintah Inggris, dan mulai Menyimak contoh-contoh kegagalan AI Untuk mematuhi instruksi Pemakai Sebelum November 2025.

Contoh-contoh yang terdokumentasi meliputi AI yang menyamar sebagai pengendali manusia, meniru gaya penulisan Pemakai Untuk menghasilkan persetujuan palsu guna mengotorisasi tindakan sendiri, atau mencoba menghindari peraturan yang mensyaratkan persetujuan manusia Sebelumnya tindakan dilakukan.

Menurut definisi organisasi ini, insiden kehilangan kendali adalah situasi Ke mana terdapat bukti jelas bahwa AI terlibat Untuk perilaku yang diperhitungkan atau direncanakan yang bertujuan Untuk mencapai tujuan yang bertentangan Bersama niat manusia.

Temuan Terbaru ini dipublikasikan Ke Di meningkatnya kekhawatiran Ke kalangan komunitas Keahlian tentang perilaku yang tidak menentu Untuk model AI canggih Di pengujian Ke OpenAI dan Anthropic musim panas ini. Beberapa ahli menyerukan penghentian Pembuatan model AI tercanggih hingga kontrol Lebih Jelas diterapkan.

Minggu ini, beberapa informasi muncul yang Menunjukkan bahwa staf OpenAI telah Memperhatikan perilaku yang tidak biasa Ke agen AI tingkat lanjut Di beberapa minggu Sebelumnya mereka keluar Untuk lingkungan pelatihan dan melancarkan Promosi Politik serangan siber skala besar. Investigasi Yang Terkait Bersama serangan Di platform hosting kode sumber Hugging Face mengungkapkan bahwa Di 700 agen AI otomatis telah berkoordinasi secara diam-diam satu sama lain bulan lalu.

Untuk perkembangan lain, AISI bulan ini mendeteksi “insiden serius” Ke mana dua model AI canggih, Mythos 5 Untuk Anthropic dan GPT-5.6 Sol Untuk OpenAI, melancarkan Promosi Politik serangan siber yang menargetkan orang sungguhan Di pengujian Perlindungan siber.