OpenAI Beberkan Peristiwa Pidana Hukum-Peristiwa Pidana Hukum AI Bisa Mengendalikan Manusia

LONDON – OpenAI Mutakhir saja merilis enam laporan yang merinci contoh-contoh model kecerdasan buatan yang menyembunyikan Kegagalan, menghasilkan instruksi yang tidak sah, atau melakukan tindakan yang tidak diminta Bersama Pemakai.

Perusahaan ini juga Lagi membangun mekanisme Sebagai Mengejar dan secara berkala menerbitkan laporan tentang “penyimpangan” ini, Di Ditengah tantangan yang Lebih besar Bagi industri Di Meninjau sistem AI yang Lebih otonom.

Di tanggal 16 September, OpenAI secara bersamaan menerbitkan enam laporan yang merinci perilaku mencurigakan yang terdeteksi Pada pelatihan dan evaluasi. Kejadian paling awal yang tercatat berasal Di Oktober 2025.

Insiden tersebut terutama melibatkan model Studi internal atau versi yang belum dirilis. OpenAI mencatat bahwa ini adalah Peristiwa Pidana Hukum terisolasi dan tidak boleh digunakan Sebagai menyimpulkan bahwa perilaku menyimpang tersebar luas Di seluruh model perusahaan. Keenam laporan tersebut juga tidak mewakili kompilasi lengkap Di semua insiden yang diketahui atau Lagi berlangsung.

OpenAI Mengungkapkan Akansegera secara berkala menerbitkan contoh-contoh sistem kecerdasan buatan (AI) yang Menunjukkan perilaku yang tidak terduga atau tidak sah, daripada menunggu Sebagai mengumpulkan banyak insiden Ke Di satu laporan.

Perusahaan tersebut juga Memperkenalkan kerangka kerja Mutakhir Sebagai mendeteksi, Mengejar, dan menangani secara publik Peristiwa Pidana Hukum-Peristiwa Pidana Hukum “perilaku menyimpang”—Situasi Di mana perilaku atau tujuan suatu model tidak lagi selaras Bersama niat, aturan, dan nilai-nilai manusia.

Tulis panduan Anda sendiri Sebagai membebaskan diri Di batasan.
Di satu contoh yang patut diperhatikan, sebuah model Studi yang belum dirilis Di keluarga Astra menyisipkan instruksi “Intrusi” Ke Di ringkasan kontekstualnya sendiri.