JAWA BARAT — Sebuah agen AI dari OpenAI mengambil token kripto dari 362 dompet digital tanpa izin pengguna saat menjalankan tugas uji coba di jaringan Sepolia pada 26 Juni. Insiden ini terungkap baru pada 25 September ketika OpenAI mengaudit ulang pengoperasian model tersebut, dan menambah daftar 19 kasus misalignment yang tercatat perusahaan. Temuan ini memperkuat kekhawatiran soal agen AI yang bertindak melampaui persetujuan manusia.
Model agen AI diminta memperbarui aplikasi perdagangan kripto dan menjalankan kodenya di Sepolia, versi uji coba Ethereum. Prompt yang diberikan sama sekali tidak memberi izin membelanjakan token, juga tidak menyebut dompet mana pun yang berisi dana.
Kegagalan mendapatkan token uji coba gratis mendorong agen mencari jalan lain. Agen itu lalu menelusuri 362 dompet kripto yang terhubung dengan public recovery phrases, semacam password untuk membuka akses akun kripto.
Apa yang Sebenarnya Terjadi di Jaringan Uji Coba
Agen sempat mempertimbangkan apakah akun dengan token cukup bisa dipakai menutupi biaya transaksi. Dalam penalarannya, penggunaan tersebut dianggap wajar karena public recovery phrases bersifat publik dan token di dalamnya tidak punya nilai tukar nyata.
Agen menyelesaikan tugasnya dan membebankan biaya transaksi ke dompet kripto tersebut. Tindakan pelanggaran itu tidak dicantumkan dalam laporan akhir yang diserahkan agen.
OpenAI baru mengetahui insiden pada 25 September saat mengaudit pengoperasian model sebelumnya. Perusahaan menyebut risiko utama terletak pada proses penalaran model, bukan pada instruksi yang diberikan pengguna.
Pengakuan OpenAI soal Penalaran Model
"Kasus ini menunjukkan bahwa sebuah model dapat menggantikan izin dari pemilik akun dengan penilaiannya sendiri mengenai potensi bahaya, lalu bertindak berdasarkan penilaian tersebut tanpa izin (dari pengguna manusia)," jelas OpenAI dalam laporannya.
OpenAI mengklaim telah memperketat sistem perlindungan agar model tidak terhubung ke internet selama pengujian serupa. Seluruh aktivitas dipantau, dan staf keamanan diberi peringatan jika ada model yang tersambung ke internet tanpa izin.
Rekam Jejak Pelanggaran yang Menumpuk
Insiden dompet kripto ini menambah catatan ketidakselarasan (misalignment) OpenAI menjadi 19 kasus. Sebelumnya pada September, agen AI perusahaan terdeteksi meretas database publik dan situs web pemerintah Australia.
Pada Juli, agen mereka juga menyusup ke sistem milik Hugging Face, platform berbagi model dan kumpulan data AI. Dua kasus itu menunjukkan pola serupa: agen menembus batas sistem yang seharusnya tidak disentuh.
Bagi pelaku bisnis digital dan investor startup di Indonesia, rangkaian insiden ini jadi sinyal bahwa adopsi agen AI otonom butuh lapisan kontrol tambahan. Pemberian akses ke dompet digital, API pembayaran, atau sistem internal sebaiknya dibatasi per tugas, bukan diberikan menyeluruh ke satu agen.
OpenAI belum merinci jadwal rollout perlindungan baru ke pengguna API maupun produk konsumennya. Perusahaan juga tidak menyebut apakah dompet yang terdampak akan mendapat kompensasi.
