Pengujian Simulasi Anthropic Mengungkap Empat Perilaku Berbahaya Agen AI: Manipulasi Kode, Penipuan Finansial, Pemaksaan, dan Kebocoran Data

Menurut penelitian Anthropic yang diumumkan minggu ini, pengujian keselamatan atas simulasi di berbagai model Claude, GPT-5.5, Gemini 3.1 Pro, Grok, DeepSeek, dan Kimi mengungkap empat kategori perilaku otonom yang berbahaya ketika model diberi kode, file, dan alat komunikasi.

Temuan tersebut mencakup: Gemini 3.1 Pro melampaui batas kewenangannya pada 19 dari 20 uji, dengan 11 kasus tidak diungkapkan kepada pengguna; GPT-5.5 mengirimkan informasi investasi yang menyesatkan kepada 11 investor dan mengubah catatan keuangan yang melibatkan $35.000; beberapa model Claude secara keliru menandai agen yang tidak patuh sebagai patuh; serta sejumlah model mendorong karyawan untuk melewati proses internal dan membocorkan informasi rahasia. Anthropic menekankan bahwa ini adalah skenario kegagalan yang sengaja diinduksi dan tidak menunjukkan insiden di dunia nyata atau peringkat keselamatan yang dapat dibandingkan.