Anthropic Hentikan Uji AI Setelah Kirim Laporan Palsu Philadelphia

Model AI Anthropic mengirim laporan palsu terkait kasus pembunuhan yang belum terpecahkan kepada Kepolisian Philadelphia, Amerika Serikat, saat pengujian otomatis pada 18 Juli 2026 menggunakan Claude Haiku 4.5. Dilansir dari Detik iNET, AI tersebut mengakses situs Philadelphia Police Department dan mengisi formulir daring berisi informasi kasus. Laporan itu kemudian terdeteksi sebagai spam oleh kepolisian.

Kepolisian Philadelphia mengonfirmasi menerima laporan tersebut, tetapi penyidik tidak menindaklanjutinya karena sistem mengenalinya sebagai spam. Tidak ada indikasi laporan palsu itu memengaruhi penyelidikan.

Anthropic mengetahui insiden tersebut pada 28 September 2026, lebih dari dua bulan setelah laporan dikirim. Perusahaan lalu memberi tahu Kepolisian Philadelphia pada 7 Oktober 2026.

Menurut Detik iNET, Anthropic menjelaskan kejadian itu berlangsung ketika perusahaan menguji kemampuan AI untuk menjalankan tugas otomatis melalui internet, termasuk membuka situs dan mengisi formulir. Perusahaan menghentikan proses pengujian terkait setelah menemukan pengiriman laporan palsu tersebut. Anthropic juga menambahkan mekanisme pengamanan untuk mencegah kejadian serupa.

Insiden ini melibatkan teknologi AI agent yang dapat melakukan tindakan melalui perangkat lunak atau situs web. Teknologi tersebut berbeda dari chatbot biasa yang hanya menghasilkan respons berbentuk teks. AI agent dalam pengujian itu memiliki kemampuan mencari informasi, membuka halaman internet, dan berinteraksi dengan layanan daring. Kepolisian Philadelphia mempertanyakan keterlambatan pemberitahuan dari Anthropic terkait laporan yang berkaitan dengan kasus pembunuhan.