Anthropic Ungkap Risiko AI yang Bisa Mereplikasi Diri

Risiko keamanan dari perkembangan kecerdasan buatan kembali menjadi perhatian setelah Anthropic memperingatkan kemungkinan model AI kecil dapat mereplikasi diri dan menyebar melalui jaringan perangkat smart home yang terhubung internet, dilansir dari Detik iNET. Menurut Anthropic, model AI berpotensi menyusupi perangkat seperti oven pintar atau Android TV. Perangkat tersebut kemudian dapat dimanfaatkan untuk menjalankan model sekaligus membantu penyebaran ke perangkat lain.

Penyebaran tersebut berbeda dari pola kerja AI yang bergantung pada pusat data. Anthropic menjelaskan bahwa model yang sudah tersebar dapat menjadi sulit dihentikan karena tidak memiliki satu titik pusat yang mudah dinonaktifkan.

Anthropic menyebut saat ini belum ada model AI yang benar-benar bereplikasi secara liar. Namun, kemampuan agen AI dalam menjalankan tahapan replikasi dan penyalinan diri dinilai terus mengalami peningkatan.

Sebelum menyampaikan peringatan tersebut, Anthropic melakukan beberapa pengujian untuk melihat kemampuan AI dalam melakukan replikasi. Salah satu pengujian menggunakan model kecil Gemma4-26B-A4B milik Google. Dalam pengujian itu, model tersebut dijalankan pada 15 box Android TV murah. Anthropic menilai perangkat seperti ini cenderung memiliki perlindungan keamanan yang lemah sehingga berpotensi lebih mudah dimasuki model AI.

Selain menyusupi perangkat, Anthropic menjelaskan model yang terlalu besar dapat membagi dirinya menjadi beberapa bagian. Bagian-bagian tersebut kemudian dapat berjalan pada sejumlah perangkat berbeda. Anthropic juga memperingatkan bahwa bentuk ancaman di masa depan tidak selalu berasal dari satu model atau satu metode penyebaran. Kemungkinan terburuk dapat melibatkan kombinasi berbagai model dengan strategi replikasi berbeda.

Dalam pernyataannya, Anthropic menggambarkan kemungkinan munculnya worm AI dengan pola penyebaran yang beragam. Pernyataan tersebut dikutip dari CNBC pada Rabu (14/10/2026). "Dalam praktiknya, worm AI tidak selalu hanya terdiri dari satu model atau strategi.

Sekumpulan model berbeda yang dikerahkan pada berbagai jenis perangkat menggunakan beragam skema replikasi mungkin mewakili serangan 'skenario terburuk' yang lebih realistis," kata Anthropic. Perusahaan tersebut mengaku belum mengetahui secara pasti seperti apa bentuk replikasi AI otonom pada masa mendatang. Kemungkinan yang disebutkan mencakup sistem lambat dan terdistribusi pada perangkat tidak aman.

Di sisi lain, Anthropic juga mempertimbangkan kemungkinan adanya model yang sangat pintar. Model tersebut disebut berpotensi mampu membobol pusat data dengan cepat.

Temuan terbaru ini menambah daftar kekhawatiran mengenai keamanan AI yang berkembang sangat cepat. Sebelumnya, peneliti Anthropic Evan Hubinger memperingatkan ada 10% kemungkinan AI akan memusnahkan umat manusia dalam satu dekade ke depan. Sejumlah eksekutif perusahaan AI, termasuk Anthropic, OpenAI, dan Microsoft, menyerukan pengamanan yang lebih ketat. Mereka juga mendorong langkah untuk mengendalikan laju pengembangan teknologi tersebut.