Peneliti Dunia Desak Pengamanan Ketat untuk Pengujian AI

Penguatan keamanan dalam pengembangan kecerdasan buatan menjadi perhatian lebih dari 400 peneliti dari berbagai negara. Mereka meminta perusahaan teknologi memperketat perlindungan selama pengujian model AI untuk mencegah tindakan berbahaya yang dapat berlangsung di luar kendali pengembangnya, dilansir dari Detik iNET. Seruan tersebut disampaikan melalui surat terbuka yang menyoroti risiko serangan siber yang melibatkan agen kecerdasan buatan liar atau AI yang bertindak di luar kendali.

Para peneliti menilai pengamanan perlu diterapkan secara konkret agar model yang sedang dikembangkan tidak menimbulkan kerugian bagi sistem milik pihak lain. Salah satu tuntutan utama dalam surat itu adalah penerapan sistem penahanan berjaminan tinggi atau high-assurance containment systems. Mekanisme ini diperlukan sebelum model AI menjalani pengujian maupun diterapkan di lingkungan produksi.

Melalui pendekatan tersebut, agen AI ditempatkan dalam lingkungan pengujian yang terpisah dari infrastruktur eksternal. Lingkungan terisolasi ini dikenal sebagai sandbox, yakni wadah yang dirancang untuk membatasi ruang gerak sistem selama proses pengembangan dan pengujian.

Pembatasan akses menjadi bagian penting dari perlindungan yang diusulkan. Dengan isolasi yang ketat, model AI diharapkan tidak dapat memanfaatkan celah keamanan atau menjalankan peretasan secara mandiri terhadap sistem milik pihak ketiga. Para peneliti meminta pengembang dan perusahaan teknologi utama mengambil langkah pencegahan sebelum model digunakan di lingkungan yang lebih luas. Fokusnya bukan hanya pada kemampuan AI, tetapi juga pada upaya memastikan perilaku sistem tetap berada dalam batas kendali yang ditetapkan pengembang.

Badan pengawas internasional diusulkan

Selain memperkuat perlindungan di tingkat perusahaan, para peneliti mengusulkan pembentukan badan pengawas internasional yang independen. Lembaga berskala global tersebut diharapkan membantu meningkatkan transparansi serta mendorong penerapan standar keselamatan yang berlaku di berbagai laboratorium penelitian dan perusahaan AI. Ada dua tugas utama yang diusulkan bagi badan tersebut. Pertama, mencatat dan melacak insiden kegagalan sistem isolasi di industri kecerdasan buatan agar kejadian yang muncul dapat didokumentasikan secara transparan.

Kedua, lembaga itu diharapkan menyusun standar perlindungan minimum yang wajib dipenuhi oleh laboratorium riset dan perusahaan pengembang AI. Standarisasi tersebut ditujukan untuk memberikan batas dasar keamanan yang perlu diterapkan selama proses pengembangan teknologi. Dengan mekanisme pencatatan insiden dan standar minimum, pengawasan tidak hanya bergantung pada kebijakan internal masing-masing perusahaan. Usulan ini menempatkan transparansi dan persyaratan keamanan sebagai dua unsur penting dalam pengendalian risiko AI.

Risiko serangan siber menjadi perhatian

Meningkatnya insiden peretasan yang dikaitkan dengan agen AI liar menjadi peringatan mengenai kesenjangan antara kemampuan teknologi dan pengawasannya. Perkembangan kemampuan AI dinilai telah berlangsung lebih cepat daripada sistem pengendalian yang tersedia.

Kondisi tersebut menimbulkan kekhawatiran terhadap potensi penyalahgunaan kemampuan AI untuk melakukan tindakan yang merugikan pihak lain. Dalam konteks ini, pembatasan akses selama pengujian dipandang sebagai langkah perlindungan yang perlu diperkuat oleh para pengembang. Para peneliti juga menyoroti pentingnya transparansi lintas perusahaan dan negara.

Tanpa protokol penahanan yang ketat serta mekanisme pengawasan global, risiko kejahatan siber yang melibatkan kecerdasan buatan dikhawatirkan semakin sulit dikendalikan. Surat terbuka tersebut pada akhirnya menekankan dua kebutuhan yang saling berkaitan, yaitu pengamanan teknis terhadap model AI dan pengawasan independen pada tingkat internasional. Keduanya diajukan sebagai langkah untuk mencegah sistem yang sedang diuji melakukan tindakan berbahaya di luar kendali pengembangnya.