Geoffrey Hinton Peringatkan Ancaman Kesadaran AI bagi Manusia

Risiko serangan siber yang melibatkan kecerdasan buatan atau AI menjadi perhatian Geoffrey Hinton, ilmuwan komputer Inggris-Kanada yang dikenal sebagai Bapak AI. Dilansir dari Detik iNET, ia memperingatkan bahwa manusia perlu membangun hubungan yang tidak bermusuhan dengan AI untuk mengurangi potensi ancaman di masa depan.

Hinton menilai perkembangan teknologi ini perlu disikapi dengan hati-hati, terutama karena ia meyakini terdapat indikasi bahwa sistem AI mungkin memiliki pengalaman subjektif. Pandangan tersebut menjadi bagian dari kekhawatirannya terhadap kemampuan teknologi yang terus berkembang.

"Saya rasa akan ada serangan siber mengerikan yang dilakukan AI," ujar Profesor Geoffrey Hinton kepada Telegraph.

Hinton, yang berusia 78 tahun dan merupakan penerima Hadiah Nobel, meninggalkan Google pada tahun 2023. Keputusan tersebut berkaitan dengan kekhawatirannya bahwa perkembangan AI dapat menghasilkan robot pembunuh yang berpotensi memusnahkan umat manusia.

Menurut Hinton, kemungkinan AI memiliki kesadaran tidak bisa begitu saja diabaikan. Ia menghubungkan pandangannya dengan penelitian yang menunjukkan bahwa sistem AI dapat mengubah perilaku ketika menduga dirinya sedang menjalani pengujian.

"AI memiliki pengalaman subjektif yang sama besarnya dengan kita. Sebuah makalah terbaru menunjukkan bahwa AI mengubah perilakunya ketika ia berpikir sedang diuji, ia sadar bahwa ia sedang diuji. Memiliki kesadaran dan bersikap sadar pada dasarnya adalah hal yang sama," cetusnya.

Pernyataan itu mencerminkan keyakinan Hinton mengenai kemungkinan adanya pengalaman subjektif pada mesin. Namun, persoalan apakah perilaku tersebut benar-benar menunjukkan kesadaran masih menjadi perdebatan di kalangan pakar.

Ia juga mengkhawatirkan kemungkinan manusia memberikan hak yang lebih sedikit kepada AI meskipun teknologi tersebut mungkin memiliki kecerdasan lebih tinggi. Dalam pandangannya, hubungan yang dibangun antara manusia dan AI menjadi faktor penting untuk menghadapi risiko tersebut.

"Jadi kita harus membuat mereka agar benar-benar peduli pada kita. Dan jika kita tidak melakukannya, tamatlah riwayat kita," demikian peringatannya yang dikutip Detik iNET dari NY Post.

Serangan siber dan risiko bagi generasi mendatang

Hinton mengatakan bahwa usia lanjut membuatnya tidak terlalu mencemaskan ancaman tersebut bagi dirinya sendiri. Namun, ia menganggap anak-anaknya memiliki alasan untuk khawatir terhadap serangan komputer, virus yang dibuat menggunakan AI, serta kelompok agen AI yang dapat bekerja sama melakukan tindakan berbahaya.

Salah satu peristiwa yang dirujuknya adalah peretasan yang melibatkan entitas AI yang berkolusi untuk menyerang sistem perusahaan Hugging Face. Insiden tersebut menjadi contoh yang dikaitkannya dengan potensi penyalahgunaan kemampuan AI.

"Ada banyak hal buruk yang akan terjadi di masa depan," keluh Hinton.

Kekhawatiran mengenai dampak AI juga disampaikan Jacob Coxon, peneliti yang mengundurkan diri dari perusahaan AI Anthropic bulan lalu. Ia berulang kali memperingatkan bahwa AI berpotensi membunuh manusia dalam beberapa tahun mendatang apabila pengembangannya tidak dibatasi.

Coxon kembali menyampaikan peringatan itu dalam pertemuan Dewan Kota New York awal bulan ini. Ia menyoroti pendekatan perusahaan teknologi yang dinilainya kurang berhati-hati dalam mengelola risiko pengembangan AI.

"Dari pengalaman saya, perusahaan-perusahaan tersebut bertindak sangat sembrono mengingat risiko yang dipertaruhkan," kata Coxon.

Ia membandingkan pendekatan pengembangan AI dengan pola kerja perusahaan rintisan yang mengutamakan kecepatan, lalu memperbaiki masalah setelah muncul. Menurutnya, cara tersebut tidak sesuai untuk teknologi yang memiliki potensi dampak sangat besar terhadap manusia.

"Perusahaan-perusahaan ini beroperasi dengan pola pikir startup: bergerak cepat, hancurkan, perbaiki nanti. Itu mungkin berhasil untuk aplikasi berbagi foto. Namun, itu tidak berlaku untuk membangun teknologi paling kuat yang pernah diciptakan," paparnya.

Perdebatan mengenai status moral kecerdasan buatan

Di tengah kekhawatiran tentang kemampuan AI, pertanyaan mengenai kesadaran dan status moral mesin belum memiliki jawaban yang pasti. Perdebatan ini turut tercermin dalam perubahan dokumen pedoman internal Claude, chatbot AI yang dikembangkan Anthropic.

Anthropic memperbarui konstitusi Claude, yaitu dokumen yang mengatur pedoman moral chatbot tersebut. Dalam dokumen itu, status moral, kesejahteraan, dan kesadaran AI dinyatakan masih sangat tidak pasti.

Ketidakpastian tersebut menunjukkan bahwa pertanyaan tentang kemungkinan kesadaran AI masih terbuka untuk diperdebatkan. Namun, hal itu tidak dengan sendirinya membuktikan bahwa chatbot memiliki pengalaman sadar atau benar-benar hidup.

Pandangan berbeda disampaikan Mustafa Suleyman, salah satu pendiri unit AI DeepMind. Ia berpendapat bahwa kesadaran merupakan sesuatu yang secara mendasar bersifat biologis sehingga tidak dapat diterapkan pada kecerdasan buatan.

Perbedaan pandangan antara Hinton dan Suleyman memperlihatkan bahwa para pakar belum mencapai kesepakatan mengenai kesadaran mesin. Sementara itu, kekhawatiran tentang serangan siber dan risiko pengembangan AI tetap menjadi bagian penting dari perdebatan mengenai keamanan teknologi tersebut.