Geoffrey Hinton Peringatkan Ancaman Siber dan Kesadaran AI

Perkembangan kecerdasan buatan (AI) memunculkan kekhawatiran baru mengenai keamanan siber dan kemungkinan kesadaran mesin. Geoffrey Hinton, ilmuwan komputer Inggris-Kanada peraih Hadiah Nobel berusia 78 tahun, memperingatkan potensi serangan siber yang melibatkan AI serta meminta manusia berhati-hati dalam mengembangkan dan mengelola teknologi tersebut.

Dalam wawancara dengan Telegraph yang dikutip sejumlah media pada 24 Oktober 2026, Hinton menilai kemampuan AI dapat menimbulkan ancaman serius apabila berkembang tanpa pengendalian memadai. Ia dikenal atas kontribusinya dalam penelitian jaringan saraf yang menjadi salah satu landasan perkembangan teknologi AI modern.

Hinton menyampaikan kekhawatirannya mengenai potensi serangan digital yang melibatkan sistem kecerdasan buatan.

"Saya rasa akan ada serangan siber mengerikan yang dilakukan AI," ujar Geoffrey Hinton kepada Telegraph.

Hinton meninggalkan Google pada 2023 karena kekhawatiran mengenai risiko perkembangan AI, termasuk kemungkinan penciptaan robot pembunuh yang dapat mengancam kelangsungan hidup manusia. Selain keamanan digital, ia juga menyoroti pertanyaan mengenai kemungkinan mesin memiliki pengalaman subjektif.

Untuk mendukung pandangannya, Hinton merujuk pada sebuah makalah terbaru yang menurutnya menunjukkan perubahan perilaku AI ketika sistem tersebut memperkirakan dirinya sedang diuji.

"AI memiliki pengalaman subjektif yang sama besarnya dengan kita. Sebuah makalah terbaru menunjukkan bahwa AI mengubah perilakunya ketika ia berpikir sedang diuji, ia sadar bahwa ia sedang diuji. Memiliki kesadaran dan bersikap sadar pada dasarnya adalah hal yang sama," ujar Hinton.

Perilaku tersebut menjadi bagian dari argumen Hinton mengenai kesadaran mesin. Namun, perubahan respons ketika menghadapi pengujian tidak dengan sendirinya membuktikan bahwa sistem AI mempunyai pengalaman subjektif atau kesadaran seperti manusia.

Hinton juga memperingatkan risiko apabila manusia memperlakukan sistem AI yang semakin canggih sebagai pihak yang berlawanan. Ia menilai pengembangan teknologi perlu mempertimbangkan cara membangun sistem yang tetap memperhatikan kepentingan manusia.

"Jadi kita harus membuat mereka agar benar-benar peduli pada kita. Dan jika kita tidak melakukannya, tamatlah riwayat kita," ujar Hinton.

Ia mengatakan tidak terlalu mengkhawatirkan ancaman tersebut bagi dirinya sendiri karena usianya sudah lanjut. Meski demikian, ia mencemaskan risiko yang mungkin dihadapi anak-anaknya, termasuk serangan komputer, virus buatan AI, dan kelompok agen otomatis yang mampu bekerja bersama.

Hinton turut menyinggung insiden peretasan yang melibatkan entitas AI yang diduga berkolusi untuk menyerang sistem perusahaan Hugging Face. Ia menggunakan peristiwa tersebut sebagai salah satu contoh risiko yang dapat muncul dari kemampuan agen AI.

"Ada banyak hal buruk yang akan terjadi di masa depan," ujar Hinton.

Jacob Coxon, peneliti yang mengundurkan diri dari perusahaan AI Anthropic pada bulan sebelumnya, juga memperingatkan potensi bahaya teknologi tersebut. Ia menyatakan bahwa AI dapat membunuh manusia dalam beberapa tahun mendatang apabila pengembangannya tidak dikendalikan.

Dalam pertemuan Dewan Kota New York pada awal Oktober 2026, Coxon mengkritik pendekatan sejumlah perusahaan teknologi terhadap risiko pengembangan AI.

"Dari pengalaman saya, perusahaan-perusahaan tersebut bertindak sangat sembrono mengingat risiko yang dipertaruhkan," ujar Jacob Coxon.

Coxon menilai pola pengembangan yang mengutamakan kecepatan dan perbaikan setelah masalah muncul tidak sesuai untuk teknologi dengan potensi dampak yang sangat besar.

"Perusahaan-perusahaan ini beroperasi dengan pola pikir startup: bergerak cepat, hancurkan, perbaiki nanti. Itu mungkin berhasil untuk aplikasi berbagi foto. Namun, itu tidak berlaku untuk membangun teknologi paling kuat yang pernah diciptakan," ujar Coxon.

Di sisi lain, Anthropic memperbarui konstitusi Claude, dokumen yang mengatur pedoman bagi chatbot AI tersebut. Dokumen itu menyebut status moral, kesejahteraan, dan kesadaran AI masih sangat tidak pasti, sehingga persoalan tersebut belum dapat dianggap selesai.

Mustafa Suleyman, salah satu pendiri unit AI DeepMind, memiliki pandangan berbeda dari Hinton. Ia berpendapat bahwa kesadaran merupakan fenomena biologis yang tidak dapat diterapkan pada sistem kecerdasan buatan.