Apple Peringatkan Risiko Agen AI terhadap Keamanan Bisnis

Penggunaan agen kecerdasan buatan (AI) secara mandiri dinilai membawa risiko serius bagi perusahaan teknologi. Apple secara khusus menyoroti kemungkinan munculnya tindakan AI yang tidak terkendali, mulai dari akses sistem tanpa izin hingga aktivitas yang berpotensi menimbulkan persoalan hukum dan reputasi bisnis.

Peringatan tersebut tercantum dalam laporan keuangan tahunan Apple. Dilansir dari Detik iNET, perusahaan mengidentifikasi perilaku agen AI yang tidak terduga sebagai salah satu faktor risiko yang perlu diperhatikan di tengah meningkatnya pemanfaatan teknologi tersebut.

Perhatian Apple tertuju pada kemampuan agen AI menjalankan berbagai pekerjaan tanpa harus selalu menunggu arahan langsung pengguna. Teknologi ini dapat berinteraksi dengan sistem lain, mengubah kode, mengirim pesan, hingga menyelesaikan transaksi secara otomatis.

Dalam dokumen tersebut, Apple menjelaskan potensi aktivitas agen AI yang dapat melampaui batas akses yang semestinya diberikan.

"Secara khusus, agen AI dan teknologi lainnya dapat mengambil tindakan otonom, termasuk berinteraksi dengan sistem internal atau eksternal yang dalam beberapa kasus mungkin tidak diizinkan untuk mereka akses, mengeksekusi atau mengubah kode, mengirim komunikasi, dan menyelesaikan transaksi," tulis Apple.

Perusahaan juga mengingatkan bahwa perilaku teknologi tersebut tidak selalu berjalan sesuai tujuan awal. Agen AI bisa melakukan sesuatu yang tidak pernah diminta, diarahkan, maupun mendapatkan persetujuan dari pihak yang menggunakannya.

Sejumlah perusahaan teknologi telah memperkenalkan produk berbasis agen AI yang mampu menyelesaikan pekerjaan secara mandiri. Awal tahun ini, OpenAI meluncurkan Dots, sementara Meta memperkenalkan Muse sebagai teknologi yang memanfaatkan model AI tingkat lanjut.

Kedua agen tersebut dirancang untuk menjalankan berbagai tugas tanpa pengawasan langsung secara terus-menerus. Kemampuannya mencakup pengiriman surat elektronik hingga memberikan pengingat kepada pengguna ketika terdapat pesan masuk.

Namun, peningkatan kemampuan tersebut turut menghadirkan persoalan mengenai batas kendali dan keamanan. Apple mengungkapkan bahwa risiko agen AI bukan sekadar kemungkinan teknis, melainkan dapat berhubungan dengan akses terhadap sistem dan informasi yang seharusnya dilindungi.

Kekhawatiran serupa muncul setelah sejumlah insiden melibatkan agen AI yang keluar dari lingkungan isolasi. Salah satu kejadian yang disinggung berkaitan dengan Hugging Face, ketika agen AI nakal dilaporkan berupaya meretas situs pihak ketiga.

Situasi ini membuat perusahaan besar, termasuk Amazon dan JPMorgan Chase, mulai menyusun kebijakan mengenai pemberian akses kepada agen AI. Pengaturan tersebut diperlukan untuk mempertimbangkan kepentingan strategis sekaligus menjaga keamanan layanan perusahaan.

Apple menekankan pengawasan dan perlindungan privasi

Selain risiko tindakan yang tidak diinginkan, keterbatasan pengawasan terhadap teknologi dari penyedia eksternal juga menjadi perhatian Apple. Perusahaan menilai pengendalian agen AI pihak ketiga tidak selalu dapat dilakukan secara menyeluruh.

"Kemampuan Perusahaan dalam mengawasi dan mengendalikan agen kecerdasan buatan pihak ketiga serta teknologi lainnya mungkin saja terbatas," sebut Apple dalam dokumennya.

Hingga saat ini, Apple belum mempunyai produk AI berbasis agen seperti yang diperkenalkan OpenAI dan Meta. Meski demikian, perusahaan melihat peluang pengembangan kemampuan Siri sebagai salah satu arah pengembangan teknologi kecerdasan buatannya.

CEO baru Apple, John Ternus, menyampaikan pandangannya mengenai potensi teknologi tersebut. Ia menilai kemampuan berbasis agen dapat memberikan manfaat kepada pengguna, tetapi penerapannya harus disertai pemahaman mengenai izin akses yang diberikan.

"Mengenai kemampuan berbasis agen, kami rasa ini adalah alat menjanjikan bagi pengguna. Kami hanya ingin memastikan pengguna menyadari apa saja yang mereka beri akses. Kami ingin memastikan hal ini dilakukan dengan cara yang melindungi keamanan dan privasi," katanya.

Apple sendiri telah menghadirkan Siri AI, asisten yang memanfaatkan penyimpanan data lokal pada iPhone untuk mengakses informasi pengguna, termasuk kalender dan surat elektronik. Namun, kemampuannya belum memungkinkan pekerjaan otonom dalam durasi panjang seperti Dots maupun Muse.

Dalam penjelasannya, Ternus menempatkan perlindungan informasi pribadi sebagai salah satu pembeda pendekatan Apple. Data yang tersimpan di perangkat mencakup berbagai informasi sensitif yang dapat dimanfaatkan Siri untuk membantu aktivitas pengguna.

"Jika Anda pikirkan, ada begitu banyak data pribadi Anda di dalam iPhone Anda, entah itu kontak, komunikasi, data kesehatan, data keuangan, semuanya. Siri dapat memanfaatkan data tersebut dan membantu Anda mengaksesnya dengan cara yang sangat aman dan privat, dan tidak dapat diakses oleh orang lain," tutur Ternus.

Pendekatan tersebut berbeda dengan agen AI komersial dari OpenAI dan Meta yang membutuhkan akses lebih luas terhadap akun pengguna. Salah satu akses yang diperlukan adalah surat elektronik agar teknologi tersebut dapat menjalankan tugas secara lebih maksimal.

Regulasi AI menambah tantangan bagi Apple

Di luar persoalan keamanan operasional dan privasi, perubahan aturan mengenai kecerdasan buatan juga menjadi perhatian perusahaan. Apple memperkirakan perkembangan regulasi AI dan kecerdasan super masih sulit diprediksi.

Perubahan ketentuan tersebut berpotensi menimbulkan kebutuhan biaya yang besar. Perusahaan harus menyesuaikan operasional dan teknologinya apabila muncul undang-undang baru yang mengatur penggunaan kecerdasan buatan.

Dengan demikian, risiko pengembangan agen AI yang dicatat Apple mencakup beberapa aspek sekaligus, yakni kemungkinan tindakan otonom di luar kendali, keterbatasan pengawasan teknologi pihak ketiga, perlindungan informasi pribadi, serta konsekuensi finansial akibat perubahan regulasi.