Riset Ungkap Kesenjangan Kesiapan Perusahaan Kelola AI Agentik

Kesenjangan antara keyakinan pimpinan perusahaan dan kemampuan operasional dalam mengelola kecerdasan buatan (AI) agentik menjadi temuan utama riset OutSystems bersama CIO Dive dan KPMG. Dilansir dari Medcom, hanya 26% eksekutif menyatakan organisasinya sangat siap menangani konflik antaragen AI.

Temuan tersebut memperlihatkan bahwa optimisme terhadap penerapan teknologi belum sepenuhnya diikuti kesiapan menghadapi persoalan ketika sistem mulai beroperasi. Padahal, penggunaan AI agentik semakin diarahkan untuk mendukung proses bisnis berskala perusahaan.

Laporan bertajuk Engineering Business Outcomes: The Shift to Agentic Systems itu disusun berdasarkan survei terhadap lebih dari 850 pengambil keputusan di bidang teknologi informasi (TI) dari berbagai negara.

Sebanyak 82% responden percaya perusahaan mereka mampu mengikuti perkembangan tata kelola, integrasi, serta pemantauan AI agentik ketika teknologi tersebut diterapkan secara lebih luas. Namun, keyakinan tersebut belum mencerminkan kemampuan menyelesaikan persoalan operasional secara menyeluruh.

Kesiapan operasional belum sejalan dengan optimisme

Salah satu persoalan yang disoroti adalah kemampuan mengatasi perselisihan antara agen AI, sistem, dan alur kerja otomatis. Hanya 26% responden yang menilai organisasinya sangat siap meredakan sekaligus menyelesaikan konflik tersebut.

Perbedaan antara keyakinan dan kesiapan ini menjadi perhatian karena penggunaan AI agentik diperkirakan semakin kompleks. Dalam lima tahun mendatang, 71% eksekutif memperkirakan aplikasi enterprise mampu menyelaraskan pekerjaan lintas sistem, tim, dan proses bisnis.

Aplikasi tersebut juga diproyeksikan menjalankan alur kerja bertahap yang melibatkan berbagai proses secara bersamaan. Kondisi ini membuat pengelolaan hubungan antarsistem dan agen menjadi bagian penting dalam penerapan teknologi tersebut.

Chief Information Officer (CIO) OutSystems, Tiago Azevedo, menjelaskan adanya perbedaan mencolok antara kepercayaan eksekutif terhadap kemampuan mengikuti perkembangan teknologi dan kesiapan menghadapi konflik operasional.

"Sebanyak 82% eksekutif mengatakan mereka mampu mengikuti perkembangan AI agentik, tetapi hanya 26% yang mengatakan mereka mampu menyelesaikan konflik di antara agen tersebut," ujar Tiago Azevedo.

Menurut Tiago, perusahaan perlu menjadikan keamanan sebagai bagian mendasar dari platform sejak tahap pembangunan. Kebijakan juga harus diterapkan ketika agen sedang beroperasi agar kecepatan pengembangan tidak mengurangi keandalan sistem.

"Di sinilah tantangan sesungguhnya bagi perusahaan. Dari pengalaman menerapkan agen di berbagai lini bisnis, saya belajar bahwa keamanan harus dibangun ke dalam platform sejak awal, bukan baru diperiksa setelahnya. Dengan menegakkan kebijakan saat agen beroperasi, perusahaan dapat bergerak lebih cepat tanpa harus meragukan keandalan sistem yang mereka bangun."

Tata kelola dan integrasi menjadi perhatian perusahaan

Persoalan lain terlihat pada mekanisme pengawasan. Sebanyak 83% perusahaan masih mengandalkan kontrol prosedural yang melibatkan manusia untuk mengawasi penggunaan AI.

Sementara itu, baru 5% organisasi yang sudah menerapkan kombinasi kontrol otomatis, pencatatan jejak audit, dan titik pemeriksaan formal oleh manusia. Angka tersebut memperlihatkan terbatasnya penerapan mekanisme pengawasan terstruktur.

Ketika jumlah agen dan sistem yang digunakan bertambah, tantangan perusahaan tidak lagi sebatas membangun satu agen AI. Pengelolaan ekosistem yang melibatkan model, aplikasi, data, serta perangkat dari pihak ketiga juga menjadi kebutuhan.

Dalam aspek fleksibilitas dan interoperabilitas, integrasi dengan sistem yang sudah digunakan menjadi prioritas bagi 74% perusahaan. Selanjutnya, 63% responden menempatkan orkestrasi agen lintas sistem sebagai perhatian utama.

Sebanyak 62% lainnya mengutamakan keleluasaan untuk mengganti model maupun penyedia teknologi dari waktu ke waktu. Ketiga kebutuhan tersebut menunjukkan perhatian perusahaan terhadap kemampuan menghubungkan dan mengelola berbagai komponen AI.

Keandalan perilaku agen juga menjadi pertimbangan penting dalam pemilihan platform. Sebanyak 81% eksekutif menilai pengujian dan evaluasi menyeluruh sebagai kriteria yang sangat penting.

Penilaian tersebut mencakup interaksi antargen, penanganan kondisi pengecualian, serta mekanisme pemulihan melalui rollback. Pengujian diperlukan untuk menilai perilaku sistem ketika menghadapi berbagai situasi dalam pelaksanaan tugas.

Selain pengujian, konsistensi informasi juga menjadi kendala dalam menghubungkan berbagai agen. Sebanyak 35% responden menyebut keselarasan data dan kemampuan berbagi konteks sebagai hambatan utama orkestrasi.

Temuan tersebut berkaitan dengan kebutuhan agar agen dapat bekerja menggunakan data berpemilik yang tetap berada dalam pengaturan dan tata kelola perusahaan.

Pengukuran keberhasilan dan kesiapan kawasan Asia Pasifik

Dalam mengevaluasi hasil penerapan AI agentik, pengurangan kesalahan menjadi indikator yang paling banyak digunakan. Sebanyak 64% responden menempatkan metrik tersebut sebagai ukuran utama keberhasilan.

Indikator lainnya mencakup kepatuhan, peningkatan produktivitas, dan penghematan biaya. Meski demikian, dampak terhadap percepatan peluncuran produk atau layanan baru masih dirasakan oleh 12% responden secara global.

Dari sisi wilayah, Asia Pasifik menunjukkan tingkat kesiapan yang lebih tinggi dibandingkan gambaran umum dalam laporan tersebut. Sebanyak 39% responden di kawasan ini merasa sangat siap menangani konflik antaragen AI.

Selain itu, 14% organisasi di Asia Pasifik telah menerapkan kontrol tata kelola otomatis. Data tersebut menjadi gambaran mengenai tingkat penerapan mekanisme pengawasan otomatis di kawasan tersebut.

Managing Director KPMG, Michael Harper, menilai pendekatan tata kelola perlu disesuaikan dengan karakter sistem AI yang dinamis. Menurutnya, jaminan keamanan dan keandalan tidak cukup hanya dilakukan melalui pemeriksaan setelah sistem berjalan.

"Jaminan atas sistem agentik harus dirancang sejak hari pertama—jaminan itu tidak bisa sekadar diperiksa setelah semuanya terjadi," kata Michael.

Michael juga menyoroti keterbatasan pencatatan log tradisional dan pengawasan prosedural ketika digunakan untuk mengelola sistem AI yang dinamis. Pendekatan tersebut dinilai dirancang untuk perangkat lunak statis, bukan sistem yang perilakunya dapat berubah.

"Pencatatan log tradisional dan tata kelola prosedural dirancang untuk perangkat lunak statis, bukan AI yang dinamis. Untuk menjembatani kesenjangan antara keyakinan tinggi dan kesiapan operasional yang sesungguhnya, perusahaan memerlukan kemampuan untuk menjalankan kebijakan sebagai kode dan menerapkan pagar pengaman saat sistem berjalan. Dengan begitu, bisnis memiliki keleluasaan untuk berinovasi sekaligus menjaga keamanan, keandalan, dan fokus pada capaian bisnis di seluruh alur kerja."

Hasil riset ini memperlihatkan sejumlah aspek yang menjadi perhatian perusahaan dalam mengembangkan AI agentik, mulai dari penyelesaian konflik, pengawasan otomatis, integrasi sistem, konsistensi data, hingga evaluasi perilaku agen.