TrendAI Perkuat Keamanan Agen AI dengan Platform NVIDIA

Perlindungan agen kecerdasan buatan (AI) di lingkungan perusahaan diperkuat melalui kolaborasi TrendAI dan NVIDIA. Dilansir dari Medcom, unit bisnis keamanan AI milik Trend Micro Incorporated tersebut mengumumkan dukungannya terhadap NVIDIA Agent Safety Platform untuk membantu organisasi menerapkan teknologi agen AI secara aman hingga tahap produksi. Kolaborasi ini menitikberatkan pengamanan infrastruktur, pengawasan aktivitas agen, serta pengendalian akses terhadap perangkat dan data.

Pendekatan tersebut ditujukan untuk mendukung perusahaan yang ingin memperluas penggunaan agentic AI tanpa mengabaikan kebutuhan keamanan dan kepatuhan. Agen AI otonom mengandalkan tiga komponen utama yang bekerja secara terintegrasi. Komponen tersebut mencakup model untuk melakukan penalaran, harness untuk mengatur koordinasi agen dan sub-agen, serta tool dan data yang dibutuhkan dalam menjalankan tugas.

Melalui kombinasi tersebut, agen dapat menyimpan kredensial, mempertahankan konteks antarsesi, dan menjalankan tindakan pada sistem produksi secara mandiri. Kemampuan ini memungkinkan proses kerja berlangsung tanpa persetujuan manusia pada setiap tahapan.

Di sisi lain, otonomi tersebut menimbulkan tantangan keamanan yang perlu ditangani pada seluruh lapisan sistem. Karena itu, NVIDIA Agent Safety Platform menerapkan mekanisme pengendalian pada infrastruktur yang berada di bawah lapisan agen, bukan hanya mengandalkan perlindungan di dalam agen itu sendiri.

OpenShell dan perangkat keras memperkuat pengamanan

Salah satu komponen utama platform ini adalah OpenShell, yang digunakan untuk menjalankan kebijakan keamanan di luar lingkungan eksekusi agen. Penempatan kontrol tersebut dirancang agar kebijakan tidak dapat diubah melalui serangan prompt injection maupun dilewati oleh agen.

Lapisan perlindungan tambahan berasal dari integrasi BlueField-4 DPU dan Doca. Keduanya mendukung penerapan mekanisme keamanan independen pada tingkat silikon atau perangkat keras, sehingga arsitektur perlindungan tidak hanya bertumpu pada perangkat lunak.

Melalui rancangan tersebut, pengendalian keamanan ditempatkan pada beberapa bagian infrastruktur. Pendekatan ini menjadi bagian dari upaya menyediakan batas operasional yang jelas bagi agen AI ketika berinteraksi dengan sistem perusahaan.

Peran TrendAI Vision One dalam pemantauan ancaman

TrendAI melengkapi sistem NVIDIA melalui integrasi platform TrendAI Vision One. Solusi ini menyediakan intelijen untuk menentukan kebijakan keamanan, visibilitas terhadap aktivitas agen, serta kemampuan mendeteksi dan merespons ancaman secara proaktif.

Rachel Jin, Chief Platform and Business Officer sekaligus Head of TrendAI, menilai agentic AI sebagai perubahan teknologi perusahaan yang sangat besar dalam satu generasi terakhir. Ia menekankan bahwa pendekatan keamanan harus mencakup seluruh komponen, mulai dari model dan harness hingga perangkat serta sumber data yang terhubung.

Menurut Rachel Jin, kerja sama tersebut menyediakan jaminan dan batasan yang dibutuhkan agar operasional agen AI tetap sejalan dengan tujuan bisnis organisasi. Dengan demikian, keamanan diposisikan sebagai bagian dari keseluruhan arsitektur penerapan AI, bukan sekadar perlindungan pada satu komponen.

Dukungan kepatuhan bagi perusahaan di Indonesia

Di Indonesia, Country Manager TrendAI Indonesia, Fetra Syahbana, menyoroti keamanan dan kepatuhan regulasi sebagai pertimbangan penting bagi pelaku industri. Kehadiran local instance TrendAI Vision One memungkinkan data tetap berada di dalam negeri melalui dukungan data residency lokal.

Fasilitas tersebut ditujukan untuk membantu perusahaan dan institusi di Indonesia mengadopsi agen AI berkinerja tinggi berbasis perangkat keras dengan tetap memperhatikan ketentuan regulasi setempat. Pengelolaan lokasi penyimpanan data menjadi salah satu aspek yang diperhatikan dalam penerapan teknologi ini di lingkungan domestik.

Empat aspek perlindungan TrendAI Vision One

Ekosistem TrendAI Vision One menggabungkan empat aspek keamanan untuk mengawasi interaksi agen AI dan membatasi risiko operasional. Mekanisme tersebut mencakup pemeriksaan prompt dan respons secara langsung, pengendalian akses, serta perlindungan terhadap data dan identitas non-manusia.

• Inspeksi prompt dan respons: Pemeriksaan secara inline membantu memblokir serangan jailbreak dan menyensor informasi sensitif.
• Pengendalian akses: Tim keamanan memperoleh kendali atas server MCP dan perangkat yang dapat digunakan oleh agen AI.
• Perlindungan data: Penerapan data loss prevention membantu mengendalikan risiko kebocoran informasi.
• Pengelolaan identitas non-manusia: Sistem mendukung pengendalian identitas yang digunakan oleh agen dan proses otomatis.

Gabungan mekanisme tersebut melengkapi pengamanan infrastruktur dari NVIDIA dengan kemampuan pemantauan dan pengendalian melalui TrendAI Vision One. Integrasi ini diarahkan untuk membantu organisasi menjalankan agen AI otonom dengan pengawasan yang lebih menyeluruh, sekaligus mempertimbangkan kebutuhan keamanan dan kepatuhan di lingkungan perusahaan.