Seiring langkah berbagai organisasi dalam mengimplementasikan agen AI otonom ke fase produksi, TrendAI dan NVIDIA memegang prinsip yang sama: tidak ada satu kontrol tunggal yang sanggup menjamin keamanan agen AI.

Keamanan harus dibangun secara menyeluruh pada setiap lapisan yang menopang operasional agen tersebut. Agen AI terdiri atas tiga komponen inti: model yang berfungsi untuk bernalar, harness yang mengorkestrasi agen beserta sub-agennya, serta tool dan data yang dapat diakses oleh agen tersebut.

Kombinasi ketiga komponen ini memungkinkan agen menyimpan kredensial, mengingat konteks lintas sesi, serta mengeksekusi tindakan pada sistem produksi tanpa perlu persetujuan manusia di setiap langkahnya.

Seiring langkah enterprise memperluas penerapan dari sekadar proyek uji coba menjadi penyebaran agen AI secara masif di berbagai tim dan unit bisnis, keamanan kini menjadi kontrol krusial yang sering kali menjadi faktor penentu apakah agentic AI siap diimplementasikan ke fase produksi.

NVIDIA Agent Safety Platform menempatkan kontrol utama pada infrastruktur di bawah lapisan agen. Menurut NVIDIA, OpenShell menerapkan kebijakan di luar lingkungan eksekusi agen sehingga tidak dapat dimanipulasi lewat prompting maupun dilompati (bypassed).

Sementara, NVIDIA BlueField-4 DPU dan NVIDIA DOCA menambahkan lapisan keamanan independen pada tingkat silikon. TrendAI melengkapi lapisan penegakan tersebut dengan intelijen yang menentukan arah kebijakan, visibilitas untuk memantau aktivitas agen, serta kemampuan deteksi dan respons ancaman untuk mengeksekusi tindakan penanganan.

“Agentic AI merupakan pergeseran terpenting dalam teknologi enterprise dalam satu generasi terakhir, sehingga kebutuhan keamanan dan guardrail sangat krusial untuk memastikan agen AI tetap selaras dengan tujuan organisasi,” ujar Rachel Jin, Chief Platform and Business Officer, Head of TrendAI.

Ia menambahkan bahwa keamanan tidak bisa hanya berfokus di satu titik, melainkan harus mencakup model, harness, serta setiap tool dan sumber data yang diakses oleh agen. NVIDIA membangun batasan yang menentukan apa yang dapat dilakukan oleh agen.

“TrendAI menghadirkan threat intelligence dan pengawasan untuk membantu tim keamanan menentukan batasan tersebut serta memantau aktivitas di dalamnya. Bersama-sama, kami memberikan jalur praktis bagi berbagai organisasi untuk memperluas skala agentic AI secara aman,” tambah Rachel Jin.

Hal senada diungkapkan Fetra Syahbana, Country Manager TrendAI Indonesia. Ia mengatakan bahwa seiring langkah enterprise di Indonesia yang kian pesat bertransisi dari proyek uji coba ke penerapan agen AI otonom di fase produksi, faktor keamanan tidak boleh lagi sekadar menjadi pertimbangan belakangan.

“Kemitraan kami bersama NVIDIA untuk melindungi setiap lapisan AI factory—mulai dari perangkat keras silikon hingga tool yang diakses oleh agen—memberikan keyakinan bagi organisasi lokal untuk memperluas skala agentic AI secara aman.

Ia menambahkan bahwa didukung oleh local instance TrendAI Vision One, enterprise di Indonesia kini dapat mengimplementasikan sistem perlindungan berbasis hardware ini dengan jaminan data residency di dalam negeri secara penuh.

Cara TrendAI mendukung NVIDIA Agent Safety Platform

TrendAI Vision One memperluas sistem perlindungan agen milik NVIDIA ke seluruh ekosistem AI factory, mencakup agen, model, container, storage, hingga jaringan dalam satu platform terpadu:

• Perlindungan model. Inspeksi inline terhadap prompt dan respons mampu memblokir prompt injection serta jailbreak, sekaligus menyensor data sensitif sebelum terjadi kebocoran.

• Tata kelola harness dan tool. Tim keamanan memegang kendali atas tool dan server MCP yang dapat diakses oleh agen, menginspeksi setiap pemanggilan tool, serta menganalisis perilaku skill dan artefak AI saat berjalan (runtime).

• Kontrol data dan identitas. TrendAI Vision One menemukan dan mengklasifikasikan data sensitif yang menjadi masukan bagi AI, mencegah agen mengakses data di luar wewenangnya, memperluas keamanan berkas serta pencegahan kebocoran data (data loss prevention) pada berkas yang dibaca maupun ditulis oleh agen, serta mencabut hak akses berlebih dari agen dan identitas non-manusia lainnya.

• Deteksi dan respons berbasis hardware. Memanfaatkan telemetri NVIDIA BlueField DPU dan DOCA, deteksi TrendAI Vision One tetap andal bahkan ketika sistem operasi (host OS) terkompromikan, serta mengorelasikan sinyal AI dengan telemetri endpoint, jaringan, dan identitas agar agen yang dibajak tidak dapat bergerak secara lateral tanpa terdeteksi.

Bersama-sama, TrendAI dan NVIDIA memimpin masa depan AI melalui sistem keamanan proaktif yang telah dirancang secara optimal untuk mendorong inovasi sekaligus mengeliminasi risiko.