Couchbase Perluas AI Data Plane untuk Pangkas Biaya Operasional

Peningkatan kebutuhan infrastruktur untuk menjalankan agen kecerdasan buatan di lingkungan perusahaan mendorong Couchbase memperluas kapabilitas AI Data Plane. Penyedia platform data operasional ini menghadirkan integrasi Amazon Bedrock, pengelolaan memori agen, serta pencarian berbasis vektor untuk menyederhanakan infrastruktur dan menekan biaya operasional, dilansir dari Medcom. Pembaruan tersebut mencakup semantic caching, layanan Managed Agent Memory, Model Context Protocol (MCP) Server terkelola di Amazon Web Services (AWS), serta kemampuan pencarian berdasarkan kemiripan makna pada Couchbase Operational Insights.

Seluruh kapabilitas tersebut telah tersedia secara umum bagi pelanggan enterprise. Menurut data yang dipaparkan dalam laporan Medcom, pada Juni 2026, sebanyak 57,5% permintaan web berasal dari aktivitas otomatis, melampaui aktivitas manusia. Agen AI juga menghasilkan lalu lintas data hingga 450% lebih tinggi dibandingkan manusia yang melakukan pekerjaan serupa.

Data tersebut menunjukkan besarnya tuntutan terhadap infrastruktur perusahaan. Sekitar 83% organisasi menyatakan perlu memperbarui infrastruktur mereka sebelum dapat menjalankan AI agentik secara penuh.

Couchbase mengandalkan arsitektur terdistribusi dengan pendekatan memory-first dan shared-nothing untuk menangani kebutuhan pemrosesan tersebut. Arsitektur ini dirancang memproses jutaan kueri secara paralel dengan latensi di bawah satu milidetik tanpa antrean. Platformnya menggabungkan penyimpanan data JSON, kueri SQL, pencarian teks dan vektor, serta analitik waktu nyata. Melalui Couchbase Mobile, aplikasi AI juga dapat tetap beroperasi secara penuh pada perangkat edge ketika koneksi internet terputus.

Integrasi serverless dengan Amazon Bedrock memungkinkan perusahaan mengakses ratusan model fondasi menggunakan skema pembayaran berdasarkan pemakaian token. Sementara itu, semantic caching memungkinkan aplikasi menggunakan kembali hasil dari pertanyaan yang memiliki kemiripan makna, sehingga pemanggilan model bahasa besar (LLM) dapat berkurang 40% hingga 60%. Kapabilitas Managed Agent Memory menyediakan memori persisten bagi agen AI untuk menyimpan riwayat percakapan dan profil pengguna. Dengan demikian, agen dapat memanfaatkan informasi dari interaksi sebelumnya tanpa harus memulai dari awal pada setiap percakapan.

Dalam pengujian menggunakan standar LoCoMo, Couchbase mencatat penurunan konsumsi token sebesar 33% hingga 45%. Pengambilan konteks berbasis vektor juga memungkinkan pengurangan panjang prompt hingga 70%, sedangkan konsolidasi layanan diklaim dapat menekan total biaya kepemilikan (Total Cost of Ownership/TCO) lebih dari 50%. Chief Product and Strategy Officer Couchbase, Barry Morris, menyampaikan bahwa pendekatan terpadu tersebut mempercepat proses pengembangan agen AI bagi perusahaan.

Menurut Morris, waktu pengembangan yang sebelumnya membutuhkan hitungan kuartal dapat dipangkas menjadi hitungan minggu. Pernyataan tersebut menyoroti percepatan pengembangan sebagai salah satu manfaat integrasi berbagai kapabilitas dalam satu platform.

Couchbase juga menyebut Mavenir Networks sebagai salah satu perusahaan yang telah memanfaatkan keandalan platformnya untuk menjaga ketersediaan tinggi layanan suara berbasis AI. Seluruh kapabilitas baru AI Data Plane kini tersedia secara umum bagi pelanggan enterprise.