Couchbase Perbarui AI Data Plane dan Pangkas Token hingga 45 Persen

Perusahaan teknologi Couchbase memperbarui AI Data Plane pada 21 Oktober 2026 untuk menyederhanakan infrastruktur agen kecerdasan buatan (AI) bagi perusahaan. Pembaruan ini mencakup integrasi Amazon Bedrock, layanan memori agen, server MCP terkelola, dan pencarian semantik, dengan penghematan penggunaan token yang diklaim mencapai 45 persen, dilansir dari Detik iNET.

Melalui pembaruan tersebut, Couchbase menggabungkan penyimpanan memori, akses data operasional, pencarian, dan analitik dalam satu platform. Menurut perusahaan, pendekatan terpadu ini ditujukan untuk mengurangi kebutuhan pengelolaan berbagai sistem terpisah yang masing-masing memerlukan sinkronisasi dan pengamanan tersendiri.

Barry Morris, Chief Product and Strategy Officer Couchbase, menyebut integrasi lapisan data sebagai kebutuhan perusahaan yang mengembangkan agen AI untuk penggunaan berskala besar.

"Pelanggan yang membangun agen AI untuk beroperasi dalam skala besar membutuhkan lapisan data yang terintegrasi," ujar Barry Morris, Chief Product and Strategy Officer Couchbase.

Morris menjelaskan bahwa sebagian perusahaan masih mengandalkan tiga atau empat sistem berbeda. Setiap sistem memiliki mekanisme sinkronisasi, pengamanan, serta potensi kegagalan masing-masing.

Integrasi dengan Amazon Bedrock menjadi salah satu pembaruan utama melalui fitur penyimpanan tembolok semantik atau semantic caching. Fitur ini memungkinkan aplikasi menggunakan kembali hasil pemrosesan pertanyaan yang memiliki makna serupa sehingga tidak perlu berulang kali meminta model bahasa besar memproses pertanyaan sejenis.

Menurut Couchbase, mekanisme tersebut dapat mengurangi pemanggilan model AI sebesar 40 hingga 60 persen. Angka ini mengacu pada frekuensi pemanggilan model, bukan persentase penghematan keseluruhan biaya operasional.

Fitur Managed Agent Memory juga diperkenalkan untuk menyimpan profil pengguna, riwayat percakapan, dan informasi penting lintas sesi. Berdasarkan pengujian internal Couchbase menggunakan tolok ukur LoCoMo, fitur tersebut dapat menekan konsumsi token sebesar 33 hingga 45 persen.

Couchbase turut menyatakan bahwa pengambilan konteks berbasis vektor dapat menghasilkan prompt hingga 70 persen lebih ringkas dibandingkan metode yang memasukkan seluruh konteks. Ketiga persentase tersebut mengukur aspek berbeda sehingga tidak dapat dijumlahkan sebagai total penghematan biaya.

Untuk mendukung pengembangan agen AI, Managed Agent Memory dan Managed MCP Server kini tersedia sebagai layanan cloud yang dikelola sepenuhnya di AWS. Server MCP menyediakan akses ke data Couchbase melalui standar terbuka, sehingga pengembang tidak perlu membangun dan memelihara server sendiri.

Layanan tersebut mendukung kerangka pengembangan agen AI, termasuk LangGraph, CrewAI, dan LlamaIndex. Sementara itu, Couchbase Operational Insights menggabungkan pencarian vektor dan analisis data terstruktur melalui satu kueri SQL.

Fitur analitik tersebut memungkinkan perusahaan menggabungkan analisis pendapatan berdasarkan wilayah dengan pencarian kelompok pelanggan yang menyampaikan kekecewaan. Morris menyatakan bahwa integrasi ini dirancang untuk membantu pelanggan mengendalikan pengeluaran dan meningkatkan produktivitas pengembangan AI.

"Pendekatan ini membantu pelanggan Couchbase menekan biaya, meningkatkan produktivitas, dan memperoleh hasil investasi yang lebih cepat dari inisiatif AI mereka," ujar Morris.

Menurut Couchbase, seluruh kemampuan yang diumumkan telah tersedia secara umum. Informasi mengenai harga dan paket layanan disediakan melalui situs resmi perusahaan.