Akamai Luncurkan Dua Layanan AI untuk Perkuat Infrastruktur Cloud

Pengembangan kecerdasan buatan kini mendapatkan dukungan infrastruktur baru melalui dua layanan yang diperkenalkan Akamai Technologies. Perusahaan tersebut menghadirkan Akamai Inference dan Akamai Agent Sandbox sebagai bagian dari pengembangan ekosistem AI di platform Akamai Cloud, dilansir dari Medcom. Kedua produk ini dirancang untuk memenuhi kebutuhan perusahaan dalam mengembangkan, menyempurnakan, menjalankan, serta melindungi model kecerdasan buatan.

Integrasi layanan penyajian model dan lingkungan eksekusi agen AI memungkinkan berbagai proses tersebut berlangsung dalam satu platform. Peluncuran ini sekaligus memperluas strategi Akamai dalam mendekatkan aplikasi dan agen AI dengan pengguna akhir serta data internal perusahaan. Infrastruktur yang dikembangkan juga diarahkan untuk mendukung pengoperasian beban kerja AI berskala besar.

Besarnya kebutuhan pasar terhadap infrastruktur tersebut tercermin dari kontrak multi-tahunan Akamai Cloud yang secara kumulatif telah melampaui USD14 miliar. Capaian ini menunjukkan momentum pengembangan infrastruktur komputasi terdistribusi untuk kebutuhan kecerdasan buatan.

Dukungan tersebut mencakup integrasi unit pemrosesan terdistribusi, penyimpanan cloud, dan jaringan edge. Kombinasi ketiganya menjadi bagian penting dalam penyediaan sumber daya untuk menjalankan workload AI secara efisien. Chief Operating Officer dan GM Akamai Cloud, Adam Karon, menyebut inferensi AI sebagai salah satu fokus utama investasi perusahaan. Menurutnya, kebutuhan pelanggan memperkuat arah strategi infrastruktur yang selama ini dikembangkan Akamai.

Adam menjelaskan bahwa perusahaan telah mempersiapkan infrastruktur AI dengan mempertimbangkan meningkatnya kebutuhan proses inferensi. Ia juga menyoroti respons pelanggan yang mendorong pengembangan layanan tersebut. "Kami telah menjalankan strategi infrastruktur AI berdasarkan keyakinan bahwa AI inference akan menjadi fokus utama dan area investasi terbesar bagi perusahaan. Pelanggan kami membuktikan bahwa keyakinan tersebut benar dan mendorong kami untuk melangkah lebih jauh," ujar Adam.

Ia juga menjelaskan bahwa Akamai ingin menyatukan kebutuhan pembangunan, pengoperasian, dan perlindungan kecerdasan buatan dalam satu lingkungan. Kehadiran kedua produk baru tersebut melengkapi infrastruktur yang sebelumnya telah disiapkan.

Akamai Inference menyediakan akses berbagai model AI

Akamai Inference merupakan layanan penyajian model terkelola yang memungkinkan pengguna mengakses model open-weight maupun model kustom. Konektivitasnya menggunakan API yang kompatibel dengan OpenAI sehingga mendukung integrasi melalui antarmuka tersebut.

Pengguna mendapatkan dua pilihan penerapan sesuai kebutuhan komputasi. Opsi pertama berupa layanan inference tanpa server dengan sistem pembayaran berdasarkan pemakaian, sedangkan pilihan lainnya menggunakan penerapan khusus. Pada tahap awal, katalog Akamai Inference menyediakan 12 model open-weight.

Beberapa model yang termasuk di dalamnya adalah NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b, dan Google Gemma 4. Ketersediaan berbagai model tersebut memberikan pilihan bagi perusahaan untuk menjalankan kebutuhan inferensi melalui layanan terkelola. Pengguna juga dapat memanfaatkan model kustom sesuai kebutuhan penerapan AI masing-masing.

Agent Sandbox mengisolasi aktivitas agen AI

Produk kedua, Akamai Agent Sandbox, difokuskan pada keamanan operasional agen AI. Layanan ini menyediakan lingkungan terpisah untuk agen yang mampu melakukan tindakan secara mandiri maupun menghasilkan kode.

Dalam pengoperasiannya, Sandbox memanfaatkan teknologi isolasi WebAssembly yang menjadi bagian dari kerangka kerja Spin. Teknologi tersebut digunakan untuk membatasi akses agen terhadap berbagai sumber daya sistem. Pembatasan diterapkan pada penggunaan komputasi, kapasitas memori, koneksi keluar, serta kemampuan mengakses sistem. Dengan mekanisme ini, kode yang dijalankan agen ditempatkan dalam lingkungan terisolasi dari runtime utama.

Pendekatan tersebut memungkinkan aktivitas agen berlangsung dalam batas operasional yang telah ditentukan. Aspek keamanan sistem tetap menjadi bagian dari rancangan lingkungan eksekusi tersebut.

Dukungan GPU untuk kebutuhan pemrosesan kompleks

Selain memperkenalkan layanan perangkat lunak, Akamai memperluas kapasitas komputasi melalui klaster GPU khusus. Pengembangan ini mencakup penggunaan NVIDIA Blackwell Ultra serta persiapan infrastruktur yang mendukung platform NVIDIA Vera Rubin. Setiap node Blackwell Ultra dilengkapi delapan GPU dengan kapasitas memori gabungan mencapai 2,3 TB HBM3e.

Konfigurasi tersebut dirancang untuk menangani kebutuhan pemrosesan AI yang membutuhkan sumber daya komputasi besar. Salah satu sasaran penggunaannya adalah penalaran kompleks atau chain-of-thought reasoning. Infrastruktur tersebut juga dipersiapkan untuk mendukung pemrosesan agen AI yang membutuhkan konteks panjang.

Senior Vice President Cloud Technology di Akamai, Jon Alexander, menilai pengembang perlu mendapatkan fleksibilitas ketika membawa teknologi AI ke lingkungan produksi. Kecepatan penerapan dan kendali operasional menjadi dua kebutuhan yang harus dapat berjalan bersamaan.

"Perusahaan seharusnya tidak perlu memilih antara kecepatan dan kendali ketika menerapkan AI pada fase produksi," kata Jon. Ia menjelaskan bahwa kebutuhan setiap tim pengembang tidak selalu sama. Sebagian membutuhkan layanan terkelola untuk mempercepat peluncuran fitur, sementara kelompok lainnya memerlukan sumber daya GPU khusus.

"Sebagian tim ingin meluncurkan fitur AI pada kuartal ini melalui platform terkelola. Tim lainnya membutuhkan GPU khusus untuk menjalankan model open-weight kelas frontier sesuai kebutuhan mereka sendiri. Kini Akamai Cloud mendukung semuanya dalam satu platform, dengan keamanan dan resilience yang telah terintegrasi."

Melalui penggabungan layanan inferensi, lingkungan eksekusi terisolasi, dan dukungan GPU khusus, Akamai memperluas pilihan infrastruktur bagi perusahaan yang mengembangkan aplikasi berbasis kecerdasan buatan.

Saat ini, Akamai Inference dan Akamai Agent Sandbox telah tersedia dalam versi beta. Kedua layanan tersebut menjadi bagian dari pengembangan ekosistem AI terintegrasi di Akamai Cloud.