Init-6 Danai Netra Runtime untuk Perkuat Infrastruktur AI

Pengembangan infrastruktur kecerdasan buatan (AI) di Indonesia mendapat dukungan investasi dari perusahaan modal ventura Init-6. Perusahaan tersebut menanamkan investasi pada Netra Runtime, perusahaan teknologi dalam negeri yang mengembangkan solusi infrastruktur inferensi AI, dilansir dari Medcom.

Langkah ini memperluas keterlibatan Init-6 dalam industri AI, terutama pada teknologi yang membantu perusahaan mengoperasikan model kecerdasan buatan dengan biaya lebih efisien dan performa optimal.

Netra Runtime menghadirkan dua pilihan penerapan teknologi, yakni menggunakan perangkat GPU milik pelanggan atau memanfaatkan layanan komputasi awan yang disediakan perusahaan.

Efisiensi komputasi menjadi perhatian utama

Perkembangan penggunaan AI membuat kebutuhan perusahaan semakin kompleks. Pemilihan model dengan kemampuan tinggi bukan lagi satu-satunya pertimbangan karena biaya operasional untuk menjalankan teknologi tersebut juga menjadi faktor penting.

Founding Partner Init-6 Nugroho Herucahyono menjelaskan bahwa ketersediaan perangkat keras berkapasitas besar belum otomatis menghasilkan proses inferensi yang efisien. Optimalisasi perangkat lunak turut menentukan seberapa maksimal sumber daya komputasi dapat dimanfaatkan.

"Pertanyaan bagi perusahaan bukan lagi sekadar model mana yang paling pintar dan paling cepat, tetapi berapa biaya untuk menghasilkan suatu pekerjaan," ujar Nugroho.

Menurutnya, peningkatan kebutuhan komputasi AI membuat pengelolaan kapasitas GPU semakin penting. Perusahaan membutuhkan teknologi yang mampu memaksimalkan kemampuan perangkat keras sekaligus menjaga pengeluaran operasional.

Pengalaman membangun infrastruktur teknologi selama lebih dari satu dekade di Bukalapak menjadi salah satu bekal Nugroho dalam melihat peluang bisnis tersebut. Init-6 sendiri didirikan oleh Achmad Zaky dan Nugroho Herucahyono, yang sebelumnya membangun Bukalapak.

Dua pilihan layanan Netra Runtime

Netra Runtime dirancang untuk meningkatkan pemanfaatan perangkat GPU ketika perusahaan menjalankan model AI. Teknologi tersebut mendukung perangkat keras berbasis AMD maupun NVIDIA.

Untuk memenuhi kebutuhan pelanggan dengan karakteristik berbeda, Netra menyediakan dua skema layanan yang dapat dipilih berdasarkan kebutuhan pengelolaan infrastruktur dan data.

Private deployment

Skema pertama memungkinkan perusahaan menjalankan model AI menggunakan infrastruktur komputasi yang dimiliki sendiri. Melalui pendekatan ini, pelanggan tetap mempunyai kendali terhadap model dan data yang digunakan.

Netra Cloud

Pilihan kedua berupa Netra Cloud, layanan inferensi terkelola yang dapat digunakan melalui application programming interface (API) kompatibel dengan OpenAI.

Pengguna layanan ini dikenakan biaya berdasarkan jumlah token yang diproses. Skema tersebut memberikan alternatif bagi perusahaan yang ingin memanfaatkan kemampuan inferensi tanpa harus menjalankan seluruh infrastruktur secara mandiri.

Performa pemrosesan dan hasil pengujian

Hingga 28 Oktober 2026, Netra melaporkan telah memproses lebih dari 288 miliar token. Selama periode 21-27 Oktober, rata-rata pemrosesan mencapai 6,14 miliar token setiap hari.

Rekor pemrosesan tertinggi tercatat sebanyak 12,47 miliar token dalam satu hari. Platform tersebut juga telah mengumpulkan 1.415 pengguna terdaftar dan menjalin kerja sama dengan 19 partner.

Dalam pengujian performa terbaru, kemampuan pemrosesan prefill mencapai throughput 73.527 input token per detik pada tingkat concurrency 32 tanpa menggunakan cache.

Pengujian decode turut memperlihatkan perbedaan kinerja berdasarkan konfigurasi perangkat GPU. Berikut hasil pengujian throughput gabungan pada concurrency 32:

Pada pengujian dengan concurrency 1, konfigurasi empat GPU AMD MI350X menghasilkan kecepatan decode sebesar 1.152 token per detik untuk setiap pengguna.

Sementara itu, konfigurasi dua GPU NVIDIA B300 mencatat 498,8 token per detik. Penggunaan empat GPU NVIDIA B300 menghasilkan kecepatan 608,6 token per detik.

Netra mengingatkan bahwa hasil pengujian tersebut tidak bersifat mutlak untuk semua kondisi. Performa dapat berubah mengikuti jenis model AI, perangkat keras, beban kerja, serta konfigurasi yang diterapkan selama pengujian.

Peluang Indonesia mengembangkan infrastruktur AI

Investasi Init-6 juga mencerminkan peluang pengembangan industri AI nasional pada lapisan infrastruktur. Selama ini, pemanfaatan AI di dalam negeri dinilai masih banyak bertumpu pada model dan aplikasi yang menggunakan API dari penyedia luar negeri.

Kondisi tersebut membuka ruang bagi perusahaan teknologi Indonesia untuk mengembangkan komponen pendukung yang menjadi fondasi operasional kecerdasan buatan.

Nugroho menilai kemampuan engineer Indonesia dalam membangun teknologi infrastruktur AI dapat memperkuat posisi negara dalam rantai nilai industri kecerdasan buatan global.

Dalam waktu dekat, Init-6 menargetkan Netra meningkatkan kemampuan teknologinya sekaligus memperluas pemakaian di kalangan perusahaan besar atau enterprise.

Untuk jangka panjang, Netra Runtime diarahkan menjadi infrastruktur yang dapat diandalkan perusahaan di Indonesia maupun pasar global. Fokus pengembangannya adalah mendukung operasional AI yang efisien sekaligus memberikan kendali lebih luas kepada perusahaan atas model dan data mereka.