Menu
Close
Cirebon Times

Logis Dan Beradab

Asus Luncurkan UGen B70 untuk Perkuat Komputasi AI Lokal

Smallest Font
Largest Font

Kebutuhan komputasi kecerdasan buatan secara lokal mendapat tambahan solusi melalui kehadiran Asus UGen Intel Arc Pro B70 32GB. Dilansir dari Medcom, perangkat ini diperkenalkan untuk mendukung pengembangan agentic AI pada komputer desktop maupun workstation tanpa selalu mengandalkan layanan cloud.

Akselerator tersebut menggabungkan memori GDDR6 ECC berkapasitas 32 GB dengan konsumsi daya 310 W. Kombinasi ini dirancang untuk menangani pemrosesan berbagai model AI sekaligus memberikan pilihan penerapan yang lebih efisien di lingkungan lokal.

Kapasitas memori untuk pemrosesan model AI

Ketersediaan VRAM menjadi salah satu faktor penting dalam menjalankan large language model (LLM), terutama ketika sistem harus menangani konteks panjang dan beberapa model secara bersamaan.

Penggunaan memori yang meningkat dapat menjadi kendala ketika kapasitas VRAM tidak lagi mencukupi. Dalam kondisi tersebut, sebagian data akan dialihkan ke memori utama sehingga performa inferensi berisiko mengalami penurunan hingga 90%.

Asus menawarkan kombinasi memori berkapasitas besar dan optimasi arsitektur inferensi sebagai pendekatan untuk mengatasi kebutuhan tersebut. Perangkat ini memungkinkan pemrosesan AI dilakukan secara lokal dengan mempertimbangkan aspek privasi dan efisiensi biaya.

Untuk penggunaan satu kartu, Asus UGen B70 diklaim mampu menjalankan mayoritas model AI dengan parameter di bawah 27B. Perangkat ini juga dapat menyediakan kapasitas konteks hingga 128K token ketika digunakan bersama Llama 3.1 8B.

Kebutuhan kapasitas yang lebih besar dapat dipenuhi melalui konfigurasi beberapa kartu. Dua unit menyediakan total 64 GB VRAM, sedangkan penggunaan empat unit memungkinkan kapasitas mencapai 128 GB VRAM.

Dukungan perangkat lunak dan model AI

Selain kemampuan perangkat keras, Asus UGen B70 didukung sejumlah perangkat lunak untuk menunjang pengembangan dan pengoperasian model kecerdasan buatan. Ekosistem tersebut mencakup Intel LLM Scaler, vLLM XPU, llama.cpp, dan Ollama.

Dukungan lainnya meliputi Intel OpenVINO, oneAPI, PyTorch XPU, serta ComfyUI. Beragam perangkat lunak tersebut memberikan pilihan bagi pengguna untuk menjalankan dan mengembangkan alur kerja AI sesuai kebutuhan.

Sejumlah model yang telah diverifikasi untuk perangkat ini mencakup Llama 3.1/3.2, Qwen 3.x, DeepSeek-R1 Distill, hingga OpenAI gpt-oss.

Asus juga menyematkan fitur INT4/FP8 online quantization. Fitur tersebut memungkinkan optimalisasi model dilakukan secara langsung untuk mendukung kebutuhan pemrosesan AI.

Target pengguna dan spesifikasi teknis

Konfigurasi multi-kartu turut ditawarkan sebagai pilihan untuk menekan pengeluaran operasional jangka panjang dibandingkan penggunaan layanan API cloud secara berlangganan. Pendekatan pemrosesan lokal ini juga ditujukan untuk kebutuhan kepatuhan pengelolaan data.

Sejumlah sektor yang disebut membutuhkan kemampuan tersebut meliputi bidang hukum, kedokteran, pemerintahan, dan keuangan. Ketersediaan kapasitas memori yang dapat ditingkatkan memberikan pilihan konfigurasi bagi berbagai skala penggunaan.

Asus membagi sasaran pengguna UGen B70 ke dalam tiga kelompok utama. Kelompok tersebut terdiri atas pengembang independen, bisnis kecil dan studio kreatif, serta tim departemen AI di perusahaan.

Dari sisi perangkat keras, akselerator ini menggunakan arsitektur GPU Intel Xe2. Komponen pemrosesnya terdiri atas 32 Xe-Cores dan 256 XMX AI engines, dengan kemampuan komputasi kecerdasan buatan mencapai 367 TOPS.

Untuk konektivitas, kartu akselerator tersebut menggunakan antarmuka PCIe 5.0 x16 dan dilengkapi port DisplayPort 2.1. Kombinasi spesifikasi tersebut menjadi fondasi perangkat untuk mendukung penerapan agentic AI melalui sistem komputasi lokal.

Follow cirebontimes.com Add to preferred sources on Google
Editors Team
Daisy Floren

What's Your Reaction?

  • Like
    0
    Like
  • Dislike
    0
    Dislike
  • Funny
    0
    Funny
  • Angry
    0
    Angry
  • Sad
    0
    Sad
  • Wow
    0
    Wow

Most viewed