Dukung era Agent Computer dengan inferensi AI ECC 32 GB hemat biaya

Dibekali ECC GDDR6 32 GB untuk inferensi AI lokal tanpa peralihan ke cloud. Penerapan AI lokal yang hemat biaya dengan konsumsi daya 310 W. Peningkatan VRAM hingga 128 GB dalam konfigurasi empat kartu dirancang untuk AI level cloud yang lebih hemat.

JAKARTA — ASUS mengumumkan kehadiran UGen Intel® Arc™ Pro B70 32GB sebagai kartu akselerator AI hemat biaya untuk mendukung era agentic AI lokal yang berkembang pesat. 

Seiring meluasnya penggunaan large language model (LLM) dan alur kerja multi-agent AI dari cloud ke desktop dan workstation, kehadiran ASUS UGen B70 menjawab kebutuhan yang paling mendesak, yaitu: VRAM besar yang hemat biaya. 

Kombinasi memori GDDR6 ECC 32 GB dengan optimasi arsitektur inferensi menyuguhkan opsi penerapan yang optimal untuk menjalankan AI secara lokal, privat, dan hemat biaya.

Dirancang untuk perkembangan agentic AI lokal

Beban kerja AI modern bisa saja membutuhkan banyak kapasitas memori. Proses penalaran konteks yang panjang meningkatkan penggunaan cache KV secara dramatis.

Selain itu, penerapan multi-agen yang menggunakan beberapa model secara bersamaan meningkatkan kebutuhan VRAM. Setelah kapasitas VRAM berkurang, data akan dipindahkan ke memori host dan performa inferensi dapat menurun hingga 90%. 

Memori GDDR6 32GB dengan proteksi ECC pada kartu ini cukup untuk menjalankan model dengan kebutuhan memori yang besar secara lokal. 

Satu ASUS UGen B70 mendukung sebagian besar model dengan parameter di bawah 27B dan menyediakan hingga 128K token menggunakan Llama 3.1 8B, dengan peningkatan hingga 64 GB dalam konfigurasi dua kartu dan 128 GB dalam konfigurasi empat kartu untuk memenuhi kebutuhan AI bagi SMB dan perusahaan besar.

Ekosistem software mumpuni

ASUS UGen B70 didukung oleh rangkaian software AI yang berkembang pesat, seperti Intel LLM Scaler dan vLLM XPU, llama.cpp (SYCL dan Vulkan), Ollama, Intel OpenVINO dan oneAPI, PyTorch XPU, dan ComfyUI untuk pembuatan gambar. 

Model-model terverifikasi terdiri dari Llama 3.1/3.2 (8B–70B), Qwen 3.x, DeepSeek-R1 Distill (7B–70B), Mistral dan Mixtral, OpenAI gpt-oss (20B dan 120B), Whisper-large-v3, dan InternVL3.5, dengan konfigurasi dua kartu yang mampu menjalankan model kelas 80B pada kecepatan 43,4 token per detik.

INT4/FP8 online quantization bawaan LLM Scaler menghilangkan ketergantungan terhadap quantization tool eksternal berbasis CUDA. Selain itu, keterbatasan ekosistem yang ada saat ini tidak memengaruhi penerapan AI di lingkungan komersial dalam waktu dekat.

Dirancang untuk beragam penggunaan AI 

ASUS UGen B70 menargetkan tiga segmen pengguna utama. Bagi prosumer dan pengembang AI independen, satu kartu ASUS UGen 32 GB dapat melampaui limitasi sumber daya pada kartu 16 GB mainstream untuk menjalankan model lebih besar. 

Bagi bisnis kecil dan studio kreatif, konfigurasi dua kartu 64 GB mendukung penerapan AI yang lebih besar serta data sensitif tetap tersimpan secara internal di perusahaan.

Bagi tim departemen AI perusahaan, sistem multi-kartu 128 GB akan mengurangi biaya dalam jangka panjang dibandingkan berlangganan API cloud. 

Sistem multi-kartu ini juga memenuhi persyaratan kepatuhan data di bidang hukum, kedokteran, pemerintahan, dan keuangan.

Kemampuan skalabilitas inilah yang membuat ASUS UGen B70 menjadi fondasi dari agent computer, yaitu sebuah sistem untuk menjalankan AI agent secara lokal sejak awal.