สตาร์ทอัพ Acrab เปิดตัว Agent Box มินิพีซี AI ราคาต่ำกว่าคู่แข่ง Nvidia DGX Spark.

Lead: สตาร์ทอัพสิงคโปร์ Acrab ที่ได้รับการสนับสนุนจากผู้ผลิตแบตเตอรี่ยักษ์ใหญ่อันดับหนึ่งของโลก เปิดตัว Agent Box คอมพิวเตอร์แบบมินิที่สามารถรันโมเดลภาษาใหญ่ระดับ 100 พันล้านพารามิเตอร์ได้โดยไม่ต้องเชื่อมต่อคลาวด์ ความสำคัญอยู่ที่อัตราการทำงานใกล้เคียงกับ Nvidia DGX Spark** ราคา $5,000 แต่ต้นทุนต่ำกว่าประมาณห้าเท่าและใช้ไฟฟ้าน้อยกว่าเดิมอย่างมาก

Overview

Acrab ประกาศว่า Agent Box เป็นระบบเดสก์ท็อปขนาดเล็กที่มุ่งเน้นการประมวลผล AI ภายในเครื่อง (on‑device) โดยใช้ชิปพิเศษชื่อ G≡LIX 1 ซึ่งผลิตด้วยเทคโนโลยี 5 nm ทำให้สามารถจัดการงาน inference ของโมเดลภาษาใหญ่ได้อย่างมีประสิทธิภาพ การออกแบบนี้ตอบโจทย์ผู้ใช้งานที่ต้องการความเป็นส่วนตัวของข้อมูลและไม่อยากพึ่งพาการเชื่อมต่ออินเทอร์เน็ตตลอดเวลา

ตามที่ Dr. Ken Phua ซีอีโอของ Acrac กล่าว “Generative AI helped people find answers. Agentic AI will help them get things done.” ความหมายคือการเปลี่ยนจากการให้ข้อมูลเป็นขั้นตอนเดียวไปสู่ระบบอัจฉริยะที่สามารถดำเนินการตามคำสั่งได้โดยอัตโนมัติ ทั้งในด้านสร้างโมเดล 3D, ควบคุมหุ่นยนต์ทำความสะอาด หรือเชื่อมต่อกับอุปกรณ์สมาร์ทโฮม

Technical Specifications

ชิป G≡LIX 1 ประกอบด้วย CPU Arm แบบ 20‑core, GPU ที่ให้กำลังการประมวลผล 3 TFLOPS, และ NPU (Neural Processing Unit) หลายคอร์ที่ปรับแต่งเฉพาะสำหรับ inference ของโมเดลภาษา ข้อมูลแบนด์วิธของหน่วยความจำรวมอยู่ที่ 273 GB/s พร้อมแคช L1 ขนาด 8 MB และแคช L2 ที่เร็วถึง 768 GB/s

• CPU: Arm 20‑core
• GPU: 3 TFLOPS
• NPU: รองรับการประมวลผลระดับ 700 TOPS
• หน่วยความจำรวม: แบนด์วิธ 273 GB/s, L1 cache 8 MB, L2 cache 768 GB/s

นอกจากนี้ SoC ยังบรรจุกลุ่ม DSP สำหรับวีดีโอ, ระบบรับสัญญาณจากกล้องหลายช่อง, และเครื่องยนต์แสดงผลความละเอียดสูง ทำให้ Agent Box สามารถทำงานเป็นศูนย์กลางการประมวลผลของอุปกรณ์ IoT ได้อย่างครบวงจร

Performance Benchmark

ในผลทดสอบภายใน Acrab ระบุว่าเมื่อใช้โมเดล Gemma 26B A4B พร้อมแคช KV 40 K และอินพุต 10 K โทเค็น ระบบสามารถประมวลผลได้เร็วถึง 1,416.8 tokens per second ซึ่งสูงกว่าการทำงานของ Apple Mac Mini M4 Pro ที่บันทึกไว้ที่ 188.9 tokens per second หรือประมาณ 7.5 เท่า

การเพิ่มความเร็วนี้ส่วนหนึ่งเกิดจากเทคโนโลยี VAE vector acceleration ของ NPU ที่ช่วยเร่งกระบวนการ attention ได้ถึงสามเท่าตามข้อมูลของบริษัท การทดสอบยังแสดงให้เห็นว่าประสิทธิภาพโดยรวมของ Agent Box ใกล้เคียงกับ Nvidia DGX Spark แม้ว่าราคาจะต่ำกว่าและใช้พลังงานน้อยกว่าครึ่งหนึ่ง

Software Ecosystem & Applications

Acrab ไม่ได้จำกัดไว้เพียงฮาร์ดแวร์เท่านั้น แต่ยังเปิดตัวแพลตฟอร์มซอฟต์แวร์ครบวงจร ซึ่งรวมถึง AI runtimes, toolchains สำหรับนักพัฒนา, ระบบปฏิบัติการที่ปรับแต่งเฉพาะ, ตัวอย่างดีไซน์และซอฟต์แวร์ orchestration สำหรับ “agents” อัตโนมัติ

สาธิตหลายกรณีถูกเผยแพร่โดยบริษัท แสดงให้เห็นว่า Agent Box สามารถรับคำสั่งเสียงเพื่อสร้างและพิมพ์โมเดล 3‑D, ควบคุมเครื่องดูดฝุ่นหุ่นยนต์, หรือทำงานร่วมกับอุปกรณ์เชื่อมต่ออื่น ๆ เช่น ไฟสมาร์ท, เครื่องปรับอากาศ และระบบล็อกอัจฉริยะ การประมวลผลบนอุปกรณ์ช่วยลดค่าใช้จ่ายของโทเค็น AI, ปกป้องข้อมูลที่เป็นความลับ, ทำงานได้แม้ไม่มีการเชื่อมต่ออินเทอร์เน็ต, และเก็บหน่วยความจำแบบถาวรสำหรับผู้ช่วย AI ส่วนบุคคล

Market Position & Implications

หากการอ้างอิงถึง CATL ในประกาศของ Acrab ยืนยันว่าบริษัทแบตเตอรี่ยักษ์ใหญ่เป็นผู้สนับสนุนทางการเงิน โครงการนี้อาจได้รับทรัพยากรและเครือข่ายระดับโลกทำให้การนำผลิตภัณฑ์เข้าสู่ตลาดอุตสาหกรรมต่าง ๆ เช่น AI‑NAS, หุ่นยนต์อุตสาหกรรม, หุ่นยนต์บริการ และยานพาหนะอัจฉริยะ มีโอกาสสูงกว่าเดิม

ด้วยต้นทุนที่ต่ำกว่าประมาณ หนึ่งในห้า ของ DGX Spark และการใช้พลังงานลดลงถึง 50 % ทำให้ผู้ผลิตอุปกรณ์และนักพัฒนาซอฟต์แวร์สามารถนำเทคโนโลยี AI ระดับองค์กรไปประยุกต์ใช้งานได้กว้างขวางขึ้น ทั้งในตลาดเอเชียตะวันออกเฉียงใต้ที่กำลังเติบโตอย่างรวดเร็ว

Summary

Agent Box ของ Acrab เสนอโซลูชันคอมพิวเตอร์ AI ขนาดมินิที่ให้ประสิทธิภาพใกล้เคียงกับ Nvidia DGX Spark แต่มีต้นทุนและการใช้ไฟฟ้าน้อยกว่ามาก การสนับสนุนจาก CATL หากเป็นจริงจะช่วยเร่งการยอมรับเทคโนโลยีนี้ในหลากหลายอุตสาหกรรมต่อไป.