AI90 SSD เร่งความเร็ว Inference 8 RTX 5090 ทำงานเทียบเท่า 46 GPU

การบริษั​ท์ GenStorAIGE ได้นำเสนอแพลตฟอร์มเร่งความเร็วการทำงานแบบ Inference ชื่อ AI90 ที่งาน WAIC 2026 โดยใช้แนวทาง “Storage‑Centric” เพื่อขยายความจุหน่วยความจำที่ GPU สามารถเข้าถึงได้โดยไม่ต้องเพิ่ม HBM เพิ่มเติม การประกาศนี้สำคัญต่ออุตสาหกรรม AI เพราะอาจทำให้ระบบที่มีการ์ดกราฟิก RTX 5090 จำนวน 8 ตัว ทำงานได้เทียบเท่ากับคลัสเตอร์ขนาด 46 GPU ในงานประมวลผลแบบ Inference

Overview

แพลตฟอร์ม AI90 ใช้โครงสร้างหน่วยความจำสามระดับที่ผสานรวมระหว่าง HBM ของ GPU, DRAM ของระบบ และ SSD แบบ PCIe Gen5 เข้าด้วยกัน การจัดเก็บส่วนของ Key‑Value Cache ของโมเดลภาษาขนาดใหญ่ (Large Language Model) ไว้นอกหน่วยความจำของ GPU ทำให้บรรจุข้อมูลได้มากขึ้นโดยไม่ต้องเพิ่มการ์ดกราฟิกหรือ HBM เพิ่มเติม

ตามที่บริษัทระบุ การย้าย KV Cache ไปยัง SSD ช่วยลดแรงกดดันต่อหน่วยความจำ GPU ได้อย่างมีนัยสำคัญ ส่งผลให้ระบบสามารถรองรับ Context Window ที่เกิน 128,000 โทเค็น ซึ่งเหนือกว่าขีดจำกัดทั่วไปของการประมวลผลบน GPU เพียงอย่างเดียว

แม้จะเป็นแนวคิดใหม่ในวงการ AI การผสาน SSD เข้าไปในระดับหน่วยความจำยังคงต้องรอการตรวจสอบจากผู้เชี่ยวชาญภายนอกเพื่อยืนยันประสิทธิภาพจริงในสภาพแวดล้อมหลากหลาย

Key Details

AI90 สร้างสถาปัตยกรรมที่ทำให้ First‑Token Latency ลดลงจากระดับวินาทีเป็นระดับ sub‑second ซึ่งบริษัทอ้างว่าเป็นการเพิ่มประสิทธิภาพถึง 50 เท่า นอกจากนี้ยังรายงานว่าผลผลิต (Throughput) เพิ่มขึ้น 5.1 × และการใช้หน่วยความจำ GPU ลดลงประมาณ 39 %

ในโหมดที่มีการ์ดกราฟิก RTX 5090 จำนวน 8 ตัว ระบบสามารถเร่งความเร็วของ Inference ได้สูงสุด 5.8 × ซึ่งเทียบได้กับคลัสเตอร์ขนาด 46 GPU** ภายใต้ภาระงานต่อเนื่อง การสื่อสารระหว่าง GPU ผ่านโหมด Peer‑to‑Peer ยังช่วยให้การกระจายข้อมูล KV Cache ทำได้อย่างมีประสิทธิภาพ

ข้อจำกัดหลักของโมเดล LLM ที่เพิ่มขึ้นเรื่อย ๆ คือขนาดของ Context Window ที่ต้องใช้หน่วยความจำมาก AI90 จึงออกแบบให้ SSD เป็นส่วนหนึ่งของ “memory hierarchy” เพื่อตอบโจทย์นี้โดยไม่ทำให้ค่าใช้จ่ายของฮาร์ดแวร์พุ่งสูงเกินไป

Specs & Pricing

เพื่อสนับสนุนการอัปเดต KV Cache อย่างต่อเนื่อง GenStorAIGE ได้นำ SSD รุ่นใหม่ชื่อ PT200Z มาใช้งานร่วมกับ AI90 รายละเอียดสำคัญของไดรฟ์มีดังนี้

• ใช้เทคโนโลยี pSLC NAND เชื่อมต่อผ่าน PCIe Gen5 ×4
• ความเร็วอ่านแบบ Sequential สูงสุด 14.8 GB/s
• Random read ประมาณ 3.1 ล้าน IOPS
• Latency การอ่านอยู่ที่ 54 µs, การเขียน 10 µs
• อัตราการสึกหรอ (Endurance) รองรับสูงสุด 100 DWPD

ข้อมูลเหล่านี้แสดงให้เห็นว่า SSD รุ่นนี้มีความพร้อมในการทำงานกับโหลดการเขียนหนักที่เกิดจากการอัปเดต KV Cache อย่างต่อเนื่อง แม้ว่าราคาไม่ได้นำเสนอในบทความต้นฉบับ การประเมินค่าใช้จ่ายรวมของโซลูชันจะต้องพิจารณาต้นทุนของ SSD ร่วมกับ GPU และระบบ DRAM ที่จำเป็น

Analysis

การย้าย KV Cache ไปยัง SSD เป็นแนวทางที่อาจเปลี่ยนแปลงวิธีการออกแบบสถาปัตยกรรม AI ในอนาคต เนื่องจากโมเดล LLM ขนาดใหญ่กำลังเพิ่มความซับซ้อนและต้องการ Context Window ที่กว้างกว่าเดิม การพึ่งพา HBM เพียงอย่างเดียวอาจทำให้ระบบต้องใช้ GPU จำนวนมากหรือเพิ่มขนาด HBM ซึ่งมีต้นทุนสูง

โดยการผสาน SSD แบบ PCIe Gen5 เข้ากับหน่วยความจำระดับกลาง (system DRAM) ทำให้ได้ “สามชั้น” ที่สามารถจัดสรรข้อมูลตามลำดับสำคัญได้อย่างยืดหยุ่น อย่างไรก็ตาม ประสิทธิภาพที่อ้างว่าลด Latency ถึง 50× และเพิ่ม Throughput 5.1 × ยังต้องได้รับการตรวจสอบจากแหล่งอิสระ เนื่องจากตัวเลขเหล่านี้มาจากข้อมูลของผู้ผลิตโดยตรง

อีกประเด็นหนึ่งคือความทนทานต่อการเขียน (DWPD) ของ SSD หากระบบ AI ทำงานตลอด 24 ชั่วโมง การสึกหรอของ NAND อาจกลายเป็นปัจจัยสำคัญในการบำรุงรักษาและค่าใช้จ่ายระยะยาว จึงต้องมีการประเมิน ROI อย่างละเอียดก่อนนำไปใช้งานในระดับองค์กร

Impact

หากผลลัพธ์ตามที่ GenStorAIGE ประกาศเป็นจริง ระบบ Inference ขององค์กรจะสามารถทำงานได้โดยใช้ GPU น้อยลง ลดพลังงานและค่าใช้จ่ายด้านฮาร์ดแวร์อย่างมีนัยสำคัญ การขยาย Context Window ไปจนถึง 128,000 โทเค็นยังเปิดโอกาสให้โมเดลประมวลผลเอกสารหรือการสนทนายาว ๆ ได้โดยไม่ต้องแบ่งงานเป็นส่วนเล็ก ๆ

สำหรับผู้ให้บริการคลาวด์และศูนย์ข้อมูล การนำ AI90 มาใช้ร่วมกับ GPU รุ่นล่าสุดอย่าง RTX 5090 อาจทำให้ข้อเสนอด้าน AI-as-a‑Service มีความสามารถแข่งขันสูงขึ้น อย่างไรก็ตาม ผู้ประกอบการต้องพิจารณาความเสถียรของ SSD ในสภาพแวดล้อมที่มีการเขียนต่อเนื่องเป็นจำนวนมาก รวมถึงการจัดหาอุปกรณ์สำรองเพื่อป้องกันความล้มเหลว

โดยรวมแล้ว การผสมผสาน Storage‑Centric Memory Tiering นี้เป็นแนวทางหนึ่งที่ชี้ให้เห็นทิศทางของโครงสร้างพื้นฐาน AI ในอนาคต แม้จะยังต้องการการพิสูจน์เพิ่มเติมจากการทดสอบอิสระ แต่ก็แสดงให้เห็นถึงความพยายามของผู้ผลิตในการแก้ไขข้อจำกัดของ GPU‑Centric Architecture

Summary

GenStorAIGE เปิดตัวแพลตฟอร์ม AI90 ที่ใช้ SSD แบบ PCIe Gen5 เป็นส่วนหนึ่งของหน่วยความจำสามระดับ เพื่อขยายประสิทธิภาพ Inference ของ GPU RTX 5090 จำนวน 8 ตัวให้เทียบได้กับคลัสเตอร์ 46 GPU การอ้างว่า Latency ลดลงถึง 50‑เท่าและ Throughput เพิ่มขึ้นหลายเท่าต้องรอการตรวจสอบจากภายนอกเพื่อยืนยันผลลัพธ์จริง.