Nvidia เปิดตัว NVHBM ความจุแบนด์วิดธ์สูง 30% ใช้พลังงานลด 15% สำหรับพันธมิตร NVLink Fusion

Nvidia เปิดตัว NVHBM – หน่วยความจำแบบ High‑Bandwidth Memory ที่ปรับแต่งเฉพาะสำหรับพันธมิตรของโปรแกรม NVLink Fusion โดยอ้างว่ามีแบนด์วิธสูงขึ้น 30 % และใช้ไฟฟ้าต่ำลง 15 % เมื่อเทียบกับ HBM4e แบบคอมโมดิตี้ การเปิดตัวนี้เป็นส่วนสำคัญที่ทำให้ผู้ผลิตชิปแบบกำหนดเองสามารถเร่งรัดการพัฒนาและขยายระบบ AI‑accelerator ให้มีประสิทธิภาพมากขึ้น

Overview

NVLink Fusion เป็นโครงสร้างพื้นฐานของ Nvidia ที่ช่วยให้พันธมิตรเชื่อมต่อชิปกำหนดเองเข้ากับโดเมนการสเกล‑อัปของ NVLink ซึ่งใช้รวมหลายโปรเซสเซอร์ให้ทำงานเป็นระบบเดียวกันแบบเรียบเนียน ตัวอย่างที่เห็นได้ชัดคือ Vera Rubin NVL72 ที่เป็นแรคเค็ต‑สเกลเอ็กซเลเรเตอร์สำหรับ AI

ในวันนี้ Nvidia เพิ่ม “building block” ใหม่เข้าสู่ชุดเครื่องมือของ Fusion นั่นคือ NVHBM ซึ่งทำหน้าที่เป็นฐานดาย (base die) ของ HBM ที่ออกแบบเฉพาะเพื่อเพิ่มแบนด์วิธและลดการใช้พลังงาน โดยยังคงสอดคล้องกับมาตรฐาน HBM4e ที่ใช้อยู่ในหลาย AI‑accelerator ปัจจุบัน

Technical Details

NVHBM ไม่ได้เป็นการทดแทน HBM แต่เป็นส่วนเสริมที่ Nvidia ให้เฉพาะกับพันธมิตรของตนเองเท่านั้น การออกแบบทำร่วมกับผู้ผลิตเมโมรีชั้นนำ ทำให้เวลานำสู่ตลาด (time‑to‑market) ลดลงอย่างมีนัยสำคัญเมื่อเทียบกับการพัฒนา HBM คอมโมดิตี้ตั้งแต่ศูนย์

• แบนด์วิธ: สูงขึ้น 30 % ต่อสแตกเมื่อเทียบกับ HBM4e ปกติ
• การใช้ไฟฟ้า: ลดลง 15 % จากค่าเดิมของคอมโมดิตี้
• พื้นที่บนไดออน: ฐานดายและ PHY ที่เล็กลงทำให้พื้นที่วงจรบนไดออนหลักเพิ่มขึ้นถึง 30 %

โครงสร้างใหม่ย้ายคอนโทรลเลอร์เมมโมรีออกจากไดออนหลักไปยังฐานดายของสแตก HBM พร้อมกับจัดหา custom PHY ที่พันธมิตรสามารถนำไปบูรณาการในดีไซน์ของตนได้ การเปลี่ยนแปลงนี้ช่วยลดความซับซ้อนของการ routing บน interposer และเพิ่มพื้นที่สำหรับคอมพิวต์ไดออนเพิ่มเติม

Performance Benefits

แบนด์วิธที่สูงกว่าเป็นหัวใจสำคัญสำหรับงาน AI ที่ผูกติดกับความเร็วในการเข้าถึงเมมโมรี เช่น งาน inference ที่ต้องประมวลผลโทเคนหลายพันต่อวินาที การเพิ่ม 30 % ของแบนด์วิธโดยตรงทำให้ throughput สูงขึ้นและอัตราการผลิตโทเคนต่อวินาทีดีขึ้นอย่างชัดเจน

ด้วยพื้นที่คอมพิวต์ที่เพิ่มขึ้นถึง 30 % บนไดออนหลัก นักออกแบบสามารถใส่คอร์การประมวลผลเพิ่มเติมหรือหน่วยทำงานเฉพาะ (functional units) ลงไปได้โดยไม่ต้องลดขนาดของเมมโมรี นอกจากนี้ การจัด routing ที่เรียบง่ายยิ่งขึ้นบน interposer ยังช่วยลดความล่าช้า (latency) ที่อาจเกิดจากสัญญาณเชื่อมต่อหลายชั้น

Power & Efficiency

การใช้พลังงานที่ต่ำลง 15 % ของ NVHBM มีผลต่อ performance‑per‑watt อย่างมีนัยสำคัญ ซึ่งเป็นตัวบ่งชี้หลักในการออกแบบศูนย์ข้อมูล AI ที่ต้องควบคุมงบประมาณไฟฟ้าและความร้อน พลังงานที่ประหยัดได้สามารถนำไปใช้เพิ่มจำนวนหน่วยประมวลผล (accelerator) ภายในระบบเดียวกัน หรือแปลงเป็นการทำงานต่อเนื่องที่มีอัตราการผลิตสูงขึ้นโดยไม่ต้องเพิ่มพาวเวอร์ซัพพลาย

เมื่อหลายพันชิพใน rack‑scale system ใช้ NVHBM การสะสมของกำลังไฟฟ้าที่ประหยัดได้จะกลายเป็นค่าใช้จ่ายด้านพลังงานรวมที่ลดลงอย่างมีนัยสำคัญ ทั้งนี้ แม้ว่าประโยชน์เหล่านี้ยังไม่ได้ถูกนำไปใช้ในระบบ Vera Rubin ที่อยู่ในขั้นตอนผลิตแล้ว แต่ก็เป็นเหตุผลสำคัญที่ทำให้พันธมิตรของ Nvidia พิจารณานำ NVHBM เข้าไปในดีไซน์ของตน

Ecosystem & Partnerships

Nvidia ประกาศว่า Amazon Annapurna Labs จะเป็นพาร์ทเนอร์แรกที่ใช้ NVHBM โดย VP ของ Annapurna, Nafea Bshara ได้ให้สัมภาษณ์ว่าการร่วมมือครั้งนี้ “จะช่วยยกระดับการออกแบบโครงสร้างพื้นฐานของ AWS ในอนาคต” ชิป AI รุ่นต่อไปของ Annapurna อย่าง Trainium 4 มีการรองรับอินเทอร์เฟซ NVLink Fusion อยู่แล้ว ทำให้คาดว่าเวอร์ชันถัดไปจะสนับสนุน NVHBM ด้วยเช่นกัน

การเปิดตัว NVHBM จึงเป็นสัญญาณว่าตลาด AI‑accelerator กำลังเคลื่อนเข้าสู่ระดับที่ผู้ผลิตต้องการความยืดหยุ่นและประสิทธิภาพสูงสุดจากเมมโมรี การที่ Nvidia ให้เครื่องมือเฉพาะแก่พันธมิตรอาจเร่งให้เกิดนวัตกรรมใหม่ ๆ ในการออกแบบชิปกำหนดเอง ทั้งในด้านสถาปัตยกรรมระบบ‑บน‑ชิป (SoC) และโซลูชันเซิร์ฟเวอร์ระดับ rack

Summary

Nvidia เปิดตัว NVHBM ซึ่งให้แบนด์วิธสูงขึ้น 30 % และใช้พลังงานลดลง 15 % เมื่อเทียบกับ HBM4e ปกติ พร้อมย้ายคอนโทรลเลอร์เมมโมรีไปยังฐานดายและจัดหา custom PHY เพื่อเพิ่มพื้นที่คอมพิวต์บนไดออนหลัก การร่วมมือแรกกับ Amazon Annapurna Labs แสดงให้เห็นถึงศักยภาพของเทคโนโลยีนี้ในการเร่งรัดการออกแบบ AI‑accelerator ของพันธมิตรในระบบ NVLink Fusion.