Nvidia เปิดตัวแพลตฟอร์ม Vera Rubin เพิ่มประสิทธิภาพการผลิตโทเคน AI อย่างเหนือระดับ

ที่มาภาพ: The Register

AI-อ่าน 7 นาทีThe Register

Nvidia เปิดตัวแพลตฟอร์ม Vera Rubin เพิ่มประสิทธิภาพการผลิตโทเคน AI อย่างเหนือระดับ

⚡ สรุป 30 วิ

Nvidia แถลงข่าว Vera Rubin ระบบรวม CPU‑GPU‑DPU พร้อมสวิตช์ความเร็วสูง ช่วยเพิ่มอัตราการผลิตโทเคน AI ถึงสิบเท่าและลดเวลาเชื่อมต่อถึง 90 เท่า.

บริษัท Nvidia ได้จัดงานแถลงข่าวในสัปดาห์ที่ผ่านมาเพื่อเปิดตัวแพลตฟอร์ม Vera Rubin ซึ่งออกแบบมาเพื่อเพิ่มประสิทธิภาพการผลิตโทเคนของโมเดล AI โดยเน้นที่การใช้พลังงานต่อผลลัพธ์ที่ดีขึ้น งานนี้ยังเป็นการแสดงให้เห็นถึง “โครงสร้างพื้นฐานทางกายภาพ” ของระบบ AI ผ่านห้องทดลองขนาดเล็กตั้งอยู่ในย่านชานเมืองซันนี่เวลล์ของ Silicon Valley

Overview

ในการบรรยาย Ian Buck ผู้จัดการทั่วไปของหน่วยธุรกิจ hyperscale และ HPC ของ Nvidia ได้เน้นว่าโครงสร้างพื้นฐานของ AI เป็นสิ่งที่จับต้องได้และเป็นหัวใจสำคัญในการทำให้เทคโนโลยีปัญญาประดิษฐ์กลายเป็นจริง “คุณสามารถสัมผัสได้” เขากล่าว การเยี่ยมชมห้องทดลองขนาด mini‑datacenter ที่ซ่อนอยู่ในย่านที่อยู่อาศัยนั้นทำให้ผู้สื่อข่าวเห็นภาพของศูนย์ข้อมูลระดับเล็ก ๆ สี่แห่งที่ Nvidia กำลังพัฒนา แม้ว่าผู้เข้าร่วมจะถูกขอให้ไม่เปิดเผยตำแหน่งโดยตรง แต่ข้อมูลเหล่านั้นสามารถตรวจสอบได้จากการค้นหาออนไลน์

งานนี้จัดขึ้นเพียงวันเดียวก่อนที่นักกิจกรรมชาวดัตช์จะแสดงความกังวลต่อผลกระทบด้านสิ่งแวดล้อมของศูนย์ข้อมูล โดยใช้ลูกโป่งบรรจุสารเคมีพ่นใส่ศูนย์ข้อมูลที่ให้บริการงานของ Microsoft การตอบสนองของ Nvidia ต่อประเด็นพลังงานและน้ำอาจยังไม่ชัดเจนในบริบทของพื้นที่ที่คุ้นเคยกับเทคโนโลยีระดับสูงเช่นนี้

Platform Details

Vera Rubin ประกอบด้วยหกส่วนสำคัญที่ทำหน้าที่ร่วมกันเพื่อให้ระบบ AI ทำงานได้อย่างต่อเนื่องและมีประสิทธิภาพสูงสุด

  • Vera CPU – หน่วยประมวลผลกลางแบบใหม่
  • Rubin GPU – การ์ดกราฟิกสำหรับการเร่งประมวลผลโมเดล AI
  • NVLink 6 Switch – สวิตช์เชื่อมต่อภายในที่มีแบนด์วิธสูง
  • ConnectX‑9 Network Interface – อินเทอร์เฟซเครือข่ายความเร็วสูง
  • BlueField‑4 DPU – หน่วยประมวลผลข้อมูลเพื่อการจัดการงาน I/O
  • Spectrum‑6 Ethernet Switch – สวิตช์อีเธอร์เน็ตสำหรับเชื่อมต่อระหว่างเซิร์ฟเวอร์

ส่วนประกอบเหล่านี้ถูกบรรจุในระบบที่สามารถติดตั้งบนแร็กได้หลายรูปแบบ ได้แก่ Vera Rubin NVL72 compute tray, NVLink switch tray, Groq 3 LPX inference accelerator tray, Vera CPU tray, BlueField‑4 STX storage tray และ Spectrum‑6 SPX switch tray ซึ่งทั้งหมดออกแบบมาเพื่อรองรับการทำงานของศูนย์ข้อมูล AI อย่างเต็มรูปแบบ

Performance Claims

Andrew Bell รองประธานฝ่ายวิศวกรรมฮาร์ดแวร์ของ Nvidia ได้ชี้ให้เห็นว่า Vera Rubin NVL72 compute tray สามารถประกอบได้ภายในหนึ่งนาทีเท่านั้น ซึ่งเปรียบเทียบกับการประกอบ GB200 compute tray ที่ต้องใช้เวลาถึง 90 นาที การปรับปรุงนี้หมายถึงประสิทธิภาพการติดตั้งที่ดีกว่า 90 เท่า

ในด้านประสิทธิภาพการผลิตโทเคน Nvidia อ้างว่าระบบใหม่สามารถให้ 10× มากกว่า token‑per‑watt เมื่อเทียบกับ GB200 NVL72 จากผลการทดลองของ CoreWeave บนโมเดล DeepSeek‑R1 นอกจากนี้ Vera CPU Olympus Core ยังบอกว่าจะเร่งความเร็วของเอเจนต์ AI ได้สองเท่า มีแบนด์วิธระหว่างคอร์เพิ่มเป็นสามเท่า และลดเวลาหน่วงลง 40 % ด้วยหน่วยความจำ LPDDR5X

Architecture & AI Factory Concept

Nvidia นำเสนอแนวคิด “AI Factories” ซึ่งหมายถึงศูนย์ข้อมูลที่ออกแบบมาเฉพาะสำหรับงาน inference ของเอเจนต์ AI ระบบเหล่านี้ต้องการคุณสมบัติหลายประการ ได้แก่ การทำ inference อย่างต่อเนื่อง, ความหน่วงต่ำในขั้นตอนการให้เหตุผลหลายขั้น, อัตราการถอดรหัสสูง, ความจุแคชที่ใหญ่, และความสามารถในการขยายโมเดลผ่านโดเมน GPU ที่เชื่อมต่อกัน

แม้ว่า GPU จะเป็นหัวใจหลักของการฝึกและ inference โมเดล AI แต่ CPU, DPU และสวิตช์เครือข่ายก็มีบทบาทสำคัญในงานประมวลผลข้อมูล การจัดตารางงานและการเก็บรักษาข้อมูล แนวคิดนี้จึงอิงกับการขาย “โทเคน” เป็นหน่วยวัดของผลผลิต AI แทนที่จะเน้นจำนวนคอร์หรือ GPU เพียงอย่างเดียว

Market Implications

Ian Buck ชี้ให้เห็นว่าประสิทธิภาพต่อวัตต์เป็นตัวชี้วัดสำคัญที่สุดในศูนย์ข้อมูลที่มีข้อจำกัดด้านพลังงาน “perf‑per‑watt” จะกำหนดรายได้จาก AI Factory ที่มาจากการผลิตโทเคนจำนวนมากในสภาพแวดล้อมที่ใช้ไฟฟ้าเท่าเดิม ราคาตลาดของโทเคนอาจลดลงเมื่อซัพพลายเพิ่มขึ้นจากฮาร์ดแวร์ใหม่และผู้ให้บริการหลายราย แต่ Nvidia คาดว่าความต้องการจะยังคงเติบโตโดยอัตราที่ทำให้กำไรต่อหน่วยลงทุนที่ใช้ในการสร้างศูนย์ข้อมูลยังคงอยู่

อย่างไรก็ตาม รายงานเกี่ยวกับบริษัทต่าง ๆ ที่จำกัดงบประมาณโทเคนสำหรับพนักงานแสดงให้เห็นว่า การเพิ่มผลิตภาพจาก AI ยังไม่เป็นสากลทั่วทุกองค์กร บางแห่งอาจยังประสบปัญหาความซับซ้อนของการปรับใช้เอเจนต์ AI หรือค่าใช้จ่ายที่สูงกว่าที่คาดการณ์

Concerns & Criticism

แม้ว่า Nvidia จะมุ่งเน้นให้โครงสร้างพื้นฐานเป็น “จับต้องได้” และมีประสิทธิภาพสูง แต่ความกังวลต่อผลกระทบด้านสิ่งแวดล้อมยังคงอยู่ นักกิจกรรมในยุโรปได้ใช้ลูกโป่งที่บรรจุสารเคมีเพื่อชี้ให้เห็นถึงการบริโภคน้ำและไฟฟ้าของศูนย์ข้อมูลเหล่านี้ การตอบสนองของ Nvidia ต่อข้อกังวลด้านพลังงานอาจต้องมีความโปร่งใสมากขึ้น เพื่อรักษาความสัมพันธ์กับชุมชนท้องถิ่นที่ตั้งอยู่ใกล้ศูนย์ข้อมูล

Summary

Nvidia เปิดตัวแพลตฟอร์ม Vera Rubin ที่ออกแบบเพื่อเพิ่มประสิทธิภาพการผลิตโทเคนของ AI ด้วยสเปคฮาร์ดแวร์ใหม่และแนวคิด “AI Factories” การปรับปรุงด้านเวลาในการประกอบและอัตรา token‑per‑watt ทำให้ระบบนี้เป็นจุดสนใจสำคัญสำหรับศูนย์ข้อมูลระดับ hyperscale แม้จะมีข้อกังวลด้านสิ่งแวดล้อมและความไม่แน่นอนของตลาดโทเคนต่อไป.

แชร์บทความนี้:

ชอบบทความแบบนี้?

สมัคร AI Automate Weekly Newsletter — รับเคล็ดลับ AI + how-to ใหม่
ทุกสัปดาห์ตรงถึง inbox ฟรี ไม่มีสแปม

แหล่งข่าวต้นฉบับ

ชื่อต้นฉบับ
Nvidia shows off Vera Rubin platform for tokenmaxxing
ผู้เขียน
Unknown
แหล่ง
The Register
วันที่เผยแพร่
21 กรกฎาคม 2569 เวลา 22:00

Related

บทความที่เกี่ยวข้อง

DLSS Frame Generation ไม่ทำให้ Smooth Motion สูญเสียคุณค่าAI
20 กรกฎาคม 2569 เวลา 23:00

DLSS Frame Generation ไม่ทำให้ Smooth Motion สูญเสียคุณค่า

บทความนี้อธิบายว่าฟีเจอร์ Smooth Motion ของ RTX 40 Series ยังคงมีประโยชน์ต่อการแสดงผลแม้จะมี DLSS Frame Generation อยู่…

XDA Developers8 นาที
ญี่ปุ่นเปิดโรงงาน AI แรกของชาติ ใช้ GPU Rubin 27,500 ตัวบนแร็ค Vera Rubin 382 แร็คAI
19 กรกฎาคม 2569 เวลา 22:30

ญี่ปุ่นเปิดโรงงาน AI แรกของชาติ ใช้ GPU Rubin 27,500 ตัวบนแร็ค Vera Rubin 382 แร็ค

ญี่ปุ่นเปิดโรงงาน AI ระดับชาติแรกที่ใช้ GPU Rubin จำนวน 27,500 ตัวจัดวางบนแร็ค Vera Rubin 382 แร็ค เพื่อฝึกโมเดล trillion-parameter ระบบเชื่อมต่อด้วย…

TechSpot6 นาที
Nvidia กับ Sega ร่วมมือต่อจากความสัมพันธ์ 30 ปีที่ช่วย Nvidia พ้นวิกฤติล้มละลายAI
18 กรกฎาคม 2569 เวลา 01:30

Nvidia กับ Sega ร่วมมือต่อจากความสัมพันธ์ 30 ปีที่ช่วย Nvidia พ้นวิกฤติล้มละลาย

Nvidia ประกาศร่วมงานกับ Sega เพื่อนำเทคโนโลยี ray tracing, DLSS และ AI ไปใช้ในเกมใหม่ การผสานนี้ต่อเนื่องจากความสัมพันธ์ตั้งแต่ศตวรรษที่ 20‑21…

TechSpot5 นาที
ทดสอบ DLSS 4.5 vs FSR 4 แบบบลายด์ ผลไม่แตกต่างอย่างชัดเจนAI
15 กรกฎาคม 2569 เวลา 01:00

ทดสอบ DLSS 4.5 vs FSR 4 แบบบลายด์ ผลไม่แตกต่างอย่างชัดเจน

การทดสอบเปรียบเทียบ DLSS 4.5 กับ FSR 4 ในเกมของผู้เขียนแสดงว่าภาพและ FPS ใกล้เคียงกัน ไม่พบความแตกต่างอย่างเด่นชัด ผู้ซื้อ GPU…

XDA Developers4 นาที
คัดลอกลิงก์แล้ว!