Google พัฒนาชิป Frozen v2 ฝังสถาปัตยกรรม Gemini เพิ่มประสิทธิภาพ 6‑10 เท่า

Google ระบุว่าอยู่ในขั้นตอนพัฒนา ชิปเซิร์ฟเวอร์ ชื่อโค้ด “Frozen v2” ที่จะฝังส่วนหนึ่งของสถาปัตยกรรมโมเดล Gemini ลงบนซิลิกอนโดยตรงตามรายงานจาก The Information เมื่อวันจันทร์ที่ผ่านมา การทดสอบเบื้องต้นแสดงว่าชิปนี้อาจให้ ประสิทธิภาพการใช้พลังงานต่อโทเค็น สูงกว่ารุ่นล่าสุดของ TPU ของ Google อยู่ระหว่าง 6‑10 เท่า และมีกำหนดเปิดตัวในปี 2028 ซึ่งถือเป็นการตอบสนองต่อปัญหาขาดแคลนกำลังคอมพิวเตอร์ AI ที่ทำให้ Google Cloud ต้องปฏิเสธข้อเสนอจากลูกค้าภายนอกหลายกรณี

Overview

Google กำลังสำรวจแนวทางใหม่ในการออกแบบฮาร์ดแวร์สำหรับการประมวลผลโมเดลภาษาโดยใช้วิธี hard‑wiring สถาปัตยกรรมบางส่วนของ Gemini ลงบนทรานซิสเตอร์ ช่วยลดจำนวนขั้นตอนที่ชิปต้องดำเนินการระหว่างการสืบค้นข้อมูล การออกแบบนี้อาจทำให้เวลาตอบสนองของระบบสั้นลงอย่างมีนัยสำคัญ ตามแหล่งข่าวที่ให้ข้อมูลโดยตรงกับ The Information

โครงการ “Frozen v2” ถือเป็นส่วนหนึ่งของความพยายามของ Google ที่จะจัดการ ปัญหาขาดแคลนกำลังประมวลผล AI ซึ่งทำให้บริการคลาวด์ต้องปฏิเสธลูกค้าบางราย การพัฒนาชิปเฉพาะนี้อาจช่วยเพิ่มขีดจำกัดการใช้งานของศูนย์ข้อมูลโดยไม่ต้องพึ่งพาอุปกรณ์แบบทั่วไปทั้งหมด

Technical Design

ในรุ่นแรก “Frozen” ที่นำโดยหัวหน้างานวิจัยของ DeepMind, Jeff Dean ได้เสนอให้ ฝังน้ำหนัก (weights) ของโมเดล Gemini ลงบนชิปด้วยเช่นกัน แต่คณะผู้พัฒนาได้ตัดสินใจเปลี่ยนแนวทางเนื่องจากอายุการใช้งานของโมเดลที่สั้นเกินไป การทำแบบ “hard‑wired” ทั้งหมดจะทำให้ชิปต้องทดแทนใหม่บ่อยครั้งเมื่อต้องอัปเดตเวอร์ชัน

“Frozen v2” จึงเลือก ฝังสถาปัตยกรรม ของ Gemini ไว้บนซิลิกอน ส่วนน้ำหนักยังคงเป็นแบบอัปเดตได้ ซึ่งทำให้ชิปนี้สามารถใช้งานต่อเนื่องกับรุ่นใหม่ของ Gemini ได้ตราบใดที่โครงสร้างพื้นฐานของโมเดลไม่ได้เปลี่ยนแปลง อย่างไรก็ตาม จำนวนส่วนของโมเดลที่จะถูก “ล็อก” ยังไม่มีการกำหนดแน่ชัด

Performance Projections

ตามข้อมูลจากวิศวกรในโครงการ การประเมินผลเบื้องต้นแสดงให้เห็นว่า Frozen v2 สามารถผลิตโทเค็นต่อวัตต์ได้มากกว่ารุ่นล่าสุดของ TPU อยู่ระหว่าง 6‑10 เท่า ซึ่งหมายความว่าจะใช้พลังงานน้อยลงอย่างมีนัยสำคัญต่อการทำ inference

• ผลิตภัณฑ์นี้มุ่งเน้นที่การลดจำนวนขั้นตอนและข้อมูลที่ต้องเคลื่อนย้ายในแต่ละคำขอ
• การประหยัดพลังงานนี้อาจเปิดโอกาสให้บริการ AI แบบเรียลไทม์ใหม่ ๆ ที่เคยจำกัดด้วย latency สูง

Industry Context

ชิป “Frozen v2” จะไม่ใช่ผลิตภัณฑ์ที่ทำการผลิตในปริมาณเทียบเท่ากับ TPU ของ Google แต่เป็นการทดลองเพื่อประเมินศักยภาพของ silicon เฉพาะทางเมื่อรูปแบบโมเดลคงที่ การเปิดตัวคาดว่าจะสอดคล้องกับแผนการจัดส่งของ Intel ที่ได้ทำสัญญาบรรจุ กว่า 3 ล้าน TPU ในปีเดียวกัน

ในตลาดเดียวกัน บริษัทสตาร์ทอัพจาก Toronto, Taalas, ได้ปล่อยชิป HC1 ที่ฝังโมเดล Llama 3.1 8B ลงบนดีไซน์ของ TSMC N6 โดยอ้างว่าให้ความเร็วการผลิตโทเค็นต่อวินาทีที่ 17 000 ต่อผู้ใช้ แม้ไม่มี HBM บนแพคเกจ ส่วน Nvidia ก็ได้ทำข้อตกลงมูลค่า $20 พันล้าน กับ Groq เพื่อรับไอพีของชิป inference ซึ่งบ่งบอกว่าตลาดกำลังเคลื่อนไหวสู่การออกแบบ silicon ที่ปรับให้เหมาะกับ AI โดยเฉพาะ

Potential Impact

หาก “Frozen v2” ประสบความสำเร็จและเข้าสู่การผลิตจริง มันอาจทำให้ Google Cloud สามารถรองรับคำขอ AI ที่ต้องการ latency ต่ำได้มากขึ้น ทั้งยังช่วยลดภาระด้านพลังงานของศูนย์ข้อมูลขนาดใหญ่ การที่ชิปนี้ทำงานร่วมกับสายผลิตภัณฑ์ TPU ปัจจุบันโดยไม่ทดแทน จะเสริมความหลากหลายของเครื่องมือสำหรับนักพัฒนา

อย่างไรก็ตาม ความสำเร็จของโครงการยังคงขึ้นอยู่กับการตัดสินใจเกี่ยวกับส่วนของโมเดลที่ต้อง “ล็อก” บน silicon และความยืดหยุ่นในการอัปเดตน้ำหนัก หากมีการเปลี่ยนแปลงสถาปัตยกรรม Gemini อย่างรวดเร็ว ชิปนี้อาจกลายเป็นเทคโนโลยีที่ใช้ได้จำกัดเวลา

Summary

Google กำลังพัฒนา Frozen v2 ซึ่งฝังส่วนของสถาปัตยกรรม Gemini ลงบนซิลิกอนเพื่อเพิ่มประสิทธิภาพการใช้พลังงานถึง 6‑10 เท่าจาก TPU รุ่นล่าสุด การเปิดตัวคาดว่าในปี 2028 จะช่วยบรรเทาปัญหาการขาดแคลนกำลังประมวลผล AI ของ Google Cloud และเป็นก้าวสำคัญในการพัฒนาชิป AI เฉพาะทาง.