Google ร่วมมือ AMD ออกแบบ TPU รุ่นที่ 10 แบบไฮบริดรวมคอร์ CPU สำหรับ Reinforcement Learning

Google รายงานว่ากำลังร่วมมือกับ AMD เพื่อออกแบบหนึ่งในรุ่น 10 ของ Tensor Processing Unit (TPU) โดยมุ่งเน้นการสร้างชิปฮีบริดที่รวมคอร์ CPU ไว้ภายในแพ็กเกจเดียวกันเพื่อรองรับงาน Reinforcement Learning (RL) ซึ่งอาจเปลี่ยนแนวทางการพัฒนา AI ASIC ของ Google อย่างมีนัยสำคัญ

Overview

ตามบันทึกของ SemiAnalysis ที่เผยผ่านช่องทาง Sean ระบุว่า Google กำลังทำงานร่วมกับ AMD ในโครงการ TPU รุ่นที่ 10 (v10) ซึ่งเป็นรุ่นแรกที่ AMD มีส่วนร่วมอย่างจริงจังในโครงการ AI ASIC แบบกำหนดเอง ก่อนหน้านี้ Google ได้พัฒนาเครื่องเร่งประสิทธิภาพของตนเองมาถึง 9 รุ่นแล้ว โดยให้บริษัท Broadcom เป็นผู้ออกแบบซิลิคอนหลัก บันทึกดังกล่าวชี้ให้เห็นว่าเป้าหมายหลักคือการนำคอร์ CPU ของ AMD มาใช้ในงานที่ต้องอาศัยกำลังประมวลผลทั่วไป (CPU‑heavy) มากกว่าการทำเทนเซอร์แบบดั้งเดิม

การร่วมมือครั้งนี้ไม่เพียงแต่เปิดโอกาสให้ AMD ได้เข้าสู่ตลาด AI ASIC เท่านั้น แต่ยังบ่งบอกว่า Google กำลังสำรวจแนวทางใหม่ของ TPU ที่ผสานเทคโนโลยีเร่งประสิทธิภาพของตนเองกับคอร์ CPU บนแพ็กเกจเดียว ซึ่งอาจทำให้การทำงานของโมเดล RL และโมเดลที่ต้องการการโต้ตอบแบบเอเจ้นท์เป็นไปได้เร็วและมีประสิทธิภาพมากขึ้น

Partnership Details

จากมุมมองของนักวิเคราะห์ SemiAnalysis การเลือก AMD ไม่ได้เนื่องจากความสามารถในการออกแบบชิป AI โดยตรง เนื่องจาก Google มีทีมงานสถาปัตยกรรม accelerator ที่เชี่ยวชาญแล้ว แต่เป็นเพราะ AMD มี IP ของ CPU, ความรู้ด้านการบรรจุแพ็กเกจขั้นสูง (Advanced Packaging) และประสบการณ์ในโซลูชัน SoIC (System‑in‑Package) ซึ่งตรงกับความต้องการของ Google ในการสร้างฮีบริด ASIC

• AMD มี Instinct MI300A ที่รวมคอร์ x86 กับ accelerator chiplet ไว้ในแพ็กเกจเดียวกัน
• การบรรจุแบบนี้ช่วยลดระยะทางสัญญาณระหว่าง CPU และหน่วยประมวลผลเทนเซอร์ ลดความหน่วงเวลาและการใช้พลังงาน

ตามที่รายงาน บางส่วนของโครงการอาจรวมถึงการให้ AMD จัดหา:

• คอร์ CPU สำหรับทำงานทั่วไปในแพ็กเกจเดียวกับ TPU
• ระบบเชื่อมต่อภายใน (interconnect) ที่รองรับการสื่อสารความเร็วสูงระหว่างคอร์และชิปเทนเซอร์

Technical Implications

หาก Google ตัดสินใจบรรจุคอร์ CPU ไว้ในแพ็กเกจเดียวกับ TPU v10 การออกแบบอาจคล้ายกับโครงสร้างของ MI300A ที่รวม HBM (High Bandwidth Memory) เข้ากับคอร์ x86 เพื่อให้ได้แบนด์วิธที่สูงพอสำหรับการทำงานร่วมกันอย่างต่อเนื่อง

การบรรจุแบบนี้มีผลหลายประการ:

• ลด latency ระหว่าง CPU กับหน่วยเร่งเทนเซอร์ ซึ่งเป็นข้อจำกัดสำคัญในงาน RL ที่ต้องแลกเปลี่ยนข้อมูลระหว่างการประมวลผลทั่วไปและการทำ inference อย่างต่อเนื่อง
• ประหยัดพลังงานโดยไม่ต้องใช้การเชื่อมต่อผ่าน PCB ระยะไกล ทำให้ศูนย์ข้อมูลสามารถออกแบบระบบที่หนาแน่นกว่าเดิม

แม้ว่า Google จะยังคงใช้ Broadcom ในการออกแบบซิลิคอนของ TPU รุ่นก่อนๆ แต่การเพิ่มคอร์ CPU จาก AMD อาจทำให้ Google มีความยืดหยุ่นมากขึ้นในการตอบสนองต่อรูปแบบงาน AI ที่หลากหลาย เช่น การฝึกโมเดล RL หรือการรันเอเจ้นท์อัจฉริยะในสภาพแวดล้อมที่ต้องการการประมวลผลเรียลไทม์

Reinforcement Learning Focus

ตามข้อมูลของ SemiAnalysis งาน RL มีความแตกต่างจากการฝึก Large Language Model (LLM) แบบดั้งเดิม ซึ่งส่วนใหญ่พึ่งพา accelerator อย่างเดียว ในงาน RL จำเป็นต้องมีการคำนวณทั่วไปเพื่อจัดการกับขั้นตอนตัดสินใจ การสำรวจสภาพแวดล้อม และการอัปเดตพารามิเตอร์แบบไดนามิก

Google ได้เริ่มเพิ่มทรัพยากร CPU รอบ TPU รุ่นล่าสุดแล้ว ตัวอย่างเช่น ระบบ TPU 8i มีอัตราส่วน 1 CPU : 2 TPU ซึ่งมากกว่าระบบรุ่นที่ 7 ที่ใช้ Xeon ‘Emerald Rapid’ เพียง 1 CPU ต่อ 4 TPU นอกจากนี้ ยังมีกรณีที่อัตราส่วน 1 : 1 เป็นที่เหมาะสมที่สุดตามการทดลองของ Google ทำให้เห็นว่าอนาคตของ AI อาจต้องพึ่งพา CPU มากกว่าที่เคยคาดคิด

ด้วยเหตุนี้ การนำคอร์ CPU ไปบรรจุภายในแพ็กเกจเดียวกับ TPU จึงเป็นขั้นตอนต่อเนื่องที่มีเหตุผลเชิงเทคนิคและธุรกิจ ช่วยให้การทำงานของโมเดล RL มีความราบรื่น ลดเวลาในการสื่อสารระหว่างหน่วยประมวลผลต่างๆ

Packaging & Architecture

AMD มีความชำนาญในด้าน advanced packaging อย่างเช่น chiplet‑on‑package (CoP) และ 2.5 D/3 D integration ซึ่งทำให้สามารถรวมคอร์ CPU, HBM, และ accelerator chiplet ไว้บน substrate เดียวได้อย่างมีประสิทธิภาพ หาก Google ใช้เทคโนโลยีนี้ การออกแบบอาจประกอบด้วย:

• TPU compute chiplets ที่พัฒนาโดยทีม AI ของ Google
• คอร์ CPU x86 จาก AMD พร้อม HBM บนชั้นเดียวกัน
• ระบบ interconnect ภายในที่รองรับความเร็วหลายสิบเทราโบิตต่อวินาที

การบรรจุในรูปแบบนี้อาจทำให้ Google สามารถสร้างผลิตภัณฑ์ที่ตอบโจทย์งาน RL ได้โดยตรง โดยไม่ต้องพึ่งพาการเชื่อมต่อระยะไกลหรือการจัดสรร CPU แยกส่วน ซึ่งเป็นข้อได้เปรียบเมื่อเทียบกับโซลูชันจาก Intel ที่แม้จะมีความร่วมมือหลายด้านกับ Google แต่ยังไม่มีประสบการณ์ในการทำ hybrid x86 + accelerator package ในระดับศูนย์ข้อมูล

Industry Impact

หากข่าวนี้ยืนยันเป็นจริง การรวม CPU ของ AMD เข้ากับ TPU ของ Google จะเป็นสัญญาณบ่งชี้ว่าตลาด AI ASIC กำลังเคลื่อนเข้าสู่การผสมผสานฟังก์ชั่นทั่วไปและเฉพาะทางมากขึ้น ผู้ผลิตชิปอื่นๆ เช่น NVIDIA หรือ Qualcomm อาจต้องปรับกลยุทธ์เพื่อรองรับความต้องการของงาน RL ที่ต้องอาศัยคอร์ CPU มากกว่าที่เคย

สำหรับลูกค้าของ Google ในด้านคลาวด์และศูนย์ข้อมูล การมีบริการ TPU‑CPU hybrid จะช่วยลดค่าใช้จ่ายในการจัดสรรฮาร์ดแวร์หลายประเภท และเพิ่มประสิทธิภาพโดยรวมของการทำงาน AI ที่ซับซ้อน นอกจากนี้ ความร่วมมือระหว่างสองบริษัทเทคโนโลยีชั้นนำนี้อาจเร่งความก้าวหน้าในด้าน advanced packaging ทำให้ศูนย์ข้อมูลแห่งอนาคตมีรูปแบบโมดูลาร์ที่สามารถผสานส่วนประมวลผลหลายประเภทได้อย่างยืดหยุ่น

Summary

Google กำลังร่วมมือกับ AMD เพื่อพัฒนา TPU รุ่น 10 ที่บรรจุคอร์ CPU ภายในแพ็กเกจเดียวกัน เพื่อตอบสนองงาน Reinforcement Learning ที่ต้องการกำลังประมวลผลทั่วไปมากขึ้น การทำเช่นนี้อาจเป็นก้าวสำคัญสู่ AI ASIC แบบฮีบริดและส่งผลกระทบต่อแนวโน้มของตลาดชิป AI ในระดับศูนย์ข้อมูล.