AMD เข้าซื้อสตาร์ทอัพชิป AI Taalas เพื่เร่งความเร็ว Inference ด้วยการฝังโมเดลบนซิลิกอน

AMD เข้าซื้อกิจการสตาร์ทอัพชิป AI อย่าง Taalas เพื่อเร่งความเร็วของงาน inference โดยฝังน้ำหนักโมเดลลงในซิลิกอนโดยตรง การทำธุรกรรมที่ประกาศเมื่อปิดตลาดวันพฤหัสบดีนี้เป็นก้าวสำคัญที่ AMD ตั้งเป้าให้สามารถแข่งขันกับ Nvidia ในตลาดฮาร์ดแวร์ AI ได้อย่างจริงจัง

Overview

การเข้าซื้อของ AMD กับ Taalas ถือเป็นครั้งแรกที่บริษัทชั้นนำด้านเซมิคอนดักเตอร์สหรัฐเลือกเส้นทาง “โมเดล‑specific integrated circuit” (MSIC) เพื่อเพิ่มประสิทธิภาพการให้บริการ inference แทนการพึ่งพา GPU หรือ accelerator แบบ dataflow ปกติ รายละเอียดของดีลไม่ได้เปิดเผยจำนวนเงิน แต่จากข้อมูลที่ได้มาเป็นการเข้าซื้อจริง ๆ ไม่ใช่เพียงการรับพนักงาน (acquihire)

Taalas ก่อตั้งในปี 2023 ที่โตรอนโต แคนาดา มีเทคโนโลยีที่ฝังน้ำหนักโมเดลโดยตรงลงบนชิป ทำให้ไม่ต้องใช้หน่วยความจำแบบ High‑Bandwidth Memory (HBM) เพื่อลดการเข้าถึงข้อมูล การออกแบบนี้ช่วยลด latency และเพิ่ม throughput อย่างมีนัยสำคัญ

Technology & Architecture

ชิปของ Taalas แบ่งเป็นสองส่วนหลัก คือ “mask‑ROM recall fabric” ที่เก็บน้ำหนักโมเดลอย่างถาวรบนซิลิกอน และ “SRAM recall fabric” ที่ใช้สำหรับ cache ค่า KV และ adapter การผสานกันของสองพื้นที่นี้ทำให้การคำนวณ token ใหม่สามารถทำได้โดยไม่ต้องดึงข้อมูลจากหน่วยความจำภายนอก

เทคโนโลยีที่สำคัญที่สุดคือการ etch น้ำหนักโมเดลลงบนซิลิกอน ซึ่งเป็นกระบวนการที่คล้ายกับการสร้างวงจรแบบ ASIC แต่เน้นไปที่การเก็บค่า parameters ของโมเดลโดยเฉพาะ ทำให้ชิปแต่ละอันกลายเป็น MSIC ที่ออกแบบมาสำหรับงาน inference เพียงหนึ่งโมเดล

Performance Benchmarks

ในเดือนกุมภาพันธ์ที่ผ่านมา Taalas เปิดตัวชิปต้นแบบ HC1 บนกระบวนการผลิต 6 nm ของ TSMC โดยทำ benchmark กับโมเดล Meta Llama 3.1 8B ผลลัพธ์สำคัญคือ

• ความเร็วในการสร้าง token อยู่ที่ 16,960 tokens ต่อวินาที
• ด้านความเร็วเทียบกับ GPU ของ Nvidia สูงกว่า 48 เท่า
• ด้านประสิทธิภาพเปรียบเทียบกับ Cerebras accelerators สูงกว่า 8.5 เท่า

แม้ Llama 3.1 จะถือว่าเป็นโมเดลเก่าตามมาตรฐานปัจจุบัน แต่ผลการทดสอบนี้พิสูจน์แนวคิดว่าการฝังน้ำหนักลงบนซิลิกอนสามารถทำให้ inference เร็วขึ้นหลายระดับคำสั่ง

Business Implications

AMD มีศักยภาพในการผสานเทคโนโลยีของ Taalas เข้ากับแพลตฟอร์ม Instinct‑based Helios ที่เป็น rack‑scale compute platform ของบริษัทเอง แนวคิดคือการใช้ GPU เพื่อประมวลผล prompt ส่วนการสร้าง token จะโอนให้กับ accelerator ของ Taalas ทำให้สถาปัตยกรรมกลายเป็น “disaggregated”

นอกจากนี้ AMD สามารถนำเสนอโมเดล tick‑tock ให้ลูกค้าเริ่มต้นทดสอบและปรับจูนบน Instinct ก่อน แล้วค่อยสลับไปใช้ accelerator ของ Taalas เมื่อโมเดลได้รับการยืนยันแล้ว การจัดวางนี้อาจช่วยลดค่าใช้จ่ายโดยรวมของผู้ให้บริการ AI ที่ต้องการความเร็วสูงในการตอบสนอง

Potential Challenges

ข้อจำกัดหลักของเทคโนโลยีคือ model lock‑in – ชิปที่ผลิตแล้วจะผูกกับโมเดลเดียว หากต้องเปลี่ยนโมเดลหรือขยายขนาดมากกว่าการปรับ LoRA adapter จะต้องทำการ “re‑spin” ชิปใหม่ ซึ่งโดยทั่วไปมีค่าใช้จ่ายและระยะเวลานาน อย่างไรก็ตาม Taalas ระบุว่าเพียงสองชั้นของโลหะ (metal layers) เท่านั้นที่ต้องเปลี่ยน ทำให้กระบวนการรีไพรท์เร็วและถูกลง

ในยุค AI ที่โมเดลใหม่ออกมารายเดือน การตัดสินใจเลือกโมเดลที่จะฝังบนซิลิกอนจึงเป็นความเสี่ยงสูง บริษัทลูกค้าเช่น OpenAI, Anthropic หรือ Meta ซึ่งใช้ Instinct อยู่แล้วอาจต้องพิจารณาอย่างถี่ถ้วนก่อนทำสัญญาซื้อชิป

Outlook

ตามแถลงการณ์ของ SVP ด้าน AI ของ AMD, Vamsi Boppana, “AMD is building a full‑stack AI platform that gives customers the flexibility to deploy the right compute solutions for every AI workload.” หากการปิดดีลได้รับการอนุมัติจากหน่วยงานกำกับดูแลในไตรมาสที่ 4 นี้ จะทำให้ AMD สามารถนำเทคโนโลยี MSIC ของ Taalas ไปใช้ร่วมกับระบบ Helios ได้อย่างเป็นทางการ

ผลกระทบต่ออุตสาหกรรมอาจรวมถึงต้นทุนต่อ token ที่ลดลงอย่างมีนัยสำคัญ ทำให้นักพัฒนาโมเดลสามารถเพิ่ม “test‑time scaling” เพื่อยืดเวลาให้โมเดลคิดได้มากขึ้นโดยไม่กังวลเรื่องค่าใช้จ่าย ซึ่งอาจเป็นแรงผลักดันใหม่ในการปรับปรุงคุณภาพของ AI assistants

Summary

AMD เข้าซื้อ Taalas เพื่อนำเทคโนโลยีการฝังน้ำหนักโมเดลลงบนซิลิกอนมาปรับใช้ในแพลตฟอร์ม AI ของบริษัท การดำเนินการนี้อาจเพิ่มความเร็ว inference ถึงหลายสิบเท่า แต่ก็มาพร้อมกับข้อจำกัดเรื่องการเปลี่ยนแปลงโมเดล หลังจากได้รับการยืนยันทางกฎหมาย คาดว่า AMD จะเริ่มผสานระบบใหม่เข้าสู่ตลาดในไตรมาสสุดท้ายของปีนี้.