Nvidia เปิด Switchyard เราเตอร์จัดเส้นทางโมเดล AI ลดค่าใช้จ่ายเหลือหนึ่งในสาม

Nvidia เปิดตัวโมเดลเปิด Nemotron 3.5 Lightning ขนาด 30‑billion parameters พร้อมไลบรารีการจัดเส้นทางงาน NeMo Switchyard เพื่อให้ระบบเอเจนต์ AI สามารถสลับใช้โมเดลต่าง ๆ ระหว่างขั้นตอนได้อย่างอัตโนมัติ บริษัทระบุว่าการผสมผสานนี้ช่วยลดค่าใช้จ่ายของงานระดับแนวหน้าเหลือประมาณหนึ่งในสามเมื่อเทียบกับการใช้ Opus 4.8 เพียงโมเดลเดียว

Overview

การเปิดตัวครั้งนี้ตอบโจทย์ความท้าทายที่หลายองค์กรเผชิญเมื่อต้องจัดสรรทรัพยากรให้เอเจนต์ AI ทำงานต่อเนื่องโดยไม่เสียค่าใช้จ่ายมากเกินไป การส่งทุกคำขอไปยังโมเดลแนวหน้าจะทำให้บิลเพิ่มพูนอย่างรวดเร็ว ในทางกลับกันการสร้างตรรกะกำหนดเส้นทางเองก็ต้องใช้เวลาและทีมวิศวกรที่ต้องดูแลเมื่ workflow มีการเปลี่ยนแปลง NeMo Switchyard จึงถูกออกแบบมาเพื่อทำหน้าที่ทั้งสองด้านพร้อม ๆ กัน โดยอัตโนมัติเลือกโมเดลที่เหมาะสมที่สุดสำหรับแต่ละขั้นตอนของงาน

Key Details

ตามข้อมูลจาก Nvidia Lightning ให้ผลลัพธ์เร็วขึ้นถึง 4x เมื่อเทียบกับโมเดลในระดับเดียวกัน และทำงานสำเร็จได้เร็วกว่า Qwen3.6‑35B ประมาณ 30% ในขณะที่ยังคงรักษาความแม่นยำไว้เท่าเดิม การผสานกับ Switchyard ทำให้ค่าใช้จ่ายของการทดสอบเบนช์มาร์กลดลงเหลือประมาณหนึ่งในสามของการรัน Opus 4.8 เพียงอย่างเดียว นอกจากนี้ Nvidia ยังเน้นว่าการเปิดตัวนี้ตรงกับช่วงเวลาที่ตลาดโมเดลเปิด‑weight กำลังเติบโตอย่างรวดเร็ว ทั้ง Alibaba, Moonshot, Zhipu, DeepSeek และ Meta ที่ปล่อย Muse Glimmer** ขนาด 30‑billion parameters ไปพร้อม ๆ กัน

Architecture & Performance

Nemotron 3.5 Lightning ใช้สถาปัตยกรรมผสมระหว่าง Mamba‑Transformer กับ **latent mixture‑of‑experts (MoE) ซึ่งเป็นการต่อยอดจากตระกูล Nemotron 3 ที่เปิดตัวในเดือนธันวาคม 2025 โมเดลนี้ออกแบบมาเพื่อทำงานที่ต้องใช้ปริมาณสูงและเฉพาะเจาะจง เช่น งานเอเจนต์หลายขั้นตอน โดยมุ่งเน้นที่ความเร็วและต้นทุนต่ำ ไม่ได้ตั้งใจให้เป็นโมเดลทั่วไป การทดสอบภายในของ Nvidia แสดงว่า Lightning สามารถรักษาความแม่นยำระดับแนวหน้าในขณะที่ทำงานได้เร็วกว่ามาก

Ecosystem Integration

Switchyard ถูกพัฒนาให้สามารถเชื่อมต่อกับหลายระบบที่มีอยู่แล้วโดยไม่ต้องสร้างโซลูชันใหม่ทั้งหมด บริษัทจัดกลุ่มพันธมิตรเป็นสองประเภท:

• Agent frameworks ที่เรียก Switchyard โดยตรง ได้แก่ *Cognition*, *LangChain* และ *Nous Research*
• LLM gateways ที่ฝังการสนับสนุน Switchyard เข้าไปในผลิตภัณฑ์ของตน เช่น *Kong AI Gateway*, *LiteLLM* และ *OpenRouter*

Kong ได้รวม Switchyard ไว้เป็นส่วนหนึ่งของ Kong AI Gateway อย่างเป็นธรรมชาติ ทำให้ผู้ใช้สามารถนำเอาอัลกอริทึมการจัดเส้นทางของ Nvidia ไปใช้งานต่อได้ทันทีโดยไม่ต้องทำการปรับแต่งเพิ่มเติม

Real‑World Benchmarks

Nvidia เผยผลลัพธ์จากการทดสอบกับบริษัทต่าง ๆ เกือบสิบแห่งที่ใช้ Switchyard:

• LangChain รายงานลดค่าใช้จ่าย 74% ใน 145 งาน Deep Agents แบบหลายรอบ โดยส่งเพียง 7% ของคำขอไปยังโมเดลแนวหน้า แม้จะสูญเสียความแม่นยำเพียง 6%
• Ramp สามารถเทียบเคียงประสิทธิภาพกับโมเดลแนวหน้าบน *SWE‑Bench* ได้ พร้อมลดค่าใช้จ่าย 58% และเวลาใช้งาน 33%
• Cognition นำ Switchyard ไปผสานใน Devin Desktop ส่งผลให้ได้ประสิทธิภาพใกล้เคียง FrontierCode Main แต่ค่าต้นทุนโดยเฉลี่ยลดลง 28% เมื่อเทียบกับการใช้โมเดลแนวหน้าเดียว

ผลลัพธ์เหล่านี้แสดงให้เห็นว่าการจัดเส้นทางแบบไดนามิกที่พิจารณา state ของเอเจนต์, ประเภทของงาน และแม้กระทั่ง verbosity ของโมเดล สามารถทำให้ระบบทั้งหมดประหยัดทรัพยากรได้อย่างมีนัยสำคัญ

Analysis

จากมุมมองของอุตสาหกรรม การผสมผสานระหว่างโมเดลและระบบจัดเส้นทางในรูปแบบเปิด‑source อย่าง NeMo Switchyard ถือเป็นการตอบสนองต่อแนวโน้ม “open weights” ที่กลายเป็นมาตรฐานใหม่ภายในไม่กี่เดือนที่ผ่านมา โมเดลเดียวหรือ router เพียงอย่างเดียวอาจให้ประโยชน์จำกัด แต่การที่ Nvidia ควบคุมทั้งสองด้านภายใต้สัญญาอนุญาตเปิดทำให้ยากต่อคู่แข่งที่เน้นเฉพาะหนึ่งส่วน เช่น Not Diamond หรือ RouteLLM ที่ไม่มีโมเดลของตนเอง

Kari Briski รองประธานฝ่าย Generative AI ของ Nvidia ได้อธิบายว่า Switchyard สามารถเลือกเส้นทางโดยอิง “cost‑aware routing” ซึ่งคำนวณจำนวนโทเค็นที่แต่ละโมเดลมักสร้างเพื่อคาดการณ์ต้นทุนก่อนทำการเรียกใช้จริง การบูรณาการนี้ช่วยให้ผู้พัฒนาไม่ต้องออกแบบระบบจัดเส้นทางเอง ลดภาระวิศวกรรมและเพิ่มความเร็วในการนำเอา AI ไปใช้งานในผลิตภัณฑ์ต่าง ๆ

Impact

หากแนวคิดของ Nvidia สามารถยืนหยัดต่อไปได้ ผู้ประกอบการที่ใช้เอเจนต์ AI อย่างต่อเนื่องจะสามารถลดค่าใช้จ่ายโดยรวมอย่างมาก โดยเฉพาะในอุตสาหกรรมที่ต้องประมวลผลคำขอจำนวนมหาศาลเช่น การบริการลูกค้า, ระบบสนับสนุนภายในองค์กร และแอปพลิเคชันด้านการวิเคราะห์ข้อมูล ทั้งนี้ ความสำเร็จของ Switchyard ยังเป็นการส่งสัญญาณให้ผู้พัฒนาโมเดลเปิด‑weight ต้องมองหาวิธีร่วมมือกับเครื่องมือจัดเส้นทางเพื่อเพิ่มคุณค่าให้กับระบบโดยรวม

Summary

Nvidia เปิดตัว Nemotron 3.5 Lightning พร้อมไลบรารี NeMo Switchyard เพื่อทำให้เอเจนต์ AI สามารถสลับใช้โมเดลตามขั้นตอนได้อัตโนมัติ ลดต้นทุนการประมวลผลเหลือประมาณหนึ่งในสามของวิธีเดิม การผสานโมเดลและระบบจัดเส้นทางแบบเปิด‑source นี้อาจเปลี่ยนโฉมหน้าการใช้งาน AI ระดับแนวหน้าให้คุ้มค่ามากยิ่งขึ้น.