Snowflake เปิด Cortex AI Gateway ระบบ auto‑route ลดค่าโทเค็นสูงสุดถึง 3 เท่า

การใช้โมเดล AI แบบเดียวกันสำหรับทุกงานทำให้หลายองค์กรต้องเสียค่าใช้จ่ายสูงเกินความจำเป็นและยังอาจไม่ตอบสนองต่อคำถามที่ซับซ้อนได้ดี Snowflake จึงเปิดตัว Cortex AI Gateway เวอร์ชันใหม่ที่สามารถ “auto‑route” งานไปยังโมเดลที่เหมาะสมที่สุดโดยอัตโนมัติ ซึ่งบริษัทระบุว่าการเปลี่ยนแปลงนี้อาจลดค่าใช้จ่ายด้านโทเค็นได้ถึง 3 เท่า ในบางกรณี

Overview

Snowflake แนะนำฟีเจอร์ dynamic model routing ให้ผู้ใช้งานเลือก “auto” แทนการระบุโมเดลคงที่ ระบบจะพิจารณาคุณภาพและต้นทุนของโมเดลแต่ละตัวแล้วส่งงานไปยังตัวที่ให้ผลลัพธ์ดีที่สุด ฟังก์ชันนี้เป็นส่วนต่อขยายจาก Cortex AI Gateway ที่เปิดตัวในเดือนกรกฎาคม 2026 โดยทำหน้าที่เป็นระดับการกำกับดูแล (governance layer) สำหรับการเรียกใช้เอเจนต์และโมเดล

ฟีเจอร์ใหม่นี้ตอบโจทย์ที่หลายองค์กรพบ: คำถามง่าย ๆ มักถูกส่งให้โมเดลระดับสูงสุดซึ่งทำให้ค่าโทเค็นพุ่งสูงโดยไม่มีเหตุผล ขณะที่คำถามยากต้องการความสามารถของโมเดลที่ทรงพลังกว่า การใช้ระบบ routing ที่อัตโนมัติจึงช่วยจัดสรรทรัพยากรได้อย่างมีประสิทธิภาพมากขึ้น

How Dynamic Routing Works

การกำหนดเส้นทางแบบไดนามิกทำงานบนสองกลไกหลัก:

• Advisor pattern – โมเดลขนาดเล็กจะพยายามตอบคำถามก่อน หากไม่สามารถดำเนินการให้สำเร็จ จะเรียกโมเดลใหญ่กว่าเป็น “tool” เพื่อทำต่อ
• Classifier based on task history – ตัวแยกประเภทที่ฝึกด้วยข้อมูลของคำค้นที่ผ่านมา จะส่งคำถามที่ตรงไปตรงมาสู่โมเดลง่าย ๆ โดยอัตโนมัติ

การทำงานเหล่านี้เกิดขึ้นภายในขอบเขตเดียวกันกับระบบการกำกับดูแลของ Snowflake ทำให้ผู้ใช้สามารถเลือก “pin” โมเดลเฉพาะ หรือจำกัดชุดโมเดลที่อนุญาตได้ ระบบจะไม่เรียกเก็บค่าใช้จ่ายเพิ่มเติมสำหรับการตัดสินใจ routing; ค่าบริการคำนวณตาม token usage อย่างเดียว

Governance and Security Implications

Snowflake เชื่อมต่อการกำหนดเส้นทางกับระบบควบคุมการเข้าถึง (access controls) ที่มีอยู่แล้วในระดับข้อมูล ผู้ใช้ที่ได้รับสิทธิ์จะสามารถเข้าถึงโมเดลที่ได้รับอนุมัติเท่านั้น การกำกับดูแลนี้ขยายจากระดับข้อมูลไปยังระดับโมเดลและเอเจนต์ ทำให้เอเจนต์อาจถูกจำกัดให้ทำงานด้วยสิทธิ์ที่แคบกว่าผู้เรียกใช้

การรองรับ open models เช่น DeepSeek‑V4‑Flash และ GLM‑5.3 จากจีนยังต้องดำเนินการภายในขอบเขตความปลอดภัยของ Snowflake โดยไม่ต้องส่งข้อมูลออกไปยังผู้ให้บริการภายนอก นอกจากนี้ การควบคุมตามภูมิภาค (regional compliance) ทำให้โมเดลเปิดสามารถทำงานในโซนที่สอดคล้องกับข้อกำหนดการอยู่อาศัยของข้อมูล

Cost Savings & Performance

Snowflake รายงานว่าการใช้ auto routing สามารถลดค่าโทเค็นได้สูงสุดถึง **3× ในการทดลองภายในบริษัท ตัวอย่างเช่น คำถามที่เป็นเพียงการสรุปข้อมูลหรือเรียกดูค่าเมตริกพื้นฐานมักจะถูกส่งให้โมเดลขนาดเล็ก ซึ่งใช้โทเค็นน้อยกว่า 30 % ของโมเดลระดับสูงสุด

อีกหนึ่งปัจจัยสำคัญคือการจัดเตรียม context ล่วงหน้าโดยเครื่องมือ Horizon Context และ Cortex Sense ทำให้โมเดลไม่ต้องทำขั้นตอน “exploratory” เช่น การสร้างและทดสอบ SQL ซ้ำ ๆ ซึ่งลดภาระการประมวลผลของโมเดลระดับสูงและเปิดโอกาสให้โมเดลง่าย ๆ ทำงานได้อย่างมีคุณภาพ

Competitive Landscape

ตลาดการกำหนดเส้นทางโมเดลกำลังเติบโตพร้อมผู้เล่นหลายราย:

• OpenRouter – แพลตฟอร์มกลางที่ให้ผู้ใช้เลือกโมเดลตามต้นทุนและประสิทธิภาพ
• Databricks Smart Routing – ทำงานร่วมกับ Unity AI Gateway และ Unity Catalog เพื่อกำกับดูแลข้อมูลและแบบจำลอง
• Nvidia Switchyard – ชั้นเทคโนโลยีที่ช่วยตัดสินใจเลือกโมเดลบนโครงสร้างพื้นฐานของ Nvidia

ผู้เชี่ยวชาญระบุว่าความแตกต่างหลักของ Snowflake อยู่ที่การผสานการกำกับดูแล (governance) เข้ากับระบบข้อมูลที่มีอยู่แล้ว ทำให้ค่าใช้จ่ายและสิทธิ์การเข้าถึงถูกติดตามโดยทีมธุรกิจได้อย่างใกล้ชิด ในขณะที่โซลูชั่นแบบกลางเช่น OpenRouter หรือ LiteLLM มุ่งเน้นความหลากหลายของโมเดลและการหลีกเลี่ยงการล็อกอินกับผู้ให้บริการหนึ่ง ๆ

Impact on Enterprises

สำหรับองค์กรที่ใช้ Snowflake เป็นศูนย์กลางข้อมูล การนำ auto routing เข้าใช้งานหมายถึงสามารถลดค่าใช้จ่าย AI โดยไม่ต้องเปลี่ยนแปลงกระบวนการทำงานเดิม และยังคงรักษามาตรฐานความปลอดภัยและการกำกับดูแลตามข้อบังคับของอุตสาหกรรม

อย่างไรก็ตาม บริษัทที่ไม่ได้พึ่งพา Snowflake เป็นโครงสร้างหลักอาจพบว่าการใช้เกตเวย์กลางเช่น OpenRouter หรือ Databricks มีความยืดหยุ่นมากกว่าในการเข้าถึงโมเดลจากผู้ให้บริการหลายราย การประเมินค่าใช้จ่ายและข้อกำหนดการปฏิบัติตามกฎหมายจึงเป็นขั้นตอนสำคัญก่อนตัดสินใจเลือกโซลูชั่น

Summary

Snowflake เปิดตัว dynamic auto‑routing ใน Cortex AI Gateway เพื่อลดค่าใช้จ่าย AI สูงสุดถึง 3 เท่าโดยอิงคุณภาพและต้นทุนของโมเดล ระบบผสานการกำกับดูแลระดับข้อมูลเข้ากับการเลือกโมเดล ทำให้เป็นทางเลือกที่น่าสนใจสำหรับองค์กรที่พึ่งพา Snowflake เป็นศูนย์กลางข้อมูล.