Liquid AI เปิดโมเดล LFM2.5‑2.6B ทำงานบน Raspberry Pi โดยไม่ต้องใช้คลาวด์หรือ GPU

ที่มาภาพ: VentureBeat

AI-อ่าน 7 นาทีVentureBeat

Liquid AI เปิดโมเดล LFM2.5‑2.6B ทำงานบน Raspberry Pi โดยไม่ต้องใช้คลาวด์หรือ GPU

⚡ สรุป 30 วิ

Liquid AI เปิดโมเดล LFM2.5‑2.6B ทำงานบนอุปกรณ์ Edge เช่น Raspberry Pi โดยไม่ต้องพึ่งคลาวด์หรือ GPU. ใช้หน่วยความจำต่ำกว่า 2.5 GB ให้ประสิทธิภาพสูง…

Lead – บริษัทสตาร์ทอัพด้านปัญญาประดิษฐ์ Liquid AI เปิดตัวโมเดลภาษาขนาดกะทัดรัด LFM2.5‑2.6B ที่ออกแบบมาสำหรับงานแบบเอเจนต์โดยเฉพาะ โมเดลนี้สามารถทำงานได้อย่างเต็มที่บนฮาร์ดแวร์ระดับขอบเช่นสมาร์ทโฟน แล็ปท็อป หรือแม้กระทั่งบอร์ด Raspberry Pi โดยไม่ต้องพึ่งพาเซิร์ฟเวอร์คลาวด์หรือ GPU ทำให้ผู้ประกอบการในอุตสาหกรรมที่ต้องรักษาความเป็นส่วนตัวและความล่าช้าน้อยได้มีทางเลือกใหม่

Overview

Liquid AI ก่อตั้งขึ้นในปี 2023 โดยนักวิจัยอดีตจาก MIT และมุ่งเน้นพัฒนาโมเดลภาษาแบบเปิด‑weight เพื่อตอบสนองต่อการใช้งานเอเจนต์ที่ต้องทำงานบนอุปกรณ์ปลายทาง Edge AI แทนการส่งข้อมูลไปยังคลาวด์ โมเดล LFM2.5‑2.6B ถูกจัดจำหน่ายพร้อมใบอนุญาตแบบเปิดเฉพาะที่บริษัทกำหนด ซึ่งเป็นแนวคิดเดียวกับโมเดล Kimi K3 ของ Moonshot ที่เพิ่งเปิดตัวเมื่อเดือนก่อน

การออกแบบเน้นให้โมเดลทำงานได้บน CPU จริง ๆ ไม่ใช่ GPU ทำให้สามารถนำไปใช้ในสภาพแวดล้อมที่มีข้อจำกัดด้านพลังงานหรือการเชื่อมต่อ เช่น ยานยนต์ ระบบหุ่นยนต์ หรืออุปกรณ์ IoT ขนาดเล็ก นอกจากนี้ Liquid ยังจัดเตรียมเฟรมเวิร์กการฟายน์‑ทูน LEAP ให้ผู้พัฒนาปรับแต่งโมเดลตามความต้องการของงานเฉพาะด้านได้ง่ายขึ้น

Technical Specs & Performance

  • **จำนวนพารามิเตอร์: 2.6 พันล้าน
  • **ขนาดหน้าต่างบริบท: รองรับสูงสุดถึง 128,000 โทเคน
  • **หน่วยความจำที่ใช้: ต่ำกว่า 2.5 GB ขณะทำการถอดรหัส

โมเดลให้ผลผลิตการถอดรหัสประมาณ 220 โทเคนต่อวินาทีบน Apple M5 Max และ 113 โทเคนต่อวินาทีบน AMD Ryzen AI Max+ 395 โดยใช้หน่วยความจำที่ค่อนข้างต่ำ ส่วนสมาร์ทโฟนสามารถทำได้ราว 30 โทเคนต่อวินาทีผ่านแอปพลิเคชัน Apollo ของ Liquid AI สำหรับกรณีใช้งานระดับสูงสุดบน GPU รุ่น Nvidia H100 โมเดลสามารถสร้างผลลัพธ์ใกล้เคียง 15,000 โทเคนต่อวินาที ซึ่งเทียบได้กับประมาณ 1.3 พันล้าน โทเคนต่อวัน แม้ว่าตัวเลขเหล่านี้จะยังไม่ได้รับการตรวจสอบโดยองค์กรอิสระ

ด้วยความสามารถด้านประสิทธิภาพและขนาดที่เล็กลง โมเดลจึงเหมาะสำหรับงานประเภท tool calling, การจัดการเอกสาร, ปฏิทิน และกระบวนการทำงานอัตโนมัติที่ต้องทำงานต่อเนื่องโดยไม่ต้องพึ่งพาการเชื่อมต่ออินเทอร์เน็ตอย่างต่อเนื่อง

Training Methodology

Liquid AI ได้ฝึกโมเดลบนข้อมูลประมาณ 34 ล้านล้านโทเคน และเพิ่มพจนานุกรมเป็น 128K คำเพื่อรองรับสคริปต์ที่ไม่ใช่ละติน การขยายหน้าต่างบริบทถึง 128,000 โทเคนทำในขั้นตอนกลางของการฝึก เพื่อให้โมเดลสามารถจัดการงานเอเจนต์ระยะยาวได้ดีขึ้น

กระบวนการหลังการฝึกประกอบด้วยสี่ขั้นตอน: (1) การปรับจูนแบบมีผู้สอน (Supervised Fine‑Tuning) (2) การสร้าง “ครูผู้เชี่ยวชาญ” แยกตามโดเมน เช่น คำแนะนำ, คณิตศาสตร์, โค้ดและการใช้เครื่องมือ (3) การทำ Multi‑Domain On‑Policy Distillation (MOPD) เพื่อผสานความสามารถของครูเหล่านั้นกลับเข้าสู่โมเดลเดียว (4) การฝึกแบบ Agentic Reinforcement Learning ภายในโครงสร้างเอเจนต์จริง เช่น Hermes Agent และ OpenClaw ซึ่งทำให้โมเดลเรียนรู้จากการใช้เครื่องมือและกระบวนการทำงานที่เป็นจริง

ผลลัพธ์คือแม้จะเป็นโมเดลขนาดเล็ก แต่ก็แสดงความสามารถในหลายด้านได้ดียิ่งขึ้น ทั้งคณิตศาสตร์ การปฏิบัติตามคำสั่ง และแม้แต่การเขียนโค้ดซึ่งก่อนหน้านี้ถือว่าเป็นจุดอ่อนของ Liquid AI

Use Cases & Market Impact

โมเดล LFM2.5‑2.6B เหมาะสำหรับงานที่ต้องการความเร็วและความเป็นส่วนตัวสูง เช่น ระบบจัดการเอกสารในสถาบันการเงิน หรือแพลตฟอร์มอัตโนมัติของโรงพยาบาล ที่ไม่สามารถส่งข้อมูลสำคัญไปยังคลาวด์ได้ นอกจากนี้ รถยนต์เชื่อมต่อหรือหุ่นยนต์ที่ทำงานในพื้นที่มีสัญญาณเครือข่ายจำกัดก็สามารถใช้โมเดลนี้เพื่อประมวลผลคำสั่งแบบเรียลไทม์โดยไม่ต้องพึ่ง GPU

แม้ว่าองค์กรบางแห่งอาจยังคงเลือกใช้โมเดลใหญ่ในคลาวด์เพื่อตอบโจทย์การทำงานที่ซับซ้อนเช่นการเขียนโค้ดระดับสูง แต่ LFM2.5‑2.6B ให้ทางเลือกที่ลดต้นทุนด้านพลังงานและค่าใช้จ่ายในการประมวลผล เนื่องจากต้องการเพียงไฟฟ้าจากอุปกรณ์เท่านั้น การนำโมเดลนี้ไปใช้ในผลิตภัณฑ์เชิงพาณิชย์จึงอาจส่งเสริมให้เกิดนวัตกรรมใหม่ ๆ ที่เน้น latency, privacy และ deployment flexibility เป็นหลัก

ตามที่ Liquid AI ระบุ โมเดลนี้มาพร้อมกับใบอนุญาตแบบเปิด‑weight เฉพาะของบริษัท ซึ่งคล้ายกับแนวทางของ Moonshot ในการปล่อย Kimi K3 ผู้ใช้โดยเฉพาะในภาคธุรกิจต้องตรวจสอบเงื่อนไขด้านสิทธิ์การใช้งานและข้อจำกัดต่าง ๆ อย่างละเอียด เพื่อให้สอดคล้องกับกฎระเบียบของอุตสาหกรรมที่เกี่ยวข้อง เช่น GDPR หรือ PDPA การมีใบอนุญาตแบบกำหนดเองทำให้ทีมกฎหมายขององค์กรต้องประเมินความเสี่ยงด้านการคุ้มครองข้อมูลและการเปิดเผยซอร์สโค้ดอย่างรอบคอบก่อนนำไปใช้งานจริง

Summary

Liquid AI เปิดตัว LFM2.5‑2.6B โมเดลภาษาขนาด 2.6 พันล้านพารามิเตอร์ ที่ออกแบบมาสำหรับงานเอเจนต์บนอุปกรณ์ขอบโดยไม่ต้องใช้คลาวด์หรือ GPU การทำงานบน CPU ทำให้สามารถนำไปใช้งานในสภาพแวดล้อมที่ต้องการความเป็นส่วนตัวและค่าใช้จ่ายต่ำได้อย่างมีประสิทธิภาพ.

แชร์บทความนี้:

ชอบบทความแบบนี้?

สมัคร AI Automate Weekly Newsletter — รับเคล็ดลับ AI + how-to ใหม่
ทุกสัปดาห์ตรงถึง inbox ฟรี ไม่มีสแปม

แหล่งข่าวต้นฉบับ

ชื่อต้นฉบับ
No cloud, no GPUs, no problem: Liquid AI's new model LFM2.5-2.6B brings powerful AI agents to devices as small as a Raspberry Pi
ผู้เขียน
[email protected] (Carl Franzen)
แหล่ง
VentureBeat
วันที่เผยแพร่
7 สิงหาคม 2569 เวลา 05:56

Related

บทความที่เกี่ยวข้อง

Gemma 4 E2B ทำงานบน Raspberry Pi แสดงว่า LLM ขนาดเล็กไม่ต้องแย่AI
5 สิงหาคม 2569 เวลา 01:00

Gemma 4 E2B ทำงานบน Raspberry Pi แสดงว่า LLM ขนาดเล็กไม่ต้องแย่

โมเดล Gemma 4 E2B รันได้บน Raspberry Pi 4 ด้วยการบีบอัด 2‑bit ใช้ RAM ไม่เกิน 2 GB และตอบสนองภายใน 1‑2 วินาที การทดลองแสดงว่า LLM…

XDA Developers6 นาที
Palantir เปิดศูนย์ข้อมูลคอนเทนเนอร์ใช้ Nvidia B300 AI accelerators เพื่อประมวลผลใกล้สนามรบAI
-

Palantir เปิดศูนย์ข้อมูลคอนเทนเนอร์ใช้ Nvidia B300 AI accelerators เพื่อประมวลผลใกล้สนามรบ

Palantir กับ Armada เปิดศูนย์ข้อมูลคอนเทนเนอร์บรรจุ Nvidia B300 AI accelerators เพื่อประมวลผลใกล้สนามรบ ลดการพึ่งพาคลาวด์และเพิ่มความทนทาน…

TechRadar5 นาที
AMD Strix Halo mini PC อัปเดตเวอร์ชัน 11 ของ Lemonade Server เสริม text‑to‑speech และ image‑to‑3D บนอุปกรณ์ Edge AIAI
-

AMD Strix Halo mini PC อัปเดตเวอร์ชัน 11 ของ Lemonade Server เสริม text‑to‑speech และ image‑to‑3D บนอุปกรณ์ Edge AI

Mini PC รุ่นใหม̀ของ AMD นำชิป Ryzen AI Max+ 395 พร้อม Lemonade Server เวอร์ชัน 11 ที่รองรับการแปลงข้อความเป็นเสียงและภาพสองมิติเป็นโมเดล 3…

XDA Developers6 นาที
OpenAI ปฏิเสธข้อหา Apple ลักลับการค้าในฮาร์ดแวร์ AI ด้วยหลักฐานรับรองAI
6 สิงหาคม 2569 เวลา 13:00

OpenAI ปฏิเสธข้อหา Apple ลักลับการค้าในฮาร์ดแวร์ AI ด้วยหลักฐานรับรอง

OpenAI แถลงผ่านบล็อกว่า ข้อมูลที่ Apple กล่าวหานั้นเป็นข้อมูลสาธารณะและไม่มีการเข้าถึงระบบภายในของ Apple ใด ๆ รายงานยังแนบหลักฐาน (receipts) ยืนยันข้ออ้างนี้.

9to5Mac6 นาที
คัดลอกลิงก์แล้ว!