Perplexity ร่วมมื​อ Nvidia เปิด Portable Computer AI ท้องถิ่น ไม่มีค่าโทเค็น

Lead – Perplexity ประกาศเปิดตัว Portable Computer ซึ่งเป็นเวอร์ชันของแพลตฟอร์ม “Computer” ที่ทำงานเต็มรูปแบบบนฮาร์ดแวร์ที่ผู้ใช้มีอยู่แล้ว โดยร่วมมืออย่างใกล้ชิดกับ Nvidia การเปิดตัวนี้หมายถึงการย้ายภาระงาน AI จากคลาวด์สู่เครื่องท้องถิ่นโดยไม่มีค่าโทเค็นใด ๆ

Overview

Perplexity ทำให้ Portable Computer สามารถทำงานบนคอมพิวเตอร์เดสก์ท็อประดับซูเปอร์คอมพิวเตอร์ DGX Spark ของ Nvidia หรือเครื่อง Linux ที่ติดตั้ง GPU รุ่น RTX ที่มีหน่วยความจำอย่างน้อย 24 GB (เช่น GeForce RTX 3090 ขึ้นไป) ผู้ใช้จึงไม่ต้องพึ่งพาเซิร์ฟเวอร์คลาวด์เพื่อประมวลผลโมเดล AI หลายขั้นตอน การทำงานทั้งหมดอยู่ในเครื่อง ทำให้ข้อมูลสำคัญเช่นเอกสารการเงินหรือโค้ดของบริษัทไม่ต้องถูกอัปโหลดไปยังศูนย์ข้อมูลภายนอก

Perplexity กล่าวว่า งานทุกอย่างจะเริ่มต้นบนอุปกรณ์โดยอัตโนมัติ และระบบจะแจ้งผู้ใช้ก่อนส่งขั้นตอนใด ๆ ไปยังโมเดล “frontier” บนคลาวด์เท่านั้น การออกแบบนี้ช่วยให้ค่าใช้จ่ายจากโทเค็นเป็นศูนย์และลดความเสี่ยงด้านความเป็นส่วนตัวอย่างมีนัยสำคัญ

Key Details

• ฮาร์ดแวร์ที่รองรับ: DGX Spark, Linux พร้อม RTX GPU ≥24 GB (GeForce RTX 3090 หรือใหม่กว่า)
• โมเดล AI ที่รวมไว้: Qwen 3.8 27B, PPLX 27B (post‑trained โดย Perplexia), Nemotron 3.5 Lightning (กำลังจะมา)
• ระดับการสมัครสมาชิก: Pro, Max, Enterprise Pro, Enterprise Max (Linux); Windows จะเปิดให้ใช้ในเดือนกันยายนนี้

ระบบยังรวมเอา sandbox security, ตัวเชื่อมต่อกับ Google Drive, Gmail, GitHub และ Slack ไว้เป็นส่วนหนึ่งของแอปพลิเคชันเดียว ทำให้ผู้ใช้ไม่ต้องดาวน์โหลดหรือตั้งค่าเครื่องมือหลายส่วนเอง ซึ่งตามที่ Nate รองประธานฝ่ายวิศวกรรมของ Perplexia กล่าว “การรวมสแต็ก AI ทั้งหมดไว้ในแอปเดียวทำให้การเริ่มต้นใช้งานเป็นเรื่องง่ายและรวดเร็ว”

Technical Architecture

Portable Computer ประกอบด้วย model weights, agent harness, inference engine, tool connectors และ security sandbox ทุกส่วนถูกรวบรวมเป็นแพคเกจเดียว การออกแบบนี้ตอบโจทย์การใช้งานที่เคยต้องทำหลายขั้นตอนเช่นดาวน์โหลดน้ำหนักโมเดล, ตั้งค่าเซิร์ฟเวอร์ inference, เชื่อมต่อเครื่องมือ, ปรับประสิทธิภาพ ซึ่งโดยทั่วไปถือว่าซับซ้อนและใช้เวลามาก

Perplexia เน้นว่า harness ของตนได้รับการออกแบบให้ “minimal” โดยใช้ระบบพรอมต์สั้น ๆ พร้อมชุดเครื่องมือหลักที่จำกัด การโหลดทักษะ (skills) ทำได้ตามต้องการแทนการเก็บไว้ในคอนเท็กซ์ตลอดเวลา ซึ่งช่วยลดการใช้โทเค็นอย่างมีประสิทธิภาพ ตัวอย่างเช่น Gmail และ GitHub ถูกแปลงเป็น command‑line tools ที่กินโทเค็นน้อยกว่าเดิม

นอกจากนี้ ระบบยังตรวจสอบสภาพแวดล้อมแบบ sandbox อยู่เสมอ หากไม่สามารถทำงานใน sandbox ได้ harness จะปิดตัวเองเพื่อหลีกเลี่ยงการรันคำสั่งโดยไม่มีการคุ้มครอง ซึ่งต่างจากเฟรมเวิร์กเปิดที่ให้สิทธิ์เต็มแก่ผู้ใช้โดยตรง

Demonstrations & Use Cases

ในการสาธิตแรก ระบบทำหน้าที่เป็นนักลงทุนรายย่อยที่ต้องตรวจสอบโฟลเดอร์เอกสาร 1099 และไฟล์การลงทุนจำนวนหลายสิบไฟล์ โมเดล Qwen 27‑billion พารามิเตอร์ ทำงานบน DGX Spark ด้วย GPU เต็มที่ ผู้ช่วย AI สามารถระบุค่าธรรมเนียมที่อาจเกินควรได้โดยไม่ต้องใช้เครดิตคลาวด์ใด ๆ ค่าที่แสดงใน UI ของการใช้งานโทเค็นจึงค้างอยู่ที่ศูนย์

สาธิตต่อมาพิสูจน์ความเป็น hybrid โดยให้นักก่อตั้งสตาร์ทอัพอัปโหลดไฟล์ CSV ของข้อมูลฟันเนลผู้ใช้ ระบบวิเคราะห์ข้อมูลบนเครื่องแล้วส่งผลลัพธ์ไปยังช่อง Slack ผ่านคอนเน็กเตอร์ของ Perplexia การทำงานนี้แสดงให้เห็นว่าแม้เป็นโหมด “local‑first” ก็สามารถเชื่อมต่อกับบริการคลาวด์ได้เมื่อจำเป็น

การรองรับ Google Drive, Gmail และ GitHub ทำให้ผู้ใช้สามารถดึงข้อมูลจากหลายแหล่งมาใช้งานร่วมกันได้โดยไม่ต้องออกจากระบบ ทั้งนี้ระบบยังพร้อมส่งงานไปยังโมเดล frontier บนคลาวด์หากโมเดลท้องถิ่นถึงขีดจำกัดของความสามารถ

Business Impact

สำหรับ Nvidia การเปิดตัว Portable Computer แสดงให้เห็นว่าบริษัทมองว่า AI บนเครื่อง ได้ก้าวจากระดับผู้สนใจสู่การใช้งานจริงในองค์กร บริษัทจึงต้องการขายฮาร์ดแวร์ที่รองรับ AI ระดับสูงโดยตรงกับลูกค้า ซึ่งเป็นส่วนเสริมของกลยุทธ์ “data center‑centric” ที่เคยทำมาหลายปี

Perplexia จะได้ขยายฐานผู้ใช้จากกลุ่มคลาวด์ไปยังผู้ที่ต้องการความปลอดภัยและประหยัดค่าโทเค็น การเสนอแผนสมัครสมาชิกระดับ Enterprise ทำให้บริษัทสามารถสร้างรายได้ต่อเนื่องจากบริการซอฟต์แวร์บนฮาร์ดแวร์ของ Nvidia อีกด้วย

โดยรวมแล้ว ความร่วมมือครั้งนี้อาจเร่งการยอมรับเทคโนโลยี local AI agents ในหลายอุตสาหกรรม เช่น การเงิน, กฎหมาย, และพัฒนาซอฟต์แวร์ ที่ต้องจัดการข้อมูลที่ละเอียดอ่อนโดยไม่สามารถส่งไปคลาวด์ได้

Analysis

Perplexia ย้ำว่าการออกแบบ model + harness อย่างร่วมมือกันเป็นกุญแจสำคัญในการทำให้ AI บนอุปกรณ์ท้องถิ่นทำงานได้อย่างมีประสิทธิภาพ โมเดลขนาด 27 B ที่มี “context window” ถึง 260,000 โทเค็น แต่การทดลองของบริษัทพบว่าประสิทธิภาพเริ่มลดลงเมื่อเกินประมาณ 100,000 โทเค็น การใช้ harness ที่เรียบง่ายช่วยให้ระบบไม่ต้องพึ่งพาคอนเท็กซ์ขนาดใหญ่และทำให้การประมวลผลเร็วขึ้น

แม้ว่าข้อมูลที่นำเสนอจะมาจากการประเมินภายในของ Perplexia แต่ผลเบนช์มาร์คบน Local Knowledge Work Bench (53 งานครอบคลุมการวิจัยเชิงลึก, การวิเคราะห์ทางการเงิน, การสร้างเอกสาร) แสดงให้เห็นว่าระบบสามารถทำงานได้อย่างสอดคล้องกับเป้าหมาย “zero token cost” อย่างชัดเจน แม้ว่าการทดสอบภายนอกยังคงเป็นหัวข้อที่ต้องติดตามต่อไป

Summary

Portable Computer ของ Perplexia ร่วมกับ Nvidia ทำให้การประมวลผล AI ระดับสูงสามารถทำได้บนเครื่องผู้ใช้โดยไม่มีค่าโทเค็นและรักษาความปลอดภัยของข้อมูลได้เต็มที่ การออกแบบระบบที่รวมโมเดล, harness, และ sandbox ไว้ในแอปเดียวเป็นก้าวสำคัญสู่การยอมรับ AI บนเครื่องในองค์กรหลากหลายรูปแบบ.