นักพัฒนาจำลองพฤติกรรม Fable 5 ด้วยโมเดล Opus และ Agent Loops อย่างใกล้เคียง

หลายเดือนที่ผ่านมา Anthropic ได้อธิบายว่าโมเดล Mythos มีความเสี่ยงสูงจนไม่ควรปล่อยสู่สาธารณะ แต่เมื่อเร็ว ๆ นี้บริษัทได้ประกาศเปิดตัวโมเดลใหม่ชื่อ Fable 5 โดยระบุว่ามีการเพิ่มระบบ guardrails มากขึ้น เพื่อลดความเป็นอันตรายต่อผู้ใช้ ในขณะเดียวกัน นักพัฒนาในชุมชน AI ได้ใช้โมเดล Opus ของ Anthropic ผสานกับ agent loops เพื่อสร้างประสบการณ์ที่คล้ายกับ Fable 5 อย่างใกล้เคียง จนบอกว่า “ไม่ต้องคิดถึงโมเดลที่ถูกห้ามใช้อีกต่อไป” การพัฒนาเช่นนี้ทำให้เกิดคำถามเกี่ยวกับการเข้าถึงเทคโนโลยี AI ที่มีการควบคุมอย่างเข้มงวด

Overview

Anthropic แถลงการณ์ล่าสุดระบุว่า Fable 5 เป็นรุ่นต่อเนื่องของ Mythos ที่ได้รับการปรับปรุงด้านความปลอดภัย โดยเพิ่ม guardrails เพื่อจำกัดการสร้างเนื้อหาที่อาจก่อให้เกิดอันตรายหรือละเมิดกฎการใช้งาน อย่างไรก็ตาม รายละเอียดเชิงเทคนิคของการทำงานของ Fable 5 ยังคงไม่เปิดเผยต่อสาธารณะ ทำให้ชุมชนผู้พัฒนาต้องหาวิธีจำลองพฤติกรรมของโมเดลนี้ด้วยวิธีอื่น

Background

Anthropic เคยบอกว่า Mythos มีความซับซ้อนและอาจทำให้โมเดลสร้างผลลัพธ์ที่ไม่คาดคิดได้ จึงตัดสินใจระงับการเผยแพร่ตามหลักการความรับผิดชอบต่อสังคม หลังจากผ่านการประเมินภายในและการทดสอบด้านความปลอดภัย บริษัทจึงนำเสนอ Fable 5 พร้อมกับการอ้างว่ามีการเพิ่ม guardrails ที่ครอบคลุมยิ่งขึ้น ทั้งนี้ การเปิดตัวโมเดลใหม่ในช่วงเวลาที่ AI กำลังได้รับความสนใจอย่างกว้างขวาง ทำให้ตลาดคาดหวังว่าจะมีเครื่องมือที่สามารถใช้งานได้อย่างปลอดภัยและมีประสิทธิภาพ

Technical Approach

นักพัฒนาที่ทำการทดลองกล่าวว่าได้ใช้โมเดล Opus ของ Anthropic ซึ่งเป็นโมเดลที่อยู่ในระดับเดียวกับ Mythos แต่เปิดให้ใช้งานได้ทั่วไป เขาได้ผสาน agent loops ซึ่งเป็นกระบวนการวนลูประหว่างผู้ใช้และตัวแทน AI เพื่อให้ระบบสามารถประเมินและปรับปรุงผลลัพธ์อย่างต่อเนื่อง วิธีนี้ทำให้การตอบสนองของ Opus ใกล้เคียงกับพฤติกรรมที่คาดหวังจาก Fable 5

การตั้งค่าเริ่มต้นประกอบด้วยการกำหนด prompt ที่ระบุขอบเขตของการสนทนาและการใช้ feedback loop เพื่อให้ AI ปรับตัวตามคำแนะนำที่ได้รับจากผู้ใช้ในแต่ละรอบ การทำเช่นนี้ช่วยให้ระบบสามารถปฏิบัติตาม guardrails ที่ผู้พัฒนากำหนดเองได้ แม้ว่าจะไม่เทียบเท่ากับการตรวจสอบของ Anthropic อย่างเป็นทางการ

Performance & Comparison

ผลการทดสอบที่นำเสนอในบทความของ XDA‑Developers ระบุว่า Opus ที่ถูกควบคุมด้วย agent loops สามารถสร้างข้อความที่มีความสอดคล้องและเป็นประโยชน์ในระดับใกล้เคียงกับ Fable 5 ตามที่คาดหวัง นักพัฒนายังกล่าวว่า “ผลลัพธ์ที่ได้ไม่แตกต่างอย่างมีนัยสำคัญจากโมเดลที่ถูกห้ามใช้”

แม้จะไม่มีตัวเลขเชิงปริมาณที่เปิดเผย แต่จากการเปรียบเทียบเชิงคุณภาพ พบว่า:

ความสอดคล้องของเนื้อหา อยู่ในระดับเดียวกัน
การปฏิบัติตามข้อกำหนดด้านความปลอดภัย สามารถควบคุมได้ด้วยการตั้งค่า guardrails ของผู้ใช้เอง
ความเร็วในการตอบสนอง ยังคงเหมาะสมสำหรับการใช้งานทั่วไป

Implications

การที่ชุมชนสามารถสร้าง “เวอร์ชันจำลอง” ของโมเดลที่ถูกจำกัดได้ แสดงให้เห็นว่าการควบคุมการเข้าถึง AI ไม่ได้เป็นอุปสรรคต่อการวิจัยและพัฒนาอย่างสมบูรณ์ การใช้ agent loops เป็นวิธีหนึ่งที่ช่วยเพิ่มความยืดหยุ่นโดยไม่ละเมิดเงื่อนไขของผู้ให้บริการ

อย่างไรก็ตาม ความสามารถนี้อาจทำให้ผู้กำกับดูแลต้องพิจารณานโยบายใหม่เกี่ยวกับการใช้โมเดล AI ที่มี guardrails ภายนอก เนื่องจากเทคนิคการจำลองอาจทำให้ผลลัพธ์ที่มีความเสี่ยงกลับมาถูกนำไปใช้โดยไม่ได้รับการตรวจสอบจากผู้ผลิตโมเดลเดิม

Community Reaction

ในฟอรั่มของ XDA‑Developers และแพลตฟอร์มอื่น ๆ มีการอภิปรายว่าการสร้าง “คลอเน” ของโมเดลที่มีข้อจำกัดนั้นเป็นการตอบสนองต่อความต้องการของนักพัฒนาและผู้ใช้ขั้นสูงหลายคน ผู้ใช้บางส่วนชื่นชมว่าเทคโนโลยีนี้เปิดโอกาสให้ทดลองและสร้างสรรค์โดยไม่ต้องพึ่งพาโมเดลที่ถูกปิดกั้น

ในทางกลับกัน มีผู้แสดงความกังวลเกี่ยวกับการใช้เทคนิคดังกล่าวอาจทำให้การควบคุมด้านจริยธรรมของ AI ลดลง เนื่องจากการตั้งค่า guardrails ที่กำหนดโดยผู้ใช้เองอาจไม่ครอบคลุมถึงความเสี่ยงทั้งหมดที่ Anthropic ได้ประเมินไว้

Summary

Anthropic เปิดตัว Fable 5 พร้อมระบบ guardrails ที่เพิ่มขึ้น หลังจากระงับการเผยแพร่ Mythos ไปหลายเดือน นักพัฒนาจึงใช้ Opus ผสานกับ agent loops เพื่อสร้างประสบการณ์ที่คล้ายกับ Fable 5 อย่างใกล้เคียง การทดลองนี้ชี้ให้เห็นถึงศักยภาพและข้อท้าทายของการจำลองโมเดล AI ที่มีการควบคุมอย่างเข้มงวดในชุมชนผู้พัฒนา.