CEO JPMorgan เตือน Claude Mythos ของ Anthropic อาจเป็นอาวุธขีปนาวุธบอลิสติก

JPMorgan CEO Jamie Dimon เตือนว่าโมเดล AI ระดับสูงของ Anthropic ชื่อ Claude Mythos อาจเป็น “อาวุธขีปนาวุธบอลิสติก” ที่ถูกมอบให้กับบุคคลทั่วไป หากไม่มีการควบคุมอย่างเข้มงวด การเปิดเผยเทคโนโลยีนี้อาจทำให้เกิดความเสี่ยงด้านไซเบอร์และชีววิทยาอย่างรุนแรง ตามรายงานของ Reuters

Overview

โมเดล Claude Mythos ของ Anthropic ถูกพัฒนาเป็นระบบ AI ที่มีระดับความซับซ้อนสูงกว่าเวอร์ชันก่อนหน้า มันสามารถวิเคราะห์โค้ด, ค้นพบช่องโหว่ zero‑day และแม้กระทั่งสร้าง exploit ที่ทำงานได้จริง การทดลองหลายกรณีแสดงให้เห็นว่า AI นี้ไม่เพียงแต่ช่วยเหลือผู้เชี่ยวชาญด้านความปลอดภัย (white‑hat) แต่ยังอาจเป็นเครื่องมือที่ร้ายแรงในมือของผู้ประสงค์ร้าย (black‑hat)

แม้จะมีศักยภาพสูง โมเดลนี้ยังไม่ได้เปิดให้ใช้โดยสาธารณะ ขณะนี้การเข้าถึงจำกัดอยู่กับองค์กรบางส่วน เช่น บริษัทเอกชนระดับโลกและหน่วยงานรัฐบาลหรือกองทัพของสหรัฐอเมริกา ตามที่บริษัท Anthropic ยืนยัน การควบคุมการเข้าถึงเป็นขั้นตอนสำคัญเพื่อป้องกันผลกระทบที่ไม่พึงประสงค์

Risks and Capabilities

Claude Mythos สามารถทำสองหน้าที่หลักคือการตรวจจับช่องโหว่ด้านความปลอดภัยไซเบอร์และสร้าง exploit อัตโนมัติ ซึ่งหมายความว่า ในมือนักวิเคราะห์ระบบป้องกัน (white‑hat) AI นี้เป็นเครื่องมือเสริมที่มีคุณค่าอย่างยิ่งในการทดสอบระบบ แต่ในทางกลับกัน หากตกอยู่ในมือของแฮกเกอร์ มันอาจทำให้การสร้าง ransomware, phishing หรือการโจมตีแบบ data‑driven มีประสิทธิภาพและกำไรสูงขึ้นอย่างรวดเร็ว

นอกจากความเสี่ยงด้านไซเบอร์แล้ว AI ยังถูกทดสอบว่ามีศักยภาพในการแปลแนวคิดทางชีววิทยาที่ซับซ้อนเป็นภาษาที่เข้าใจได้ง่าย ซึ่งอาจทำให้ผู้ไม่ประสงค์ดีใช้ข้อมูลดังกล่าวเพื่อพัฒนาเชื้อโรคหรือสารเคมีที่มีอันตรายต่อมนุษย์ การนำ AI ไปสู่การวิจัยทางชีวภาพโดยไม่มีการตรวจสอบอาจสร้างความไม่สมดุลในระดับยุทธศาสตร์ระหว่างประเทศ

Government Restrictions and Access Control

รัฐบาลสหรัฐอเมริกาได้ออกคำสั่งให้ Anthropic ปิดกั้นการเข้าถึง Claude Mythos จากผู้ใช้ที่เป็นชาวต่างชาติ เนื่องจากมีข้อกังวลด้านความปลอดภัยระดับสูง ตามข้อมูลของ Reuters การจำกัดนี้ครอบคลุมทั้งการใช้งานภายในประเทศและการเชื่อมต่อข้ามพรมแดน เพื่อป้องกันไม่ให้เทคโนโลยีที่อาจเป็น “อาวุธดิจิทัล” ถูกนำไปใช้โดยองค์กรหรือบุคคลที่อาจก่อความเสียหาย

คำสั่งของรัฐบาลยังรวมถึงการตรวจสอบอย่างเข้มงวดต่อผู้ที่ได้รับสิทธิ์ใช้งาน โดยต้องผ่านกระบวนการประเมินความเสี่ยงและมาตรการป้องกันข้อมูล การดำเนินการเช่นนี้สะท้อนให้เห็นว่าผู้กำกับดูแลเริ่มตระหนักถึงผลกระทบที่อาจเกิดจาก AI ระดับสูงและพยายามสร้างกรอบกฎหมายเพื่อควบคุมการใช้งาน

Potential Misuse and Strategic Imbalance

หาก Claude Mythos ถูกเปิดให้เข้าถึงอย่างกว้างขวาง ความเสี่ยงต่อความไม่สมดุลทางยุทธศาสตร์อาจเพิ่มขึ้นอย่างชัดเจน ประเทศหรือองค์กรที่มีเทคโนโลยีดังกล่าวโดยเฉพาะจะได้เปรียบในการทำสงครามไซเบอร์และการวิจัยชีวภาพ ในขณะเดียวกัน ผู้ไม่มีสิทธิ์เข้าถึงอาจต้องเผชิญกับภัยคุกคามจากผู้ที่มีเครื่องมือขั้นสูงนี้

นอกจากนี้ การใช้ AI เพื่อสร้าง exploit อย่างอัตโนมัติทำให้กระบวนการโจมตีไซเบอร์เป็นแบบ “ขนาดใหญ่” (scale) มากยิ่งขึ้น แฮกเกอร์สามารถผลิตและปรับเปลี่ยนโค้ดอันตรายได้อย่างรวดเร็ว ลดเวลาที่ต้องใช้ในการพัฒนาเครื่องมือใหม่ ผลที่ตามมาคือ การเพิ่มจำนวนของเหตุการณ์ ransomware และ phishing ที่มีความซับซ้อนสูง

Future Outlook and Safeguards

Anthropic ยืนยันว่าจะค่อย ๆ ปลดล็อกคุณสมบัติระดับ Mythos ให้เข้าถึงได้ในวงกว้างมากขึ้น แต่ต้องอาศัยการพัฒนามาตรการป้องกันที่เพียงพอก่อน บริษัทระบุว่าโครงการ Project Glasswing กำลังดำเนินการร่วมกับพันธมิตรหลักหลายองค์กรเพื่อสร้างกรอบการควบคุมและตรวจสอบความปลอดภัย

• Amazon Web Services
• Apple
• Broadcom
• Cisco
• CrowdStrike
• บริษัทอื่น ๆ ที่เข้าร่วมโครงการ

ตามแผนของ Anthropic การเปิดให้ใช้จะถูกจำกัดเฉพาะฟีเจอร์ที่เกี่ยวข้องกับการป้องกันความปลอดภัยและงานวิจัยด้านชีวภาพ จนกว่าจะมีการพิสูจน์ว่ามาตรการเหล่านี้ “fit for purpose” แล้ว จึงคาดว่า Claude Mythos จะยังคงอยู่ในระบบที่ควบคุมอย่างเข้มงวดต่อไป

Summary

โมเดล AI Claude Mythos ของ Anthropic มีศักยภาพสูงในการค้นหาและสร้าง exploit ทำให้เป็นความเสี่ยงด้านไซเบอร์และชีววิทยาที่สำคัญ ตามคำเตือนของ Jamie Dimon การควบคุมการเข้าถึงโดยรัฐบาลสหรัฐและโครงการ Project Glasswing จะเป็นกุญแจสำคัญในการป้องกันการใช้เทคโนโลยีนี้ในทางที่ผิด.