Anthropic โจมตี Alibaba ใช้บัญชีปลอม 25,000 รายสกัด Claude AI

การระบุว่าบริษัท Alibaba ใช้บัญชีปลอมเกือบ 25,000 บัญชีเพื่อสกัดความสามารถของโมเดล Claude ของ Anthropic นั้นเป็นเหตุการณ์ที่อาจเปลี่ยนโฉมหน้าความเสี่ยงด้านซัพพลายเชนของปัญญาประดิษฐ์ (AI) อย่างมีนัยสำคัญ โดย Anthropic อ้างว่าการโจมตีดังกล่าวเกิดขึ้นระหว่างวันที่ 22 เมษายน‑5 มิถุนายน 2567 และทำให้เกิดการแลกเปลี่ยนข้อมูลกับ Claude มากกว่า 28.8 ล้านครั้ง รายละเอียดนี้ถูกส่งต่อให้คณะกรรมการการธนาคารของสภาอเมริกา (US Senate Banking Committee) เมื่อ 10 มิถุนายน 2567

Overview

Anthropic เป็นบริษัท AI สัญชาติอเมริกันที่พัฒนาโมเดลภาษาขนาดใหญ่ชื่อ Claude ซึ่งเป็นหนึ่งในโมเดลที่ได้รับการยอมรับด้านความแม่นยำและความปลอดภัย การใช้เทคนิค distillation เพื่อฝึกโมเดลระดับล่างโดยอิงผลลัพธ์จากโมเดลระดับบนทำให้ผู้ร้ายสามารถคัดลอกความสามารถบางส่วนของ Claude ได้โดยไม่ต้องเข้าถึงโค้ดหรือข้อมูลฝึกโดยตรง

ตามจดหมายของ Anthropic ที่ส่งถึงสมาชิกอาวุโสของคณะกรรมการสภาอเมริกา บริษัทระบุว่าการกระทำดังกล่าวเป็น การโจมตีที่ใหญ่ที่สุดที่เคยบันทึกไว้ ต่อ Claude จนถึงปัจจุบัน การกระทำเช่นนี้นอกจากจะเป็นการละเมิดลิขสิทธิ์แล้ว ยังอาจทำให้ผู้แข่งขันสามารถสร้างโมเดลที่มีประสิทธิภาพใกล้เคียงกันในต้นทุนที่ต่ำกว่า

Alleged Campaign Details

การสืบสวนของ Anthropic ระบุว่าแคมเปญดังกล่าวดำเนินการโดยผู้ดำเนินงานที่เชื่อมโยงกับ Alibaba และ Alibaba Qwen ซึ่งเป็นห้องปฏิบัติการ AI ของบริษัทนั้น ระยะเวลาการดำเนินการตั้งแต่ 22 เมษายน‑5 มิถุนายน ทำให้เกิดการแลกเปลี่ยนกับ Claude มากกว่า 28.8 ล้าน ครั้ง ซึ่งหมายถึงการสั่งงานและรับผลลัพธ์จากโมเดลเป็นจำนวนมหาศาล

• แคมเปญก่อนหน้าที่ Anthropic รายงาน ได้แก่ DeepSeek (กว่า 150,000 ครั้ง), Moonshot AI (จำนวนไม่ระบุ), MiniMax (กว่า 13 ล้านครั้ง)
• การสกัดข้อมูลดังกล่าวใช้เทคนิค distillation เพื่อฝึกโมเดลที่มีขนาดเล็กกว่าโดยอิงผลลัพธ์จาก Claude
• ความพยายามนี้อาจเร่งความสามารถของ Mythos Preview โมเดลของจีนให้เทียบเท่ากับ Claude

แม้ว่า Alibaba ยังไม่ได้ให้การตอบรับต่อข้อกล่าวหาเหล่านี้ การระบุตัวผู้กระทำและปริมาณการสกัดข้อมูลทำให้สังเกตเห็นว่าการโจมตีเช่นนี้อาจเป็นส่วนหนึ่งของการแข่งขันด้าน AI ระหว่างสหรัฐและจีน

Technical Context

เทคนิค distillation เป็นวิธีการที่นักวิจัย AI ใช้เพื่อทำให้โมเดลขนาดใหญ่มีประสิทธิภาพในการประมวลผลที่สูงขึ้นโดยการฝึกโมเดลขนาดเล็กด้วยข้อมูลผลลัพธ์จากโมเดลขนาดใหญ่ การทำเช่นนี้ช่วยลดค่าใช้จ่ายและเพิ่มความเร็วในการใช้งาน แต่ในกรณีของการสกัดข้อมูลโดยไม่ได้รับอนุญาต จะทำให้ผู้กระทำสามารถสร้างโมเดลที่มีความสามารถคล้ายคลึงกับโมเดลต้นแบบโดยไม่ต้องพัฒนาขึ้นใหม่

นักวิเคราะห์ของ TechInsights (Anand Joshi) ชี้ว่าหากข้อกล่าวหานี้เป็นจริง Alibaba จะสามารถสร้างโมเดลที่เทียบเท่ากับ Claude ได้ในระยะเวลาสั้น ๆ และอาจนำเสนอให้กับลูกค้าในราคาต่ำกว่าอย่างมีนัยสำคัญ การทำเช่นนี้อาจทำให้ตลาด AI ของจีนก้าวหน้าอย่างรวดเร็วและเสริมความสามารถของโมเดล Mythos Preview

ในมุมมองของ Greyhound Research (Sanchit Vir Gogia) การสกัดโมเดลระดับองค์กรแสดงให้เห็นว่าซัพพลายเชน AI ไม่ได้จำกัดอยู่แค่ซอฟต์แวร์หรือ API เท่านั้น แต่รวมถึง “ปัญญาประดิษฐ์ที่เช่ามา” ที่อาจถูกคัดลอกและนำไปใช้ภายนอกระบบความปลอดภัยเดิมของผู้พัฒนา

Industry Impact

การเปิดเผยเหตุการณ์นี้ทำให้ผู้ประกอบการระดับองค์กรต้องประเมินความเสี่ยงใหม่ เนื่องจากการคัดลอกโมเดล AI ที่พึ่งพาอยู่เป็นการละเมิดทรัพย์สินทางปัญญาในระดับลึกกว่าการคัดลอกซอฟต์แวร์ทั่วไป หากโมเดลถูกคัดลอกอย่างเป็นระบบ ผู้แข่งขันอาจสามารถค้นหา “จุดอ่อน” ของโมเดลได้อย่างแม่นยำและนำไปใช้โจมตีระบบอัตโนมัติขององค์กร

CEO ของ Pareekh Consulting (Pareekh Jain) ระบุว่าความเสี่ยงนี้อาจมีผลกระทบต่อการดำเนินงานของธุรกิจที่พึ่งพา AI เป็นหลัก เช่น ระบบจัดการลูกค้าหรือการวิเคราะห์ข้อมูล หากผู้ให้บริการ AI ต้องปิดบริการอย่างฉับพลัน ธุรกิจอาจสูญเสียความต่อเนื่องในการทำงานและต้องเผชิญกับค่าใช้จ่ายในการเปลี่ยนผู้ให้บริการใหม่

ในระดับกฎระเบียบสหรัฐก็เพิ่มการตรวจสอบโมเดล AI ขั้นสูงโดยคำนึงถึงการใช้ในภาคทหารหรือสำนักข่าวกรองของประเทศที่เป็น “countries of concern” การสกัดข้อมูลเช่นนี้อาจทำให้รัฐบาลสหรัฐพิจารณามาตรการใหม่เพื่อควบคุมการส่งออกเทคโนโลยี AI

Mitigation & Recommendations

ผู้ให้บริการ AI จำเป็นต้องเสริมกลไกการป้องกันการสกัดโมเดลในระดับโครงสร้างพื้นฐาน โดยการใช้ การตรวจจับการใช้งานแบบอัจฉริยะ, การจำกัดอัตราการเรียกใช้ (rate limiting), การตรวจสอบการละเมิด และการกำหนด ข้อห้ามในสัญญาเกี่ยวกับการทำ distillation** ตามที่ Pareekh Jain แนะนำ

สำหรับองค์กรผู้ใช้ AI ควรสอบถามผู้ให้บริการเกี่ยวกับ:

• วิธีการตรวจจับและบล็อกการสกัดโมเดลในระดับใหญ่
• สิทธิ์ในการตรวจสอบ (audit rights) และการเปิดเผยเหตุการณ์ (incident disclosure)
• การมีแผนสำรอง (backup plan) และการคืนเงินกรณีบริการหยุดโดยกะทันหัน

นักวิเคราะห์ของ TechInsights (Anand Joshi) ยังเน้นว่าผู้ซื้อระดับองค์กรควรขอข้อมูลเกี่ยวกับ ข้อมูลการฝึก (training data), การตั้งค่าการควบคุม (guardrails), และ เทคโนโลยี watermark ที่อาจฝังลงในโมเดลหรือผลลัพธ์เพื่อระบุตัวผู้ละเมิดในกรณีที่ความสามารถของโมเดลถูกขโมย

Summary

Anthropic กล่าวหาว่า Alibaba ใช้บัญชีปลอมกว่า 25,000 บัญชีสกัดความสามารถของ Claude ผ่านเทคนิค distillation ทำให้เกิดการแลกเปลี่ยนข้อมูลกว่า 28.8 ล้านครั้ง ระหว่างเดือนเมษายน‑มิถุนายน 2567 เหตุการณ์นี้สะท้อนถึงความเสี่ยงใหม่ในซัพพลายเชน AI และกระตุ้นให้ผู้ให้บริการและผู้ใช้ต้องเร่งปรับมาตรการป้องกันและตรวจสอบอย่างเข้มข้น.