บริษัท xAI ของอีลอน มัสก์ถูกฟ้องร้ายใช้ภาพเด็กเพื่อฝึกโมเดล AI Grok

การฟ้องคดีใหม่จากผู้เสียหายที่ระบุว่าเป็น Jane Doe ระบุว่าบริษัท xAI ของอีลอน มัสก์ได้ใช้ภาพและวิดีโอเด็กถูกทำร้ายทางเพศ (CSAM) เพื่อฝึกโมเดลปัญญาประดิษฐ์ Grok แม้หน่วยงานกำกับดูแลและศาลจะยังคงตรวจสอบขอบเขตของการละเมิดนี้อยู่ แต่รายงานระบุว่าผู้ใช้บางคนที่เข้าถึง Grok ถูกจับกุมแล้ว

Overview

ข้อกล่าวหาในคำฟ้องที่ยื่นเมื่อวันพุธที่ผ่านมาเน้นว่า Jane Doe ซึ่งเป็นเด็กเล็กตอนต้นศตวรรษใหม่ ถูกบังคับให้ทำร้ายทางเพศโดยผู้ชายหลายคนเพื่อสร้าง CSCSAM ที่จำหน่ายต่อผู้มีแนวโน้มจะละเมิดเด็กบนอินเทอร์เน็ต ภาพของเธอได้ถูกแฮชและส่งต่อไปยังองค์กรตรวจสอบเช่น National Center for Missing and Exploited Children (NCMEC) และ Canadian Centre for Child Protection (CCCP) เพื่อป้องกันการเผยแพร่ต่อไป

จากนั้น Jane Doe ได้สมัครรับการแจ้งเตือนจากระบบ US Department of Justice Victim Notification System ซึ่งจะส่งสัญญาณเมื่อเธอเป็นเป้าหมายของการสอบสวนคดีใหม่ใด ๆ แม้ว่าเธอจะได้รับแจ้งเตือนหลายครั้งแล้ว แต่ความช็อกเกิดขึ้นเมื่อ CCCP แจ้งว่าได้พบ “AI‑generated CSAM” บนแพลตฟอร์มของ xAI ที่ดูเหมือนจะเป็นภาพของเธอเอง การค้นพบนี้ทำให้เธอต้องเผชิญกับการบาดเจ็บซ้ำอีกครั้ง

Allegations

ในคำฟ้องระบุว่ามีข้อความบนฟอรัมออนไลน์ที่ผู้กระทำผิดพูดคุยเกี่ยวกับการสร้าง AI‑generated CSAM ของ Jane Doe และ “ผู้เสียหายอื่น ๆ ที่เคยเป็นเป้าหมายของ CSAM” คำพูดเหล่านี้แสดงให้เห็นว่ามีการใช้ข้อมูลที่มีลักษณะอันตรายในขั้นตอนการฝึกโมเดลโดยไม่ได้รับความยินยอมจากผู้เป็นเหยื่อ

ข้อกล่าวหาเพิ่มเติมบ่งชี้ว่า xAI อาจไม่ได้ทำการคัดกรองหรือกำจัดเนื้อหาที่ละเมิดเหล่านี้อย่างเพียงพอก่อนนำเข้าเข้าสู่ระบบฝึกโมเดลของ Grok การใช้ข้อมูลที่มีความรุนแรงต่อเด็กในกระบวนการเรียนรู้ของ AI นั้นขัดกับแนวปฏิบัติด้านจริยธรรมและกฎหมายหลายฉบับทั่วโลก

Legal Process

คดีนี้ยังอยู่ระหว่างขั้นตอนการสืบสวนโดยศาลอเมริกัน และบริษัท xAI ยังไม่ได้ให้ความเห็นอย่างเป็นทางการต่อข้อกล่าวหา อย่างไรก็ตาม คำฟ้องได้เปิดเผยว่าผู้ตรวจสอบจากหน่วยงานกฎหมายของสหรัฐฯ กำลังรวบรวมหลักฐานเกี่ยวกับการใช้ CSAM ในกระบวนการฝึกโมเดล AI

การดำเนินคดีอาจนำไปสู่คำสั่งศาลให้ xAI หยุดใช้ข้อมูลที่มีลักษณะเป็น CSAM ทั้งหมด และอาจต้องชดเชยค่าเสียหายต่อผู้เสียหาย รวมถึงความเสี่ยงทางกฎหมายและชื่อเสียงของบริษัทในระดับโลก

Technical Background

โมเดล Grok ของ xAI เป็นระบบประมวลผลภาษาธรรมชาติที่ได้รับการฝึกด้วยข้อมูลขนาดมหาศาลจากหลายแหล่ง ตามหลักการทั่วไป การฝึกโมเดล AI ต้องอาศัยชุดข้อมูลที่หลากหลายเพื่อให้ได้ผลลัพธ์ที่ครอบคลุมและแม่นยำ

อย่างไรก็ตาม หากชุดข้อมูลรวมถึง CSAM โดยไม่ได้รับการกรองหรือทำเครื่องหมายว่าเป็นเนื้อหาที่ต้องละทิ้ง จะส่งผลให้โมเดลเรียนรู้รูปแบบหรือภาพของการกระทำรุนแรงต่อเด็ก ซึ่งอาจทำให้ AI สร้างสรรค์ผลงานที่มีลักษณะคล้ายกับ CSAM ได้โดยไม่ตั้งใจ หรือถูกนำไปใช้ในทางที่ผิดโดยผู้ใช้งาน

• NCMEC – ศูนย์กลางการตรวจสอบและจัดเก็บแฮชของ CSAM ในสหรัฐฯ
• CCCP – ศูนย์ปกป้องเด็กแห่งประเทศแคนาดา ทำหน้าที่ตรวจจับและแจ้งเตือนกรณี AI‑generated CSAM
• US DOJ Victim Notification System – ระบบการแจ้งเตือนผู้เสียหายจากกระบวนการสอบสวนของกระทรวงยุติธรรม

Impact and Reactions

ถ้าข้อกล่าวหาเป็นจริง การใช้ CSAM ในการฝึกโมเดล AI ของบริษัทระดับโลกอย่าง xAI จะสร้างผลกระทบต่อความเชื่อมั่นของผู้ใช้งานและนักพัฒนาทั่วไป นอกจากนี้ยังอาจเพิ่มแรงกดดันให้รัฐบาลหลายประเทศเร่งปรับระเบียบเกี่ยวกับการใช้ข้อมูลที่มีลักษณะเป็น CSAM ในงานวิจัย AI

กลุ่มองค์กรปกป้องเด็กระดับสากลเช่น NCMEC และ CCCP ได้ออกแถลงการณ์เรียกร้องให้บริษัทเทคโนโลยีทุกแห่งต้องสร้างกระบวนการตรวจสอบข้อมูลอย่างเข้มงวด การดำเนินคดีนี้อาจเป็นจุดเริ่มต้นของแนวทางกฎหมายใหม่ที่กำหนดมาตรฐานในการใช้ข้อมูลส่วนบุคคลและข้อมูลลับในระบบ AI

Summary

คำฟ้องจาก Jane Doe เปิดเผยประเด็นสำคัญเกี่ยวกับการใช้ CSAM ในการฝึกโมเดล Grok ของ xAI ซึ่งอาจนำไปสู่ผลกระทบทางกฎหมายและจริยธรรมอย่างรุนแรง การพิจารณาและกำหนดมาตรฐานใหม่สำหรับข้อมูลที่ใช้ใน AI จะเป็นสิ่งจำเป็นเพื่อป้องกันการละเมิดสิทธิของผู้เสียหายในอนาคต.