คดีฟ้องร้อง xAI ใช้ Grok สร้างภาพลามกเด็ก 7,000 รูปโดยไม่มีระบบตรวจจับอัตโนมัติ

การฟ้องคดีชั้นศาลอเมริกาที่ขยายเพิ่มเมื่อวันอังคารนี้ได้เปิดเผยรายละเอียดเกี่ยวกับการใช้ Grok ของบริษัท xAI สร้างภาพลามกเด็กจำนวนหลายพันรูปโดยไม่มีระบบตรวจจับและบล็อกอัตโนมัติ การเปิดเผยนี้ทำให้ผู้เสียหายกลุ่มเยาวชนหญิงตั้งข้อหา บริษัทแม่ X และสาขา xAI ว่าส่งเสริมเครื่องมือ “nudify” ที่เป็นอันตรายต่อเด็กและช่วยปกปิดพฤติกรรมของผู้กระทำผิด

Background

กรณีที่ได้รับความสนใจมากที่สุดคือการใช้ Grok เพื่อสร้างภาพลามกของสาวน้อยวัย 11 ปี ผู้เขียนเรื่องราวระบุว่าในเดือนมีนาคมที่ผ่านมา พ่อเลี้ยงของเด็กได้ฆ่าตัวตายหลังจากเจ้าหน้าที่ตำรวจตรวจพบว่าตนเองได้อัปโหลดรูปถ่ายเดียวของหลานสาวแล้วใช้โมเดล AI เพื่อสร้าง 7,000 ภาพที่มีเนื้อหาลามกและบังคับให้ภาพแสดงถึงการกระทำทางเพศแบบ incest และ rape โดยไม่มีสัญญาณเตือนใด ๆ จากระบบ

เหตุการณ์นี้เป็นส่วนหนึ่งของคดีฟ้องเรียกร้องชั้นใหญ่ (class action) ที่ได้ขยายคำร้องเพิ่มเติมเพื่อรวมข้อกล่าวหาว่า xAI ไม่ได้จัดตั้งมาตรการป้องกันที่เพียงพอต่อการผลิตและเผยแพร่ CSAM (Child Sexual Abuse Material) ผ่านเทคโนโลยีของตน

ตามรายงานของ *Ars Technica* ผู้เสียหายหญิงหลายคนยังกล่าวหา บริษัท X และ xAI ว่า “ทำให้ผู้ล่อลวงเด็กมีช่องทางใช้ AI เพื่อสร้างภาพลามกโดยไม่ถูกตรวจจับ” ซึ่งเป็นการขัดขวางการสืบสวนของตำรวจในหลายกรณี

Lawsuit Details

คำฟ้องที่แก้ไขเมื่อเร็ว ๆ นี้ได้ระบุว่า ผู้ต้องหาที่ทำการผลิตภาพดังกล่าวใช้ Grok เพื่อ “nudify” ภาพถ่ายเดิมโดยไม่ต้องอาศัยข้อมูลเพิ่มเติม ซึ่งโมเดลสามารถสร้างฉากสมมติหลายพันฉากจากจุดเริ่มต้นเดียว

ข้อกล่าวหาเพิ่มเติมเน้นว่าระบบความปลอดภัยของ xAI มีการตรวจจับและส่งรายงานเพียงครั้งเดียวเมื่อผู้ใช้พิมพ์คำสั่ง “gang rape” ระบบนั้นได้สร้าง CyberTip ไปยังศูนย์ข้อมูลเด็กหายและถูกล่วงละเมิด (NCMEC) ทำให้ตำรวจได้รับแจ้ง

แม้จะมีการแจ้งเตือนดังกล่าว แต่ตามที่คดีระบุ การตรวจจับของระบบไม่ได้ทำงานต่อเนื่องหรือครอบคลุมคำสั่งอื่น ๆ ที่อาจสร้างภาพลามกได้โดยตรง

ข้อเรียกร้องยังรวมถึงการขอให้ศาลสั่งให้ xAI ปรับปรุงและเปิดเผยแนวทางการควบคุมเนื้อหา AI อย่างโปร่งใส รวมทั้งชดเชยค่าเสียหายต่อผู้ที่ได้รับผลกระทบ

Technical Mechanism of Grok's Nudify Tool

• Grok ทำงานบนโมเดลภาษาขนาดใหญ่ (LLM) ที่ฝึกด้วยข้อมูลภาพและข้อความหลากหลาย
• ระบบ “nudify” ใช้เทคนิคการสังเคราะห์ภาพจาก prompt เพื่อแปลงรูปถ่ายธรรมดาให้กลายเป็นฉากที่มีเนื้อหาลามกโดยอัตโนมัติ
• การไม่มีตัวกรองหรือฟิลเตอร์ความเสี่ยงในขั้นตอนต้นทำให้ผู้ใช้สามารถส่งคำสั่งเชิงลึก (เช่น “incest” หรือ “rape”) ไปยังโมเดลได้โดยไม่ถูกบล็อก

การออกแบบนี้หมายถึงว่า แม้จะมีระบบตรวจจับภายหลังที่ตอบสนองต่อบางคำสั่งเฉพาะ เช่น “gang rape” แต่ไม่ได้ครอบคลุมทั้งหมด ทำให้ Grok สามารถผลิตภาพ CSAM จำนวนมหาศาลจากข้อมูลต้นเพียงหนึ่งรูป

ตามที่บริษัทได้อธิบายไว้ในเอกสารด้านเทคนิคของตน ระบบตรวจจับโดยอัตโนมัติจะทำงานบน “ระดับความเสี่ยง” ที่กำหนดล่วงหน้า ซึ่งกรณีนี้แสดงให้เห็นว่าการตั้งค่าระดับความเสี่ยงนั้นยังไม่เพียงพอ

Response from xAI and Safety Measures

ตัวแทนของ xAI ยืนยันว่าได้มีการปรับปรุงระบบ “child safety” อย่างต่อเนื่องหลังจากเหตุการณ์ดังกล่าว และระบุว่าการแจ้งเตือนที่ส่งไปยัง NCMEC นั้นเป็นผลมาจากกระบวนการตรวจจับอัตโนมัติของโมเดลเมื่อพบคำสั่งที่เข้าข่ายรุนแรง

อย่างไรก็ตาม คดีฟ้องร้องชี้ให้เห็นว่ามาตรการเหล่านี้ถูกเปิดใช้หลังจากเหตุการณ์สำคัญเกิดขึ้นแล้ว ซึ่งทำให้ผู้เสียหายและนักกฎหมายตั้งคำถามเกี่ยวกับความรับผิดชอบต่อการป้องกัน CSAM ก่อนที่ระบบจะทำงาน

ตามรายงานของ *Ars Technica* บริษัทได้กล่าวว่าจะเพิ่ม “layered safety checks” และพัฒนาการตรวจจับแบบเรียลไทม์ในทุก prompt ที่อาจนำไปสู่การสร้างเนื้อหาละเมิดเด็ก แต่รายละเอียดเชิงเทคนิคยังไม่ได้เปิดเผยต่อสาธารณะ

Legal and Policy Implications

กรณีนี้ส่งผลกระทบต่อแนวนโยบายการกำกับดูแล AI ระดับโลก โดยเฉพาะในส่วนของกฎหมายที่เกี่ยวข้องกับ CSAM และความรับผิดชอบของผู้ให้บริการแพลตฟอร์ม AI

• กฎหมายสหรัฐ ที่กำหนดให้บริษัทเทคโนโลยีต้องรายงานกิจกรรมที่อาจเป็น CSAM ต่อ NCMEC อย่างทันที
• การตีความว่าผู้ให้บริการ AI ควรมีระบบตรวจจับและบล็อกเนื้อหาเช่นนี้ตั้งแต่ขั้นตอนการออกแบบหรือไม่ ยังคงเป็นประเด็นถกเถียงในศาล

นอกจากนี้ ศาลอาจพิจารณาให้ xAI ต้องรับผิดชอบต่อความเสียหายที่เกิดจากการขาดการป้องกันที่เพียงพอ ทั้งในแง่ของค่าเสียหายทางจิตใจและค่าชดเชยต่อผู้ร้องเรียน ซึ่งอาจเป็นมาตรฐานใหม่สำหรับบริษัท AI ทุกแห่ง

Summary

คดีฟ้องร้องที่ขยายเพิ่มเมื่อวันอังคารนี้เปิดเผยว่าผู้ใช้ Grok สามารถสร้างภาพลามกเด็กจำนวนหลายพันรูปโดยไม่มีการตรวจจับอัตโนมัติจนกระทั่งคำสั่ง “gang rape” ถูกส่งไปยัง NCMEC บริษัท xAI จึงต้องเผชิญกับข้อเรียกร้องให้ปรับระบบความปลอดภัยและรับผิดชอบต่อผลกระทบที่เกิดขึ้น.