MIT เผย 'Attribution Decay' โมเดล AI ขนาดใหญ่สูญเสียแหล่งอ้างอิง

Lead paragraph นักวิจัยจาก MIT พบว่าการเพิ่มขนาดของโมเดล AI ทำให้ความสามารถในการอ้างอิงแหล่งข้อมูลฝึกฝนลดลงอย่างชัดเจน ซึ่งอาจทำให้การกำกับดูแลและการฟ้องร้องเรื่องลิขสิทธิ์ซับซ้อนยิ่งขึ้น ผลการวิจัยที่ตีพิมพ์ใน *Nature Communications* นี้นำเสนอแนวคิดใหม่ว่า “attribution decay” หรือความสลายของความสามารถอ้างอิงแหล่งข้อมูลเป็นผลโดยตรงจากการฝึกบนชุดข้อมูลขนาดมหาศาล

Overview

โมเดลประเภท diffusion อย่าง Midjourney และ Stable Diffusion ได้รับความนิยมอย่างกว้างขวางในการสร้างภาพ เสียงและวิดีโอที่มีคุณภาพสูง นักวิจัยสองคนจากห้องปฏิบัติการคอมพิวเตอร์และปัญญาประดิษฐ์ของ MIT (CSAIL) ได้แก่ Zheng Dai และ David K. Gifford จึงตั้งคำถามว่าผลลัพธ์ที่โมเดลสร้างมานั้นสามารถอ้างอิงกลับไปยังข้อมูลฝึกที่เป็นต้นฉบับได้หรือไม่

ผลการศึกษาที่เรียกว่า “Outputs of Generative Diffusion Models are Often Unattributable” แสดงให้เห็นว่าเมื่อโมเดลถูกฝึกด้วยข้อมูลจำนวนมาก ความสัมพันธ์ระหว่างผลลัพธ์กับแหล่งข้อมูลเริ่มหายไปอย่างช้า ๆ การอ้างอิงนี้สำคัญต่อการทำความเข้าใจวิธีการทำงานของ AI รวมถึงการประยุกต์ใช้ในด้าน machine unlearning, data poisoning, model interpretability, fairness และ privacy

Methodology & Findings

เพื่อทดสอบความสามารถในการอ้างอิง นักวิจัยได้ใช้กระบวนการ ablation ซึ่งหมายถึงการลบข้อมูลฝึกบางส่วนออกจากชุดข้อมูลขนาดใหญ่ก่อนทำการฝึกโมเดลใหม่ ตัวอย่างเช่น การเอาภาพของ Mona Lisa หรือผลงานทั้งหมดของ Leonardo da Vinci ออกจากฐานข้อมูล

ผลที่ได้แสดงให้เห็นว่าแม้จะลบข้อมูลเหล่านั้นออก โมเดลขนาดใหญ่ก็ยังสามารถสร้างภาพหรือสไตล์ที่คล้ายคลึงกับสิ่งที่ถูกลบไปได้อย่างเต็มรูปแบบ จากการทดลองนี้ผู้เขียนสรุปว่ามีปรากฏการณ์ attribution decay เกิดขึ้นเมื่อข้อมูลฝึกมีจำนวนมากพอ

• โมเดลขนาดใหญ่: ความสามารถในการอ้างอิงแหล่งข้อมูลต่ำที่สุด
• โมเดลขนาดกลาง‑เล็ก: สามารถระบุตำแหน่งของข้อมูลต้นทางได้บ้าง
• การลบข้อมูลสำคัญ (เช่น ผลงานศิลปิน) ไม่ทำให้ผลลัพธ์หายไป

Legal Context

การใช้ diffusion models ในเชิงพาณิชย์กำลังเผชิญกับคดีฟ้องร้องหลายกรณี ตัวอย่างที่เป็นที่รู้จักคือคดี Andersen et al. v. Stability AI Ltd (2023) ที่ผู้ร้องเรียนเรียกร้องให้ Midjourney เปิดเผยชุดข้อมูลฝึกเพื่อพิสูจน์ว่ามีการ “scraping” ภาพของศิลปินโดยเจตนานำไปใช้ทำโมเดล

คดีนี้สะท้อนความกังวลเกี่ยวกับ fair use และสิทธิ์ในการได้รับค่าตอบแทนจากผลงานที่ถูกนำมาใช้เป็นข้อมูลฝึก หากผลลัพธ์ไม่สามารถอ้างอิงกลับไปยังชิ้นงานต้นฉบับได้ การพิจารณาว่าเป็นการคัดลอกหรือเป็นการสร้างสรรค์ใหม่จึงยากขึ้นอย่างมาก

Implications for Regulation

ผลการวิจัยแสดงให้เห็นว่า ขนาดของโมเดล สามารถใช้เป็นกลยุทธ์หลีกเลี่ยงความรับผิดชอบได้ บริษัทอาจเพิ่มพารามิเตอร์เพื่อทำให้การอ้างอิงข้อมูลฝึกเป็นไปไม่ได้ ซึ่งหมายถึงผู้กำกับดูแลต้องหาวิธีใหม่ในการประเมินการละเมิดลิขสิทธิ์

ตามที่ David Gifford อธิบายในแถลงข่าวของ MIT การไม่สามารถระบุแหล่งที่มาของผลลัพธ์ทำให้เกิดคำถามหลายด้าน ได้แก่ ความเป็นไปได้ที่จะถือผลงาน AI เป็น novel works ที่มีลิขสิทธิ์ของตนเอง และวิธีการชดเชยศิลปินที่อาจได้รับผลกระทบโดยไม่ได้รับการคุ้มครอง

• การกำหนดมาตรฐาน attribution testing อาจไม่เพียงพอ
• จำเป็นต้องใช้เครื่องมือวิเคราะห์ความคล้ายคลึงทางสถิติหรือแนวทางอื่น ๆ ในศาล
• ผู้บริหารบริษัท AI ควรเตรียมการเปิดเผยข้อมูลฝึกอย่างโปร่งใสเพื่อรองรับข้อกำหนดด้านกฎหมายที่อาจเปลี่ยนแปลง

Expert Commentary

James Grimmelmann, ศาสตราจารย์ด้านกฎหมายจาก Cornell Law School, ให้ความเห็นว่า “ถ้า attribution ทำงานได้ มันจะช่วยให้เราตัดสินใจว่าการคล้ายคลึงกันเกิดจากการคัดลอกหรือเป็นเพียงบังเอิญ” แต่ผลวิจัยของ MIT แสดงให้เห็นว่าในโมเดลที่ซับซ้อน การอ้างอิงอาจล้มเหลวอย่างต่อเนื่อง จึงต้องพึ่งพาวิธีการอื่นในการประเมินความละเมิด

Grimmelmann ยังชี้ว่าคดีด้านภาพจาก AI ยังคงอยู่ในขั้นตอนทดลอง ศาลสหรัฐและเยอรมนีเคยพิจารณาเรื่องโมเดลดนตรีที่จำลองทำนองได้ แต่ยังไม่มีคดีศาลที่กำหนดมาตรฐานการเปรียบเทียบสำหรับ image generation models อย่างเป็นระบบ

Future Directions

ผลการวิจัยเปิดเผยช่องว่างสำคัญในการออกแบบและตรวจสอบโมเดล AI ในอนาคต นักพัฒนาอาจต้องมองหาแนวทางใหม่เพื่อให้ข้อมูลฝึกมี traceability แม้ในชุดข้อมูลขนาดใหญ่ ตัวอย่างเช่น การฝัง metadata หรือการใช้เทคนิค differential privacy เพื่อรักษาความเป็นส่วนตัวของแหล่งข้อมูลต้นฉบับ

นอกจากนี้ หน่วยงานกำกับดูแลอาจพิจารณาออกแนวปฏิบัติที่เน้นการตรวจสอบ training data provenance ตั้งแต่ขั้นตอนรวบรวมจนถึงการปล่อยโมเดลสู่ตลาด การทำเช่นนี้จะช่วยลดความไม่แน่นอนทางกฎหมายและเพิ่มระดับความโปร่งใสให้กับอุตสาหกรรม AI

Summary

งานวิจัยของ MIT แสดงว่าเมื่อ diffusion models มีขนาดใหญ่ ความสามารถในการอ้างอิงแหล่งข้อมูลฝึกลดลงอย่างมีนัยสำคัญ ส่งผลให้การกำกับดูแลและข้อพิพาทลิขสิทธิ์ซับซ้อนยิ่งขึ้น ผลลัพธ์นี้บ่งชี้ว่าการสร้างมาตรฐานใหม่สำหรับการตรวจสอบโมเดล AI จะเป็นเรื่องเร่งด่วนในอนาคต.