Margaret Atwood เตือน AI ปัญหา ‘ขยะเข้า ขยะออก’ หลังทดลอง Claude ของ Anthropic

Margaret Atwood ระบุว่า “ปัญหาของ AI คือ ขยะเข้า ขยะออก” หลังจากทดลองใช้แชทบอทของ Anthropic เพียงครั้งเดียวและพบว่าข้อมูลที่ได้ผิดพลาดอย่างชัดเจน

Overview

มาร์กาเร็ต แอตวูด นักเขียนชื่อดังของ The Handmaid’s Tale และ The Blind Assassin ให้สัมภาษณ์ในงาน Babell Literary and Cultural Festival ที่เมืองพอร์ตูเก้ ประเทศโปรตุเกส โดยหัวข้อที่ได้รับการถามถึงส่วนใหญ่เป็นเรื่องของปัญญาประดิษฐ์ (AI) แอตวูดไม่ได้เกรงใจในการแสดงความคิดเห็นของเธอเกี่ยวกับเทคโนโลยีเหล่านี้

ในระหว่างการสัมภาษณ์ แอตวูดบอกว่าเธอได้ลองใช้แชทบอท Claude ของบริษัท Anthropic เพียงครั้งเดียวเพื่อค้นหาข้อมูลเกี่ยวกับซีรีส์สืบสวนอังกฤษ Father Brown ผลลัพธ์ที่ได้ไม่เพียงแต่ผิดพลาดแต่ยังเป็นการบิดเบือนข้อมูลอย่างชัดเจน ซึ่งทำให้เธอสรุปว่าปัญหาหลักของ AI คือ “ขยะเข้า ขยะออก”

Key Details

แอตวูดอธิบายว่า Claude ให้คำตอบที่ไม่ตรงกับความเป็นจริง หรือพูดตามตรงว่า “โกหก” แต่อย่างไรก็ตามบอทไม่สามารถรับรู้ว่าตนเองกำลังบิดเบือนข้อมูล เนื่องจากมันเป็น large language model ที่ทำงานโดยอาศัยการสังเคราะห์จากข้อมูลที่ได้รับการฝึกฝนมาก่อน ไม่ได้มีสติหรือความเข้าใจในความจริงเหมือนมนุษย์

การบิดเบือนเช่นนี้ตามที่แอตวูดชี้ให้เห็นมักเกิดจากข้อมูลต้นทางที่ไม่ถูกต้องหรือการตีความที่คลาดเคลื่อนของโมเดล การที่ AI ไม่สามารถตรวจสอบความถูกต้องของข้อมูลได้เอง ทำให้ผู้ใช้ต้องพึ่งพาการตรวจสอบจากมนุษย์เสมอ

Atwood’s Experience

แอตวูดบอกว่าเธอใช้ Claude เพียงครั้งเดียวเพื่อสอบถามว่า “Father Brown มีตอนแรกกี่ตอน?” ผลลัพธ์ที่ได้ไม่ตรงกับข้อมูลจริงของซีรีส์ ซึ่งมีทั้งหมด 81 ตอน (ข้อมูลจากฐานข้อมูลสาธารณะ) แต่ Claude ให้ข้อมูลที่ต่างออกไปอย่างชัดเจน

แอตวูดกล่าวว่า “มันตอบผิด หรือโกหก แล้วมันก็ไม่รู้ว่ามันกำลังโกหกเพราะมันไม่ใช่มนุษย์” ความคิดเห็นนี้สะท้อนความกังวลของผู้ใช้งานหลายคนที่อาจนำข้อมูลที่ได้จาก AI ไปใช้โดยไม่ตรวจสอบ

AI Limitations

การที่โมเดลเช่น Claude ทำการ “สรุป” หรือ “สร้าง” ข้อมูลโดยอิงจากสถิติของคำที่เคยเจอ ทำให้มันอาจสร้างข้อความที่ฟังดูสมเหตุสมผลแต่จริง ๆ แล้วไม่มีฐานข้อมูลสนับสนุน การไม่มีระบบ “ความจริง” หรือ “การตรวจสอบข้อเท็จจริง” ภายในโมเดลทำให้เกิดความเสี่ยงต่อการเผยแพร่ข้อมูลผิด

นักวิจัยด้าน AI ย้ำว่าปัญหา “garbage in, garbage out” ยังคงเป็นข้อจำกัดสำคัญของระบบที่พึ่งพาข้อมูลฝึกฝนที่อาจมีอคติหรือความคลาดเคลื่อน หากไม่มีการคัดกรองและตรวจสอบข้อมูลก่อนป้อนเข้าสู่โมเดล ผลลัพธ์ที่ได้ก็จะมีคุณภาพไม่ดีเช่นกัน

Industry Reaction

บริษัท Anthropic ไม่ได้ให้ความเห็นโดยตรงต่อการวิพากษ์วิจารณ์ของแอตวูดในบทสัมภาษณ์นี้ อย่างไรก็ตาม บริษัทได้เผยแพร่เอกสารว่า Claude ได้รับการออกแบบให้มี “ระบบความปลอดภัย” ที่ลดการให้ข้อมูลที่เป็นอันตรายหรือเท็จลง แต่อย่างไรก็ตามระบบเหล่านี้ยังไม่ได้รับการรับประกันว่าจะแก้ปัญหาความไม่แม่นยำทั้งหมดได้

ในวงการเทคโนโลยีหลายองค์กรกำลังเร่งพัฒนาเครื่องมือ “Fact‑checking” ที่ทำงานร่วมกับโมเดลภาษาขนาดใหญ่ เพื่อตรวจสอบและกรองข้อมูลก่อนนำเสนอให้ผู้ใช้ ซึ่งอาจเป็นแนวทางหนึ่งในการลดผลกระทบของข้อมูลผิดพลาด

Impact

คำเตือนของแอตวูดทำให้สาธารณชนและผู้พัฒนา AI ต้องพิจารณาถึงความรับผิดชอบในการให้ข้อมูลที่ถูกต้อง การใช้ AI ในการค้นหาข้อมูลหรือทำงานเชิงสร้างสรรค์ควรมีการตรวจสอบโดยมนุษย์เสมอ เพื่อป้องกันการกระจายของข้อมูลที่ผิด

ในระยะยาว การยอมรับข้อจำกัดของ large language model จะกระตุ้นให้มีการพัฒนามาตรฐานใหม่สำหรับการประเมินความแม่นยำของ AI รวมถึงการกำหนดแนวทางการใช้งานที่ปลอดภัยและเชื่อถือได้มากขึ้น

Summary

มาร์กาเร็ต แอตวูดชี้ให้เห็นว่าปัญหาหลักของ AI คือการให้ข้อมูลที่ไม่ถูกต้องเมื่อข้อมูลต้นทางมีความบกพร่องหรือโมเดลไม่สามารถตรวจสอบความจริงได้ เธอเน้นว่าผู้ใช้ต้องมีการตรวจสอบข้อมูลอย่างละเอียดก่อนนำไปใช้ เพื่อหลีกเลี่ยงผลกระทบจาก “ขยะเข้า ขยะออก” ของระบบ AI.