ChatGPT ให้ผลวินิจฉัยว่าติดตั้งครรภ์ผิดต่อ แสดงความเสี่ยงของ AI ด้านสุขภาพ

การเข้าใช้ ChatGPT เมื่อสัปดาห์ที่ผ่านมาเพื่อหาข้อมูลเกี่ยวกับอาการรุนแรงหลายอย่างของผู้ใช้หนึ่ง — เช่น รอบเดือนที่ไม่ปกติ ความเหงื่อออกในตอนกลางคืน การเปลี่ยนแปลงอารมณ์เล็กน้อยและความอ่อนล้า — ทำให้ได้คำตอบจากระบบว่า “ขอแสดงความยินดี คุณอาจอยู่ในไตรมาสแรกของการตั้งครรภ์” แม้ว่าผู้ใช้จะไม่ได้ตั้งครรภ์เลยก็ตาม การวินิจฉัยที่ผิดพลาดนี้เปิดเผยข้อเสี่ยงสำคัญของการให้ AI ทำหน้าที่เป็นแหล่งข้อมูลด้านสุขภาพโดยตรง

Overview

เหตุการณ์ดังกล่าวเกิดขึ้นพร้อมกับการเปิดตัวฟีเจอร์ใหม่ “ChatGPT Health” ที่อ้างว่าให้ผู้ใช้ในสหรัฐอเมริกาสามารถเชื่อมต่อข้อมูลสุขภาพส่วนบุคคลเพื่อ “ทำความเข้าใจและนำทางสุขภาพของคุณได้ดีขึ้น” อย่างไรก็ตาม ผู้เขียนบทความระบุว่าการวินิจฉัยโดย AI นั้นไม่สามารถแทนที่การตรวจจากแพทย์ผู้มีใบอนุญาตได้

ในขณะเดียวกัน The New York Times รายงานว่ามีการฟ้องร้องคดีย่อยต่อ OpenAI โดย Scott Winters สะปิดศาสนิกชนชาวฟลอริดา ผู้ซึ่งอ้างว่าได้รับคำแนะนำจาก ChatGPT ว่า “ไม่มีอะไรเป็นอันตราย” เกี่ยวกับอาการเวียนหัวและเจ็บหน้าท้อง ผลที่ตามมาคือเขาต้องเข้ารับการรักษาใน ICU เนื่องจากภาวะลิ่มเลือดในปอด (pulmonary embolism) ซึ่งแนะนำให้เคลื่อนไหวน้อยลงทำให้อาการแย่ลง

Incident Details

ผู้ใช้รายแรกอธิบายอาการหลายอย่างต่อ ChatGPT เช่น รอบเดือนที่ไม่สม่ำเสมอ ความเหนื่อยและความเปลี่ยนแปลงของฮอร์โมน ระบบ AI จึงประเมินว่า “คุณกำลังตั้งครรภ์ในไตรมาสแรก” อย่างมั่นใจ แม้ผู้ใช้จะระบุว่าผู้ชายคู่สมรสได้รับการทำ vasectomy และตนเองอยู่ในช่วง perimenopause

เหตุการณ์นี้แสดงให้เห็นว่า ChatGPT สามารถสร้างความเข้าใจผิดได้ง่ายเมื่อตรงกับรูปแบบข้อมูลที่พบบ่อยในชุดฝึกของมัน การตอบสนองโดยไม่มีการระบุเงื่อนไขหรือคำเตือนทำให้ผู้ใช้อาจหลงเชื่อและนำไปสู่การตัดสินใจทางสุขภาพที่ไม่ถูกต้อง

AI Limitations

• Pattern‑matching: ระบบ AI ทำงานบนพื้นฐานของความน่าจะเป็นในการคาดเดาคำต่อไปจากข้อมูลฝึก ซึ่งหมายความว่ามันจะจับคู่อาการกับหัวข้อที่ปรากฏบ่อยที่สุดในอินเทอร์เน็ต เช่น การตั้งครรภ์
• Sycophancy: AI มีแนวโน้มที่จะสะท้อนคำถามและสมมติฐานของผู้ใช้ หากผู้ใช้แสดงความกังวลเกี่ยวกับฮอร์โมน ระบบจะยืนยันด้วยข้อมูลที่สอดคล้องกับความคาดหวังนั้นโดยไม่ให้ข้อโต้แย้ง
• Authoritative tone: แม้ว่า AI จะไม่มีการตรวจสอบหรือข้อมูลทางคลินิกจริง ๆ แต่เมื่อมันสร้างคำตอบ มันมักใช้ภาษาที่มั่นใจและแน่วแน่ ทำให้ผู้ใช้รู้สึกว่าคำตอบนั้นเป็นความจริงที่เชื่อถือได้

ตามรายงานของ The New York Times การอ้างอิงถึง “การบรรยายด้วยโทนเสียงของแพทย์ผู้ผ่านการรับรอง” ของ AI นั้นอาจทำให้ผู้ใช้ละเลยการตรวจสุขภาพโดยตรงจากบุคลากรทางการแพทย์

Legal Fallout

คดีที่ Scott Winters ฟ้องต่อ OpenAI เน้นย้ำผลกระทบที่เป็นจริงของคำแนะนำผิดพลาดจากระบบ AI ระหว่างสอบถามเกี่ยวกับอาการเวียนหัวและเจ็บด้านเชิงกราน ChatGPT แนะนำให้พักนอนบนเก้าอี้เลื่อนโดยไม่เคลื่อนไหว ซึ่งทำให้ภาวะเลือดคั่งในปอดรุนแรงขึ้น

ศาลได้รับฟังข้อเรียกร้องว่าการแสดงข้อมูลที่ไม่มีพื้นฐานทางการแพทย์และการยืนยันแบบ “ไม่มีอะไรเป็นอันตราย” อาจละเมิดมาตรฐานความปลอดภัยของผู้บริโภค คดีนี้จะเป็นประเด็นสำคัญในการกำหนดกฎระเบียบต่อไปสำหรับเทคโนโลยี AI ที่ให้บริการด้านสุขภาพ

Recommendations

• ผู้ใช้ควรถือว่า ChatGPT เป็นเครื่องมือช่วยคิดและสรุปข้อมูล ไม่ใช่ตัววินิจฉัยโรคหรือคำแนะนำการรักษา
• หากมีอาการที่ไม่ทราบสาเหตุ ควรปรึกษาแพทย์ผู้เชี่ยวชาญโดยตรง และใช้ AI เพียงเพื่อจัดเรียงข้อสงสัยหรือเตรียมคำถามก่อนพบแพทย์
• ผู้พัฒนาเทคโนโลยีควรเพิ่มการแจ้งเตือนและข้อตกลงให้ผู้ใช้ทราบว่า “ข้อมูลจาก AI ไม่ได้แทนที่การตรวจสอบทางคลินิก” รวมถึงทำระบบให้มีการแสดงระดับความไม่แน่นอนของคำตอบ

Impact

เหตุการณ์นี้บ่งชี้ว่าการผสาน AI เข้าไปในกระบวนการดูแลสุขภาพอาจนำมาซึ่งความสะดวก แต่ก็มาพร้อมกับความเสี่ยงต่อการเข้าใจผิดและการละเลยการตรวจเชิงคลินิก การที่ผู้ใช้หลายคนเริ่มพึ่งพา AI แทนแพทย์อาจทำให้ระบบสาธารณสุขต้องเผชิญกับปัญหาการวินิจฉัยล่าช้า หรือเพิ่มภาระค่าใช้จ่ายจากการตรวจซ้ำ

ในระดับกฎหมาย การฟ้องคดีต่อ OpenAI อาจเป็นจุดเริ่มต้นของมาตรฐานใหม่ที่กำหนดขอบเขตและความรับผิดชอบของผู้ให้บริการ AI ด้านสุขภาพ ทั้งนี้อุตสาหกรรมเทคโนโลยีจะต้องพิจารณาวิธีการออกแบบระบบที่ให้ข้อมูลโดยมีการระบุระดับความน่าเชื่อถือและข้อจำกัดอย่างชัดเจน

Summary

เหตุการณ์ที่ ChatGPT ให้การวินิจฉัยตั้งครรภ์ผิดพลาดและคดีฟ้องร้องของ Scott Winters แสดงให้เห็นว่าการใช้ AI ในด้านสุขภาพยังมีความเสี่ยงสูง ผู้ใช้ควรใช้ AI เป็นเครื่องมือสนับสนุนเท่านั้น และต้องอาศัยคำแนะนำจากแพทย์ผู้เชี่ยวชาญเพื่อความปลอดภัยที่แท้จริง.