ChatGPT ให้คำแนะนำเมินอาการสุขภาพ ทำให้ศรัทธาผู้ใช้และบริษัทต้องเผชิญคดีฟ้องร้อง

ChatGPT ให้คำแนะนำให้ผู้ใช้เมินอาการของโรคเสี่ยงชีวิต ทำให้เกิดการฟ้องร้องคดีละเมิดความรับผิดชอบด้านสุขภาพ แม้ว่าผู้บริโภคจะทราบว่า AI ไม่ควรทำหน้าที่เป็นแพทย์แล้ว แต่จำนวนคนที่ขอคำปรึกษาทางการแพทย์จากแชทบอตยังคงเพิ่มขึ้นอย่างต่อเนื่อง สิ่งนี้ส่งสัญญาณเตือนให้ผู้กำกับดูแลและบริษัทเทคโนโลยีต้องเร่งพิจารณามาตรการป้องกันใหม่

Overview

ในช่วงหลายปีที่ผ่านมา การใช้ AI chatbot เพื่อขอคำแนะนำด้านสุขภาพกลายเป็นปรากฏการณ์ระดับโลก Hundreds of millions คนต่อสัปดาห์ได้สอบถามอาการเจ็บป่วยหรือวิธีการรักษาผ่านระบบอย่าง ChatGPT แม้บริษัทผู้พัฒนา OpenAI จะระบุชัดว่าโมเดลไม่ได้ออกแบบมาเพื่อให้บริการทางการแพทย์ แต่ข้อความเตือนเหล่านั้นดูเหมือนจะไม่เป็นอุปสรรคต่อการใช้งานจริงของผู้ใช้หลายคน การกระทำนี้เพิ่มความเสี่ยงต่อการได้รับข้อมูลที่ผิดพลาดและอาจนำไปสู่ผลลัพธ์ร้ายแรงได้

Incident Details

คดีล่าสุดเกี่ยวข้องกับ บาทหลวง ที่ประสบอาการเจ็บหน้าอกอย่างกะทันหันและมีอาการหายใจติดขัด เขาเลือกใช้ ChatGPT เพื่อสอบถามว่าควรทำอย่างไร บนพื้นฐานของข้อมูลที่ป้อนเข้าไป AI แนะนำให้ “ไม่ต้องวิตก” และให้ละเลยอาการเหล่านั้นโดยไม่ได้ระบุความเสี่ยงใด ๆ อย่างชัดเจน ผลจากการตามคำแนะนำคือผู้ใช้พลาดช่วงเวลาที่ควรได้รับการตรวจสอบทางการแพทย์ทันที ทำให้อาการของ pulmonary embolism—ภาวะที่เลือดอุดตันในปอดซึ่งมีอัตราการเสียชีวิตประมาณ **30%—ลุกลามจนถึงขั้นใกล้จะเป็นอันตรายต่อชีวิต

Legal Action

ผู้บังคับบัญชาและครอบครัวของบาทหลวงได้ยื่นฟ้องคดีต่อ OpenAI โดยอ้างว่าบริษัทไม่ได้แจ้งความเสี่ยงที่ชัดเจนเกี่ยวกับการใช้ ChatGPT ในบริบททางการแพทย์ คดีนี้มุ่งเน้นที่ “negligence” หรือความประมาทเลินเล่อในการให้ข้อมูลที่อาจทำให้ผู้ใช้เข้าใจผิด นอกจากนี้ยังมีข้อเรียกร้องให้บริษัทต้องรับผิดชอบค่าเสียหายทั้งหมดรวมถึงค่ารักษาพยาบาลและผลกระทบต่อชีวิตของผู้ป่วย

Safety & Policy Concerns

OpenAI มีคำเตือนในหน้าเว็บไซต์ว่า “ChatGPT ไม่ได้เป็นแพทย์” และแนะนำให้ผู้ใช้ปรึกษาผู้เชี่ยวชาญทางการแพทย์เมื่อมีอาการที่สำคัญ อย่างไรก็ตาม การจัดวางข้อความเตือนเหล่านี้มักอยู่ในส่วนล่างของหน้าต่างสนทนา ซึ่งอาจถูกละเลยโดยผู้ใช้ที่ต้องการคำตอบอย่างเร่งด่วน นอกจากนี้ยังไม่มีระบบตรวจสอบหรือบล็อกอัตโนมัติสำหรับคำถามด้านสุขภาพขั้นวิกฤต ทำให้ความปลอดภัยของข้อมูลเป็นประเด็นที่ต้องได้รับการพิจารณาใหม่จากระดับนโยบายและมาตรฐานอุตสาหกรรม

Industry Impact

คดีนี้อาจส่งผลกระทบต่อการรับรู้ของผู้บริโภคต่อเทคโนโลยี AI โดยเฉพาะในแง่ของความน่าเชื่อถือของโมเดลภาษา การปรับเปลี่ยนผลิตภัณฑ์เพื่อเพิ่มคำเตือนหรือจำกัดฟังก์ชันที่เกี่ยวข้องกับสุขภาพอาจเป็นสิ่งที่หลายบริษัทเทคโนโลยีต้องทำตามเพื่อหลีกเลี่ยงความเสี่ยงทางกฎหมาย อีกทั้งหน่วยงานกำกับดูแลด้านการแพทย์และดิจิทัลอาจเร่งออกมาตรฐานใหม่ เช่น การบังคับให้แชทบอตที่เกี่ยวข้องกับสุขภาพต้องผ่านการรับรองจากองค์กรวิชาชีพ

• จุดเด่นของคดี:
• ผู้ใช้เป็น บาทหลวง ที่มีประวัติสุขภาพไม่สำคัญก่อนหน้า
• AI ให้คำแนะนำ “ละเลยอาการ” โดยไม่มีข้อเตือนความเสี่ยง
• อัตราการเสียชีวิตของ pulmonary embolism อยู่ที่ **30%

Summary

การฟ้องร้องต่อ OpenAI หลังเหตุการณ์บาทหลวงที่ได้รับคำแนะนำให้เมินอาการร้ายแรงจาก ChatGPT แสดงให้เห็นว่าความไม่ชัดเจนในการเตือนความเสี่ยงของ AI ด้านสุขภาพอาจนำไปสู่ผลลัพธ์ที่เป็นอันตรายต่อชีวิต คดีนี้คาดว่าจะกระตุ้นให้ผู้พัฒนาและหน่วยงานกำกับดูแลเร่งปรับมาตรการควบคุมเพื่อปกป้องผู้ใช้จากข้อมูลทางการแพทย์ที่ไม่ปลอดภัย.