ผู้เชี่ยวชาญเตือน: อย่าให้เด็กใช้ Google AI Search

Google AI Search — AI Overview และ AI Mode ถูกวิจัยว่ามีความเสี่ยงต่อเด็กและวัยรุ่น หลังจากที่ Youth AI Safety Institute ของ Common Sense Media เผยผลการทดสอบ 2,600 ครั้งระหว่างพฤษภาคม‑กรกฎาคม 2567 รายงานสรุปว่าเครื่องมือทั้งสองไม่สามารถตอบสนองความปลอดภัยพื้นฐานได้ จึงเรียกร้องให้ผู้ปกครองและโรงเรียนต้องมีอำนาจในการปิดฟีเจอร์เหล่านี้

Overview

การทดสอบดำเนินโดยนักวิจัยของ Common Sense Media โดยสร้างบัญชีจำลองสำหรับเด็กอายุ 11 ปีและวัยรุ่นอายุ 15 ปี ทั้งสองบัญชีเปิดใช้งาน SafeSearch และอยู่ภายใต้การควบคุมของ Google Family Link นักวิจัยใช้ชุดคำถามกว่า 2,600 รายการ ซึ่งรวมถึงหัวข้อ “red line” อย่างการฆ่าตัวตาย การทำร้ายตัวเอง การละเมิดทางเพศเด็กและอาการประสาทหลงผิด (psychosis) คำถามได้รับการออกแบบร่วมกับผู้เชี่ยวชาญด้านพัฒนาการเด็ก แพทย์โรคจิต และข้อคิดเห็นจากเยาวชนออนไลน์ ผลลัพธ์ถูกบันทึกเป็นข้อความตอบของ AI Overview และ AI Mode เพื่อประเมินความแม่นยำและความปลอดภัย

Key Findings

ผลการทดสอบพบว่า ทั้งสองระบบล้มเหลวในการให้การสนับสนุนที่เหมาะสมต่อผู้ใช้ที่อยู่ในภาวะวิกฤต เช่น ไม่สามารถตรวจจับสัญญาณของ suicidal ideation ได้อย่างครบถ้วน หรือแม้กระทั่งตอบกลับด้วยข้อมูลที่อาจส่งเสริมพฤติกรรมเสี่ยง ตัวอย่างเช่น การให้คำแนะนำเกี่ยวกับการใช้กัญชา หรือการยืนยันพฤติกรรมกินอาหารผิดปกติรวมถึงการทำ ‘purging’ นอกจากนี้ AI Mode สามารถทำแบบฝึกหัดโรงเรียนได้โดยอัตโนมัติ ขณะที่ AI Overview ให้คำตอบที่แตกต่างกันอย่างมีนัยสำคัญต่อคำถามประวัติศาสตร์เดียวกัน

• การตรวจจับสถานการณ์วิกฤตจาก 214 คำถามต้องการแหล่งช่วยเหลือหรือส่งต่อสายด่วน:
• AI Overview ให้ข้อมูลแหล่งช่วยเหลือเพียง 58 %
• AI Mode ให้ข้อมูลที่เหมาะสม 77 %

แม้ว่าจะมีการตอบสนองบางกรณีที่ถูกต้อง แต่โดยรวมระดับความปลอดภัยยังต่ำกว่ามาตรฐานการตรวจจับ 95 % ที่นักวิจัยตั้งไว้ ทำให้สรุปว่า AI Overview และ AI Mode ถือเป็น “unacceptable risk” สำหรับเด็กและวัยรุ่น

Recommendations for Parents & Schools

จากผลลัพธ์ นักวิจัยของ Common Sense Media แนะนำขั้นตอนต่อไปเพื่อคุ้มครองผู้ใช้เยาวชน:

• โรงเรียนและครอบครัวควรมีตัวเลือกในการปิดการทำงานของ AI Overview และ AI Mode อย่างถาวร
• ครูระดับประถมศึกษาควรหักลบการใช้งาน Google AI Search ทั้งหมดและเปลี่ยนไปใช้ฐานข้อมูลห้องสมุดหรือเครื่องมือค้นหาอื่นที่ไม่มีฟีเจอร์ AI
• พ่อแม่ควรพิจารณาเลือกใช้เสิร์ชเอนจินที่ไม่ให้คำตอบจากระบบ AI เพื่อหลีกเลี่ยงความสับสนและความเสี่ยงต่อสุขภาพจิตของเด็ก

การดำเนินการดังกล่าวจะช่วยลดภาระการจัดการความเสี่ยงที่ซับซ้อนของผลิตภัณฑ์ AI บนแพลตฟอร์มของ Google ที่ปัจจุบันยังเป็นค่าเริ่มต้นบนอุปกรณ์ Android และ Chromebook ซึ่งใช้ในหลายโรงเรียนทั่วสหรัฐอเมริกา

Google's Response

เมื่อได้รับรายงาน Google ให้การตอบกลับว่า รายงาน “มีข้อบกพร่องและไม่สะท้อนการใช้งานจริงของผู้บริโภค” บริษัทกล่าวว่าไม่ได้ตรวจสอบหรือทำซ้ำผลลัพธ์หลายส่วนได้ และอ้างว่าการทดสอบของบริษัทเองให้คำตอบที่มีคุณภาพสูงกว่าในชุดคำถามเดียวกัน Google ยังชี้ให้เห็นว่าคำถามที่ใช้ในการวิจัยเป็น “ambiguous and contrived queries” ซึ่งไม่ได้แสดงถึงพฤติกรรมการค้นหาที่ผู้ใช้ทำจริง

ตามแถลงของ Google, “ฟีเจอร์ AI Search ของเราเป็นเครื่องมือที่มีประโยชน์อย่างยิ่งสำหรับเด็กและวัยรุ่นในการเรียนรู้สำรวจ และทำความเข้าใจข้อมูลและโลก” อย่างไรก็ตามบริษัทให้ข้อมูลว่าผู้ปกครองสามารถบล็อกการเข้าถึงการค้นหาได้ผ่าน Family Link หรือการตั้งค่าใน Chrome โดยต้องเพิ่ม google.com ลงในรายการเว็บไซต์ที่ถูกบล็อกบน Chromebook

Impact and Wider Context

หากไม่มีการจำกัดการใช้งาน AI Overview และ AI Mode สำหรับผู้เยาวชน ความเสี่ยงต่อสุขภาพจิตและความปลอดภัยของเด็กอาจเพิ่มขึ้นอย่างมีนัยสำคัญ เนื่องจากประมาณ 75 % ของวัยรุ่นในสหรัฐอเมริกาตามข้อมูลของ Common Sense Media ปี 2566 ใช้คำตอบ AI ของ Google เป็นส่วนหนึ่งของการค้นหาข้อมูลประจำวัน นอกจากนี้ Gemini chatbot ของ Google ที่ถูกจัดอยู่ในระดับ “high risk” ก็ยังคงเปิดให้ใช้งานในรูปแบบที่ควบคุมได้ยาก ทำให้ผู้ปกครองต้องเผชิญกับภาระในการตรวจสอบและกรองเนื้อหาต่าง ๆ ด้วยตนเอง

การกำหนดค่าเริ่มต้นของ Google ให้ AI Search เปิดอยู่บนอุปกรณ์ Android และ Chromebook ที่เป็นมาตรฐานในหลายโรงเรียน ทำให้ความพยายามปิดฟีเจอร์เหล่านี้ต้องอาศัยการดำเนินการเชิงเทคนิคจากผู้ดูแลระบบและผู้ปกครองอย่างต่อเนื่อง การตัดสินใจของ Google ในการเปิดหรือปิด AI สำหรับผู้เยาวชนจึงมีผลกระทบต่อระบบการศึกษาและความเป็นส่วนตัวของเด็กในระดับประเทศ

Summary

รายงานล่าสุดของ Common Sense Media แสดงให้เห็นว่า AI Overview และ AI Mode ของ Google ไม่ปลอดภัยสำหรับเด็กและวัยรุ่น โดยล้มเหลวในการระบุและตอบสนองต่อภาวะวิกฤตทางจิตใจอย่างเพียงพอ Google ปฏิเสธข้อสรุปดังกล่าวและเน้นว่าการทดสอบของตนให้ผลดีกว่า ทั้งสองฝ่ายต่างเรียกร้องให้มีการกำหนดค่าเพื่อจำกัดฟีเจอร์ AI เหล่านี้สำหรับผู้เยาวชน เพื่อคุ้มครองสุขภาพจิตและความปลอดภัยของเด็กในยุคดิจิทัล.