คดีฟ้อง AI SAFER ทำให้ผู้ต้องขังผิวดำอยู่ในระดับความเสี่ยงสูงสุดในออนตาริโโอ

การใช้โปรแกรมปัญญาประดิษฐ์ SAFER เพื่อตัดสินระดับความปลอดภัยของผู้ต้องขังในเรือนจำออนตาริโอได้ถูกตั้งข้อสงสัยว่าทำให้คนผิวดำตกอยู่ในเงื่อนไข “สูงสุด” มากกว่าที่ควร ตามรายงานการสอบสวนของ The Breach และคดีฟ้องรวมที่ยื่นต่อรัฐบาลออนตาริโอ ซึ่งเป็นประเด็นสำคัญเพราะระบบ AI ที่อิงข้อมูลย้อนหลังอาจทำให้ความไม่เท่าเทียมเชื้อชาติซ้ำเติมในกระบวนการยุติธรรม

Overview

รายงานของ The Breach ระบุว่าเครื่องมือ **Security Assessment for Evaluating Risk (SAFER) ได้รับการนำไปใช้ตั้งแต่ปี 2021 เพื่อให้คะแนนความเสี่ยงแก่ผู้ต้องขังโดยอ้างอิงจากประวัติการจับกุมและการลงโทษในเรือนจำ ตามข้อมูลของกระทรวงยุติธรรม. การตัดสินนี้กำหนดระดับความปลอดภัยตั้งแต่ “ต่ำ” ไปจนถึง “สูงสุด” ซึ่งมีผลต่อสภาพคุก, การดูแลสุขภาพ และสิทธิการเข้าถึงโอกาสภายในระบบเรือนจำ.

ตามข้อมูลที่นักอาชญาวิทยา Scot Wortley จากมหาวิทยาลัย Toronto วิเคราะห์ พบว่าคนผิวดำซึ่งคิดเป็นประมาณ 5 % ของประชากรออนตาริโอ กลายเป็นผู้ต้องขังในระดับ “สูงสุด” ถึง 27 % ในช่วงปี 2022‑2025. ในขณะเดียวกัน ชาวยุโรป‑อเมริกันซึ่งมีสัดส่วนมากกว่าประชากรโดยรวมกลับถูกจัดอยู่ในระดับนี้น้อยกว่าเมื่อเทียบกับสัดส่วนของพวกเขา.

Tool & Methodology

SAFER ทำงานโดยรวบรวมข้อมูลหลายประเภท เช่น ประวัติการจับกุม, คดีอาญาที่เคยมีส่วนเกี่ยวข้อง, และประวัติการทำผิดระหว่างคุก. ข้อมูลเหล่านี้จะถูกแปลงเป็นคะแนนที่ใช้กำหนดระดับความเสี่ยงของผู้ต้องขังแต่ละคน. ระบบไม่มีการปรับน้ำหนักตามเชื้อชาติหรืออายุโดยตรง แต่เพราะข้อมูลพื้นฐานนั้นมาจากระบบยุติธรรมที่มีประวัติความไม่เท่าเทียมอยู่แล้ว ทำให้ผลลัพธ์อาจสะท้อนอคติเดิมต่อกลุ่มคนสี.

เอกสารฝึกอบรมภายในกระทรวงได้ชี้ว่า “การประเมินเช่น SAFER มีแนวโน้มจะทำให้ผู้ที่เป็นชนชาติพื้นเมืองและคนผิวสีถูกจัดอยู่ในระดับสูงสุด” ซึ่งบ่งบอกว่าผู้บริหารรับรู้ถึงความเสี่ยงของอคติในการใช้โมเดลนี้แล้ว.

Disparities Highlighted

สถิติที่ปรากฏชัดเจนจากการวิเคราะห์ของ Wortley มีดังต่อไปนี้:

• คนผิวดำเป็น 5 % ของประชากรออนตาริโอ แต่มีส่วนร่วมในคุก “ระดับสูงสุด” ถึง 27 % ระหว่างปี 2022‑2025
• ชาวยุโรป‑อเมริกันถูกจัดอยู่ในระดับเดียวกันน้อยกว่าสัดส่วนของพวกเขาในประชากรโดยรวม

การกระจายตัวที่ไม่สมดุลนี้ทำให้เกิดข้อสงสัยว่าโมเดล AI นำเอาความไม่เท่าเทียมจากระบบยุติธรรมก่อนหน้าเข้ามาโดยไม่ได้รับการแก้ไข.

Legal Action & Government Response

บริษัทกฎหมาย Koskie Minsky ยื่นฟ้องรวมต่อรัฐออนตาริโอ โดยอ้างว่ารัฐบาลทราบแล้วว่า SAFER ใช้ข้อมูลประวัติยุติธรรมที่มีการบันทึกความเหลื่อมล้ำของเชื้อชาติและโดยไม่มีมาตรการป้องกันเดียวกับที่จัดให้แก่ผู้ต้องขังชนพื้นเมือง. คดีฟ้องรวมระบุว่าการไม่ได้ปรับใช้แนวนโยบายแก้ไขสำหรับคนผิวดำเป็นการละเมิดหลักการความเท่าเทียม.

กระทรวง Solicitor General ของออนตาริโอและผู้พัฒนาโมเดล Grant Duwe ไม่ตอบสนองต่อคำขอให้ให้ข้อมูลเกี่ยวกับวิธีการทำงานหรือระดับความแม่นยำของระบบ. อย่างไรก็ตาม รายงานจาก Ontario Ombudsman ระบุว่ามีการรับเรื่องร้องเรียนหลายกรณีเกี่ยวกับผลกระทบที่ไม่เป็นธรรมต่อคนผิวดำและชนพื้นเมือง และกำลังอยู่ในขั้นตอนตรวจสอบต่อไป.

Broader Implications

กรณีนี้สะท้อนความเสี่ยงของการใช้ AI ในระบบยุติธรรมโดยไม่มีการตรวจสอบอคติอย่างเข้มข้น. หากเครื่องมือเช่น SAFER ยังคงใช้งานต่อไปโดยไม่ได้รับการแก้ไข อาจทำให้ความไม่เท่าเทียมในสังคมถูกบ่มเพาะและส่งผลกระทบต่อโอกาสของผู้ต้องขังในการได้รับการดูแลที่เป็นธรรม. นักวิชาการหลายคนได้เรียกร้องให้มี “auditing” แบบอิสระและการปรับข้อมูลฝึกเพื่อขจัดอคติเชื้อชาติ.

ในระดับนโยบาย การดำเนินการแก้ไขอาจรวมถึงการเพิ่มมาตรการตรวจสอบผลกระทบต่อกลุ่มผู้ถูกกดขี่, การสร้างกรอบความรับผิดชอบสำหรับผู้พัฒนา AI, และการเปิดเผยข้อมูลที่เกี่ยวข้องเพื่อให้สาธารณะสามารถประเมินได้ว่าเครื่องมือนั้นเป็นธรรมหรือไม่.

Summary

คดีฟ้องรวมต่อออนตาริโอแสดงให้เห็นว่าการใช้ระบบ AI SAFER ในการจัดระดับความปลอดภัยของผู้ต้องขังอาจทำให้คนผิวดำถูกวางไว้ในสภาพ “สูงสุด” อย่างไม่เป็นธรรม. รายงานและข้อมูลจากหลายฝ่ายชี้ให้เห็นถึงความจำเป็นเร่งด่วนในการตรวจสอบและแก้ไขอคติที่ฝังอยู่ในโมเดลเพื่อรักษาหลักการเท่าเทียมของระบบยุติธรรม.