เชื่อมต่อเอเจนต์ AI กับบริการภายนอกเพิ่มความเสี่ยงด้านข้อมูลอย่างมหาศาล

การเชื่อมต่อเอเจนต์ AI เข้ากับบริการภายนอกผ่าน “คอนเนกเตอร์” กำลังเพิ่มความเสี่ยงของข้อมูลองค์กรอย่างมหาศาล บริษัทด้านความปลอดภัย AI อย่าง PromptArmor พบว่าการเปลี่ยนแปลงของคอนเนกเตอร์ในช่วงหกสัปดาห์ล่าสุดทำให้สมมติฐานด้านการรักษาความปลอดภัยหลายประการอาจไม่ถูกต้องแล้ว เหตุการณ์นี้เป็นสัญญาณเตือนต่อผู้ประกอบการที่กำลังพิจารณานำ AI เข้ามาใช้ในกระบวนการทำงาน

Overview

คอนเนกเตอร์คือส่วนเชื่อมโยงระหว่างโมเดล AI เช่น ChatGPT ของ OpenAI หรือ Claude ของ Anthropic กับบริการของบุคคลที่สาม เช่น Gmail, Slack หรือ Zoom การใช้งานเหล่านี้ช่วยให้เอเจนต์ AI สามารถดึงข้อมูลหรือทำการกระทำต่าง ๆ ในนามผู้ใช้ได้โดยตรง อย่างไรก็ตาม ความสามารถในการเข้าถึง “lethal trifecta” – ข้อมูลส่วนบุคคล, เนื้อหาที่ไม่เชื่อถือได้, และเส้นทางการสื่อสารภายนอก – ทำให้ศูนย์กลางความเสี่ยงขยายออกไปอย่างรวดเร็ว

Connector Landscape & Changes

จากการวิเคราะห์ของ PromptArmor คอนเนกเตอร์ที่รองรับ Claude หรือ ChatGPT มีจำนวนทั้งหมด 2,517 ตัว แต่ในช่วงระยะเวลาเพียงหกสัปดาห์ (ตั้งแต่กลางเดือนพฤษภาคมจนถึงปลายเดือนมิถุนายน) มีคอนเนกเตอร์เปลี่ยนแปลงไปแล้ว 931 รายการ หรือร้อยละ 37 ของทั้งหมด การอัปเดตเหล่านี้รวมถึงการเพิ่มเครื่องมือใหม่และการปรับคำอธิบายของเครื่องมือที่มีอยู่ ทำให้ความสามารถที่ระบุไว้ก่อนหน้านั้นอาจไม่สอดคล้องกับสถานะปัจจุบัน

• เพิ่ม 1,686 เครื่องมือใหม่ลงในคอนเนกเตอร์ที่ใช้งานแล้ว
• ปรับปรุงคำอธิบายของเครื่องมือ 1,127 รายการ
• คอนเนกเตอร์บางตัวเพิ่มขอบเขตการเขียนและความสามารถทำลายข้อมูล

Security Findings

การตรวจสอบพบว่าคอนเนกเตอร์หลายตัวทำหน้าที่คล้ายกับเว็บไซต์ที่ฝังสคริปต์ติดตามจำนวนมาก โดยส่งข้อมูลต่อให้บริการ AI อื่น ๆ ด้วย ตัวอย่างเช่น จาก 7,517 เครื่องมือที่ใช้ในคอนเนกเตอร์ของ Claude มี 189 คอนเนกเตอร์ (ประมาณ 2 ใน 5) ที่มีแนวโน้มจะเรียกใช้บริการ AI ภายนอก การทำเช่นนี้อาจทำให้ข้อมูลที่ส่งผ่านคอนเนกเตอร์ถูกนำไปประมวลผลโดยผู้ให้บริการย่อยหลายสิบรายทั่วโลก

Real‑World Example

กรณีของ Dropbox connector แสดงให้เห็นถึงการเพิ่มความเสี่ยงอย่างชัดเจน เมื่อเริ่มต้นการศึกษา คอนเนกเตอร์นี้เปิดเผยเพียง 8 เครื่องมือ แต่ภายหลังสิ้นสุดช่วงสังเกตจำนวนเครื่องมือลดลงเป็น 24 ตัว รวมถึงเครื่องมือที่สามารถเขียนข้อมูลได้เพิ่มจาก 3 เป็น 10 และมีเครื่องมือที่อาจทำลายข้อมูลเพิ่มขึ้นจากศูนย์เป็น 4 นอกจากนี้ ขอบเขตการให้สิทธิ์ (permission scopes) ถูกปรับเปลี่ยนและสคริปต์คำสั่งสำหรับโมเดลก็ถูกแทรกเข้าไปด้วย

ในอีกกรณีหนึ่ง หากเอเจนต์ Claude เรียกใช้คอนเนกเตอร์ของ Zoom เพื่อค้นหาการประชุมโดยใส่ข้อความที่มีข้อมูลสำคัญ Zoom AI อาจส่งต่อข้อมูลนั้นให้กับผู้ประมวลผลย่อย (sub‑processors) มากกว่า 10 ราย ซึ่งอาจอยู่ในประเทศต่าง ๆ และทำงานบนโมเดลหลายประเภท การตรวจสอบของ PromptArmor ชี้ว่าองค์กรหลายแห่งไม่ได้รับรู้ถึงการเรียกใช้บริการ AI ภายนอกเหล่านี้เมื่อตัดสินใจอนุมัติคอนเนกเตอร์

Vendor Responses & Limitations

Anthropic ยอมรับว่าการควบคุมความปลอดภัยของคอนเนกเตอร์ไม่สามารถครอบคลุมการประมวลผลข้อมูลโดยบุคคลที่สามได้อย่างเต็มที่ “บริการที่เชื่อมต่อจะทำการประมวลผลข้อมูลบนโครงสร้างพื้นฐานของตนเอง ภายใต้เงื่อนไขของผู้ให้บริการซึ่งอาจอยู่นอกสหรัฐอเมริกา” บริษัทระบุไว้ เรียกว่าการตั้งค่าเพื่อจำกัดการรันโมเดลที่สหรัฐฯ (เช่น แผน Enterprise) ไม่ได้เปลี่ยนแปลงสถานที่ทำงานของบริการภายนอก

ผู้ร่วมก่อตั้ง PromptArmor ชูห์กรณีว่า “คอนเนกเตอร์ขยายพื้นที่โจมตีอย่างมหาศาล” โดยการนำข้อมูลที่ละเอียดอ่อน, แหล่งข้อมูลที่ไม่เชื่อถือได้, และการกระทำที่สำคัญเข้ามาในระบบเดียวกัน ทำให้รัศมีของการระเบิด (blast radius) ของการโจมตีเพิ่มขึ้นเป็นหลายเท่า นอกจากนี้ การผสานรวมเพียงคอนเนกเตอร์อีเมลก็สามารถเปิดช่องทางให้นักแฮ็กดึงข้อมูลทางกฎหมายและการเงินได้แล้ว

Implications for Enterprises

องค์กรที่กำลังพิจารณาใช้ AI ผ่านคอนเนกเตอร์ต้องทบทวนกระบวนการตรวจสอบอย่างละเอียด ไม่เพียงแต่ประเมินความเสี่ยงของโมเดล AI แต่ยังต้องตรวจสอบว่า ผู้ให้บริการคอนเนกเตอร์ มีการเรียกใช้บริการ AI ภายนอกหรือไม่ และใครเป็นผู้รับข้อมูลเหล่านั้น การจัดทำกรอบนโยบายที่รวมถึงการกำกับดูแลซัพพลายเชนของข้อมูล (data supply‑chain) จะกลายเป็นหัวใจสำคัญของความปลอดภัยในยุค AI

Summary

การเพิ่มคอนเนกเตอร์ให้กับเอเจนต์ AI ขยายพื้นที่เสี่ยงอย่างมหาศาล ทั้งจากการเปลี่ยนแปลงเครื่องมือที่บ่อยครั้งและการเรียกใช้บริการ AI ภายนอกโดยไม่ได้รับการแจ้งล่วงหน้า ผู้ประกอบการควรทบทวนกระบวนการตรวจสอบคอนเนกเตอร์อย่างต่อเนื่องเพื่อรักษาความปลอดภัยของข้อมูลสำคัญ.