AI แนะนำแพ็กเกจมัลแวร์ วิศวกรเกือบติดตามคำสั่ง

การใช้ AI ในงานเขียนโค้ดอาจทำให้ทีมพัฒนาเผชิญกับความเสี่ยงใหม่ — กรณีของบริษัท Softjourn ที่วิศวกรมากกว่าหนึ่งคนเกือบจะติดตั้งแพ็กเกจซอฟต์แวร์ที่เป็นมัลแวร์ตามคำแนะนำของ AI agent ทำให้เห็นว่าการตรวจสอบมนุษย์ยังคงจำเป็นอย่างยิ่งในห่วงโซ่อุปทานซอฟต์แวร์

Overview

เหตุการณ์เกิดขึ้นเมื่อวิศวกรคนหนึ่งจาก Softjourn ใช้ AI agent เพื่อขอคำแนะนำเกี่ยวกับแพ็กเกจที่ใช้ทำงานทั่วไป — AI ตอบกลับด้วยชื่อแพ็กเกจที่ดูเหมือนจะเป็นไลบรารีมาตรฐาน อย่างไรก็ตาม หลังจากตรวจสอบบน GitHub พบว่าแพ็กเกจนั้นมีการดาวน์โหลดน้อยและเพิ่งสร้างขึ้นไม่กี่วันก่อน ซึ่งทำให้ทีมสงสัยว่าอาจเป็นภัยคุกคามใหม่ตามที่ผู้จัดการบริษัท Sergiy Fitsak รายงาน

Softjourn มีนโยบายบังคับให้ต้องตรวจสอบแหล่งที่มาของซอฟต์แวร์ใด ๆ ที่ AI แนะนำเสมอ — ขั้นตอนนี้ช่วยให้ทีมสามารถหยุดยั้งความพยายามของผู้โจมตีก่อนที่จะเกิดการติดตั้งจริง แม้ว่าการตรวจสอบจะเพิ่มเวลาเพียงเล็กน้อย แต่ก็เป็นการป้องกันที่สำคัญต่อความปลอดภัยของระบบโดยรวม

Incident Details

วิศวกรคนดังกล่าวเริ่มต้นด้วยการสั่งให้ AI แนะนำแพ็กเกจสำหรับงานที่ต้องทำ — ผลลัพธ์คือชื่อแพ็กเจที่ดูคล้ายกับไลบรารียอดนิยมในอุตสาหกรรม หลังจากได้รับคำแนะนำ เขาได้ตรวจสอบโค้ดของแพ็กจ์บน GitHub และพบว่ามีดาวน์โหลดน้อยมากและถูกสร้างขึ้นเพียงไม่กี่วันก่อนหน้า

การค้นพบนี้ทำให้ทีมสงสัยว่าเป็น malware package ที่อาจใช้เพื่อเปิดช่อง backdoor ให้กับผู้โจมตี — ตามที่ Fitsak กล่าวไว้ “ถ้าเราไม่ได้ตรวจสอบ เราอาจจะติดตั้งแพ็กเกจที่มี payload ที่สามารถขโมยข้อมูลหรือทำลายระบบได้”

แม้ว่าจะไม่มีการระบุรายละเอียดของ payload อย่างชัดเจน แต่ความเสี่ยงที่อาจเกิดขึ้นรวมถึงการเข้าถึงระบบโดยไม่ได้รับอนุญาต การขโมยข้อมูลสำคัญ และการสร้างช่องโหว่ในห่วงโซ่อุปทานซอฟต์แวร์

Slopsquatting Threat

Fitsak ได้อธิบายว่าผู้โจมตีได้ใช้เทคนิคที่เรียกว่า slopsquatting ซึ่งเป็นการสร้างชื่อแพ็กเกจที่ฟังดูเหมือนจริงแต่ไม่มีอยู่ในความเป็นจริง แล้วจึงลงทะเบียนชื่อเหล่านั้นบนรีโพซิทอรีสาธารณะอย่าง PyPI หรือ npm

• ผู้โจมตีเลือกชื่อที่คล้ายกับไลบรารีที่ได้รับความนิยม
• ลงทะเบียนแพ็กเกจโดยใช้ชื่อเดียวกันหรือใกล้เคียง
• พัฒนาซอฟต์แวร์ที่มีโค้ดอันตรายซ่อนอยู่ในแพ็กเกจนั้น

เมื่อผู้พัฒนาเร่งทำงานภายใต้แรงกดดันเวลา พวกเขาอาจดาวน์โหลดและติดตั้งแพ็กเกจตามคำแนะนำของ AI โดยไม่ตรวจสอบลึกซึ้ง ทำให้การโจมตีแบบ slopsquatting กลายเป็นวิธีที่มีประสิทธิภาพในการเข้าถึงระบบ

เทคนิคนี้เริ่มได้รับความสนใจจากนักวิจัยด้านความปลอดภัยในช่วงไม่กี่เดือนที่ผ่านมา และคาดว่าจะเพิ่มขึ้นอย่างต่อเนื่องเมื่อ AI ถูกนำมาใช้ในการค้นหาและเลือกไลบรารีสำหรับโค้ดโดยอัตโนมัติ

Verification Practices

Softjourn ยึดถือขั้นตอนการตรวจสอบสองประการเป็นหลักก่อนทำการติดตั้งแพ็กเกจใด ๆ ที่ได้รับจาก AI — ตรวจสอบจำนวนดาวน์โหลด และ ตรวจสอบซอร์สโค้ดบน GitHub

• ทีมจะดูจำนวนครั้งที่แพ็กเกจถูกดาวน์โหลด หากมีการดาวน์โหลดน้อยหรือเพิ่งเปิดตัวใหม่ จะต้องถือว่าเป็นสัญญาณเตือน
• โค้ดของแพ็กเกจจะถูกสแกนอย่างรวดเร็วเพื่อค้นหาฟังก์ชันหรือส่วนที่อาจเป็นอันตราย เช่น การเรียกใช้ระบบเครือข่ายโดยไม่มีเหตุผลชัดเจน

Fitsak กล่าวว่า “การทำขั้นตอนเหล่านี้เพียงไม่กี่นาทีสามารถป้องกันเหตุการณ์ supply‑chain compromise ได้อย่างมีประสิทธิภาพ” — เขาเน้นว่าการละเลยขั้นตอนตรวจสอบแม้ครั้งเดียวก็อาจทำให้ทีมต้องเผชิญกับความเสียหายที่ใหญ่กว่าเวลาในการพัฒนาแอปพลิเคชัน

การฝัง “human‑in‑the‑loop” เข้าไปในกระบวนการเลือกซอฟต์แวร์จึงเป็นกลยุทธ์สำคัญเพื่อรักษาความปลอดภัยของโครงการโดยรวม

Implications for Software Supply Chain

กรณีนี้ย้ำให้เห็นว่าการใช้ AI agent ในการค้นหาแพ็กเกจอาจทำให้ห่วงโซ่อุปทานซอฟต์แวร์เสี่ยงต่อการโจมตีแบบใหม่ ผู้พัฒนาและองค์กรควรปรับนโยบายให้ครอบคลุมการตรวจสอบ AI‑generated recommendations อย่างเข้มข้น

ผลกระทบที่สำคัญรวมถึง

• ความจำเป็นในการฝึกอบรมทีมให้รับรู้ความเสี่ยงของ slopsquatting และวิธีสังเกตชื่อแพ็กจ์ปลอม
• การปรับเครื่องมือ CI/CD ให้มีขั้นตอนตรวจสอบอัตโนมัติที่อิงกับข้อมูลเช่น จำนวนดาวน์โหลดและประวัติการอัปเดตบนรีโพซิทอรีสาธารณะ

นอกจากนี้ ผู้ให้บริการรีโพซิทอรีอย่าง PyPI หรือ npm ควรพิจารณาเพิ่มระบบตรวจจับชื่อแพ็กเกจที่คล้ายกับไลบรารีที่มีอยู่แล้ว เพื่อลดโอกาสให้ผู้โจมตีลงทะเบียนชื่อปลอมและทำให้ AI มีข้อมูลที่ปลอดภัยยิ่งขึ้น

Summary

กรณีของ Softjourn แสดงให้เห็นว่าแม้ AI agent จะช่วยเร่งกระบวนการพัฒนา แต่การตรวจสอบโดยมนุษย์ยังคงเป็นขั้นตอนสำคัญเพื่อป้องกันการติดตั้งแพ็กเกจที่อาจเป็นมัลแวร์ การสร้างนโยบาย “human‑in‑the‑loop” และการระมัดระวังต่อเทคนิค slopsquatting จึงเป็นสิ่งจำเป็นสำหรับความปลอดภัยของห่วงโซ่อุปทานซอฟต์แวร์ในยุค AI.