ภัยใหม่ slopsquatting จากการหลงของ LLM ทำให้ซอฟต์แวร์เสี่ยงมัลแวร์

การโจมตีแบบ slopsquatting ปรากฏเป็นภัยคุกคามห่วงโซ่อุปทานซอฟต์แวร์รูปแบบใหม่ที่เกิดจาก “hallucination” ของโมเดลภาษาใหญ่ (LLM) เมื่อผู้พัฒนาซอฟต์แวร์พึ่งพาเครื่องมือช่วยเขียนโค้ดด้วย AI มากขึ้น นักวิจัยพบว่าอาจทำให้แพคเกจซอฟต์แวร์ที่มีมัลแวร์แทรกตัวเข้าไปในโค้ดฐานตั้งแต่ขั้นตอนแรกของการพัฒนาได้อย่างไม่รู้ตัว

Overview

slopsquatting คือการผสมคำระหว่าง “AI slop” กับ “typo‑squatting” ซึ่งหมายถึงการลงทะเบียนโดเมนหรือแพคเกจที่สะกดผิดเพื่อหลอกผู้ใช้ ตัวโจมตีจะใช้ประโยชน์จากความโน้มเอียงของ LLM ที่สร้างชื่อแพคเกจปลอมในกระบวนการเขียนโค้ดโดยอัตโนมัติ เมื่อชื่อเหล่านั้นถูกลงทะเบียนเป็นจริงแล้ว ผู้โจมตีสามารถใส่โค้ดที่มีอันตรายเข้าไปได้ทันที การแทรกนี้ทำให้มัลแวร์กลายเป็นส่วนหนึ่งของโปรเจคที่พัฒนาอย่างต่อเนื่องโดยไม่มีการตรวจจับจากระบบจัดการแพคเกจแบบเดิม

Mechanism

กระบวนการเกิด slopsquatting เริ่มจาก LLM แนะนำ “open‑source package” ที่ไม่เคยมีอยู่จริงในระหว่างการเขียนโค้ด ตัวอย่างเช่น คำสั่ง `npm install cross-env-extended` ซึ่งไม่มีในฐานข้อมูลแพคเกจใด ๆ หากผู้พัฒนานำชื่อเหล่านี้ไปใช้โดยไม่ได้ตรวจสอบ ผู้โจมตีจะลงทะเบียนชื่อเดียวกันบนรีเจิสทรีที่เกี่ยวข้องและอัปโหลดไฟล์ที่มีโค้ดอันตราย

• เมื่อแพคเกจถูกติดตั้ง ระบบจะนำโค้ดมัลแวร์เข้ามาในโปรเจคโดยตรง
• เนื่องจากชื่อแพคเกจดูคล้ายกับไลบรารีที่เป็นที่รู้จัก การตรวจสอบด้วยสายตาจึงทำได้ยาก

Threat Landscape

การวิจัยล่าสุดที่วิเคราะห์ 31,267 ช่องโหว่ของ 14,675 แพคเกจใน 10 ภาษา พบว่าจำนวนช่องโหว่เพิ่มขึ้นราว 98 % ต่อปี ซึ่งเร็วกว่าการเติบโตของจำนวนแพคเกจโอเพนซอร์สที่เพิ่ม 25 % ต่อปี นอกจากนี้ อายุการอยู่ของช่องโหว่โดยเฉลี่ยยังยืดออกไปอีก **85 % แสดงให้เห็นถึงการเสื่อมถอยของระดับความปลอดภัยในระบบนิเวศแบบเปิด ผลกระทบเหล่านี้แสดงว่าถ้าหากแพคเกจที่ถูก “slopsquat” ถูกนำไปใช้จริง มัลแวร์อาจซ่อนอยู่ในสภาพแวดล้อมการผลิตเป็นเดือนหรือหลายปีโดยไม่ได้รับการตรวจจับ

Model Vulnerabilities

LLM มีแนวโน้มที่จะสร้างข้อมูลปลอม (hallucination) เนื่องจากทำงานบนพื้นฐานของความน่าจะเป็นสูงสุดที่คาดว่าจะถูกต้อง นักวิจัยระบุอัตราการ hallucinate ของโมเดลต่าง ๆ อยู่ระหว่าง 50 %–82 % ขึ้นกับรูปแบบการสั่งและรุ่นของโมเดล แม้ GPT‑4o ที่ดีที่สุดก็ยังมีอัตราต่ำสุดที่ 23 % นอกจากนี้ การโจมตีแบบ “adversarial hallucination” เช่น การปรับแต่งโทเค็นหรือการฉีดข้อมูลดึงกลับ (retrieval poisoning) สามารถทำให้โมเดลแนะนำแพคเกจปลอมตามที่ผู้โจมตีต้องการได้บ่อยขึ้น

Open‑Source vs Proprietary Models

แม้ว่าโมเดลทุกประเภทจะเสี่ยงต่อ slopsquatting แต่ความเสี่ยงไม่เท่ากัน การทดสอบ 30 ระบบบน 30 โมเดลรวมถึง 576,000 ตัวอย่างโค้ดและ 2.23 ล้าน แพคเกจ พบว่ามี **19.7 % ของแพคเกจที่เป็น hallucination

• GPT‑4 Turbo มีอัตรา hallucinate ที่ **3.59 %
• โมเดลโอเพนซอร์ส DeepSeek 1B สูงถึง **13.63 %

ผลการศึกษาแสดงให้เห็นว่าองค์กรที่ใช้เครื่องมือ AI แบบโอเพนซอร์สมีความเสี่ยงต่อการโจมตีแบบ slopsquatting มากกว่าประมาณสี่เท่าเมื่อเปรียบเทียบกับผู้ใช้โมเดลเชิงพาณิชย์

Impact on Developers

จากสำรวจพบว่า มากกว่า 40 % ของโค้ดที่นักพัฒนานำเข้าในระบบควบคุมเวอร์ชั่นมาจากการช่วยเหลือของ AI และอัตราการใช้งานนี้กำลังเติบโตอย่างต่อเนื่อง ผู้ใช้ AI ที่เคยลองแล้ว 72 % รายรายงานว่าใช้เครื่องมือเหล่านี้ทุกวัน การเพิ่มขึ้นของ “vibe coding” ทำให้พื้นผิวโจมตีของ slopsquatting ขยายกว้างขึ้นเรื่อย ๆ การตรวจสอบความถูกต้องของแพคเกจที่ AI แนะนำจึงกลายเป็นขั้นตอนสำคัญในการป้องกัน ไม่ว่าจะเป็นการเช็คแหล่งที่มาอย่างละเอียดหรือใช้เครื่องมือสแกนความปลอดภัยเพิ่มเติม

Summary

slopsquatting เป็นรูปแบบใหม่ของการโจมตีห่วงโซ่อุปทานที่อาศัย hallucination ของ LLM ทำให้ผู้พัฒนาที่พึ่งพา AI มีความเสี่ยงต่อมัลแวร์ที่ฝังอยู่ในแพคเกจปลอม การตระหนักและตรวจสอบชื่อแพคเกจอย่างละเอียดเป็นวิธีการป้องกันพื้นฐานที่จำเป็นสำหรับองค์กรในยุค AI‑assisted coding.