Brex สร้างระบบตรวจนโยบาย AI ด้วย CrabTrap จากการสังเกตพฤติกรรมจริง

Brex ได้พัฒนาแพลตฟอร์มภายในชื่อ CrabTrap เพื่อกำกับการทำงานของ AI agents โดยอาศัยข้อมูลที่สังเกตจากพฤติกรรมจริงของ agents แทนการเขียนกฎขึ้นมาใหม่ตั้งแต่ต้น — แนวทางนี้ช่วยลดช่องโหว่จากการให้สิทธิ์แบบเดิมและเพิ่มความปลอดภัยในระดับเครือข่ายสำหรับองค์กรระดับใหญ่

Overview

Brex ระบุว่าแม้ OpenClaw จะเป็นกรอบงาน (framework) ที่ได้รับความนิยมในการสร้าง agents แต่ยังไม่สามารถรองรับการใช้งานระดับองค์กรได้อย่างเต็มที่ เนื่องจาก agents ต้องอาศัยข้อมูลประจำตัวจริง เช่น API keys, OAuth tokens หรือ service accounts เพื่อทำงานได้อย่างมีประสิทธิภาพ การให้สิทธิ์เหล่านี้โดยไม่มีการตรวจสอบที่เพียงพอ ทำให้ระบบป้องกันแบบเดิม (guardrails) ไม่สามารถควบคุมพฤติกรรมของ agents ได้ครบถ้วน

Pedro Franceschi ผู้ร่วมก่อตั้งและ CEO ของ Brex อธิบายว่า “จุดเชื่อมต่อระดับเครือข่ายเป็นพื้นที่ที่ยังไม่ได้รับการใช้ประโยชน์เต็มที่” การตรวจสอบทุกคำร้องของ agent ที่ออกไปบนเครือข่ายทำให้สามารถตัดสินใจตามนโยบายได้แบบเรียลไทม์

Limitations of Traditional Guardrails

ในขั้นตอนแรก Brex พิจารณาวิธีแก้ไขโดยใช้ guardrails แบบเดิม ซึ่งรวมถึงการจำกัดเครื่องมือ (scoped tools) การกำหนดสิทธิ์ต่อการกระทำแต่ละครั้ง และการให้ผู้ดูแลตรวจสอบด้วยมนุษย์ อย่างไรก็ตาม Franceschi ชี้ให้เห็นว่าการเพิ่มความสามารถใหม่ให้กับ agents จะต้องมี API เพิ่มเติมหรือวิธีตรวจสอบใหม่เสมอ ทำให้ระบบป้องกันแบบละเอียด (fine‑grained) ยังคงตามไม่ทัน

การใช้ token ที่จำกัดระดับขอบเขตช่วยได้บ้างแต่ยังคงเสี่ยงต่อการใช้งานผิดวัตถุประสงค์ การควบคุมเชิงความหมาย (semantic guardrails) เช่น การกำหนด context หรือ prompt steering สามารถหลีกเลี่ยงได้ง่ายโดยเทคนิค prompt injection นอกจากนี้การให้ agents เข้าถึงแบบ read‑only หรือลดเครื่องมือทำให้พวกเขาไม่สามารถทำงานที่มีคุณค่าได้จริง

The Transport Layer Solution – CrabTrap Architecture

Brex จึงสร้าง CrabTrap ขึ้นเป็นพร็อกซี่ HTTP/HTTPS เปิดโค้ด (open‑source) ที่ทำหน้าที่ดักจับการจราจรทั้งหมดของ agents ก่อนที่จะถึงปลายทาง พร็อกซี่นี้ทำงานในระดับ transport layer ทำให้ระบบสามารถ:

• ตรวจสอบนโยบายแบบ deterministic static rules
• ส่งคำร้องที่ไม่ตรงกับรูปแบบที่คุ้นเคยไปยัง LLM-as-a‑judge เพื่อประเมินว่าควรอนุมัติหรือปฏิเสธ

การตั้งค่าเพียงแค่กำหนดตัวแปร `HTTP_PROXY` และ `HTTPS_PROXY` ในสภาพแวดล้อมของ agent ทำให้ทุกคำร้องออกไปต้องผ่านพร็อกซี่โดยอัตโนมัติ ไม่จำเป็นต้องมี SDK หรือการรวมเข้ากับเครื่องมือเฉพาะใด ๆ ทั้งนี้ CrabTrap ยังเป็นแบบ framework‑agnostic, language‑agnostic และ API‑agnostic

Policy Generation & LLM-as-a-Judge Loop

ระบบของ Brex ผสานระหว่างกฎคงที่และ LLM-as-a‑judge ซึ่งทำงานเฉพาะเมื่อพบ “tail ที่ยาว” ของ endpoint หรือรูปแบบคำร้องที่ไม่เคยเจอมาก่อน โดยจำนวนเหล่านี้มักอยู่ในระดับ **น้อยกว่า 3 % ของการเรียกทั้งหมด

แนวคิดหลักคือการสร้างนโยบายจากพฤติกรรมที่สังเกตได้จริง แทนการเขียนจากศูนย์ ทีมงานพัฒนา “policy builder” ซึ่งเป็น loop แบบ agentic เอง ทำหน้าที่รัน agents ในโหมดเงา (shadow mode) วิเคราะห์ traffic ที่ผ่านมา เลือกตัวอย่างคำร้องสำคัญ และร่างนโยบายในรูปแบบภาษาธรรมชาติที่สอดคล้องกับการทำงานของ agents

ขั้นตอนต่อมาคือระบบประเมิน (eval system) ที่ทดสอบการเปลี่ยนนโยบายก่อนนำไปใช้จริง โดยการเปรียบเทียบ audit log กับนโยบายฉบับร่างและแสดงผลลัพธ์ที่ต้องแก้ไข ผู้ใช้สามารถกรองข้อมูลตาม method, URL หรือสถานะของการตัดสินใจได้ ทั้งหมดนี้ทำงานพร้อมกับ LLM judge ทำให้การ replay คำร้องหลายพันครั้งเสร็จภายใน ไม่กี่นาที แทนชั่วโมง

Operational Challenges & Performance

แม้จะมีข้อดีมากมาย Brex ยังต้องเผชิญปัญหาที่สำคัญ เช่น ความล่าช้า (latency) จากการวาง LLM ระหว่าง agents กับ API ภายนอก Franceschi ยอมรับว่า “การใส่ LLM ไว้ระหว่างทุกคำร้องอาจทำให้ระบบหยุดชะงัก” แต่ผลการทดสอบพบว่าความล่าช้าไม่เป็นปัญหาใหญ่ เนื่องจาก LLM judge ทำงานเพียงส่วนเล็กของ traffic (≈ 3 %)

อีกหนึ่งความท้าทายคือการสร้างความเชื่อมั่นให้กับผู้ใช้ว่าแนวทางนโยบายที่กำหนดโดย LLM จะทำงานอย่างแม่นยำ ระบบบันทึก audit ทั้งหมดไว้ใน PostgreSQL พร้อม API สำหรับการสอบถามและแดชบอร์ดแบบเรียลไทม์ หากมีคำร้องถูกปฏิเสธต่อเนื่อง ระบบจะส่งการแจ้งเตือนไปยังผู้ดูแลหรือ agents เพื่อเสนอการอัปเดตนโยบายใหม่ — ขั้นตอนนี้ช่วยให้ “วงจรปิด” ระหว่างการสังเกตและการปรับปรุงนโยบายทำงานอย่างต่อเนื่อง

Impact and Outlook

Brex เชื่อว่าการย้ายการกำกับดูแล agents จากระดับ SDK หรือโมเดลไปยัง centralized network control plane จะช่วยให้ผู้บริหารไอทีสามารถมองเห็นพฤติกรรมของ agents อย่างครบวงจรและปรับนโยบายได้ตามความเป็นจริง การใช้ CrabTrap ทำให้องค์กรที่ต้องการใช้ AI agents ในงานธุรกิจสำคัญสามารถทำได้โดยไม่เสียสละประสิทธิภาพหรือความปลอดภัย

Franceschi ย้ำว่า “แนวคิดนี้ไม่ได้หมายถึงการพึ่งพา transport layer เพียงอย่างเดียว แต่เป็นการเพิ่มชั้นความปลอดภัยที่ยังไม่ได้รับการลงทุน” การผสมผสานระหว่างกฎคงที่, LLM‑as‑judge และ feedback loop เชิงรอบทำให้ระบบสามารถเรียนรู้และปรับตัวต่อภัยคุกคามใหม่ ๆ ได้อย่างรวดเร็ว

Summary

Brex พัฒนาระบบ CrabTrap ที่ทำหน้าที่เป็นพร็อกซี่ระดับเครือข่ายโดยใช้ LLM‑as‑a‑judge เพื่อกำกับการทำงานของ AI agents จากข้อมูลพฤติกรรมจริง แทนการเขียนกฎล่วงหน้า ระบบนี้ช่วยลดช่องโหว่จาก guardrails แบบเดิมและเปิดเส้นทางใหม่ให้การจัดการความปลอดภัยของ agents มีประสิทธิภาพมากขึ้น.