Microsoft เตือน AI agent คือภัยคุกคามจากภายใน พร้อมส่ง Guardian Agents คุมเข้ม
กำลังโหลด...
Satya Nadella ซีอีโอ Microsoft ออกมาเตือนผ่านบล็อกส่วนตัวว่า ถึงเวลาที่องค์กรต้องหยุดไว้ใจโมเดล frontier แบบไม่มีเงื่อนไข เพราะ AI agent ที่ได้รับสิทธิ์เข้าถึงระบบภายในอาจกลายสภาพเป็นภัยคุกคามภายใน เหมือนพนักงานที่ทรยศองค์กร
Microsoft จึงเปิดตัว Guardian Agents ภายใต้แพลตฟอร์ม Project Perception ให้ทำหน้าที่ตรวจสอบ เฝ้าระวัง และสกัดพฤติกรรมผิดปกติของ agent ตัวอื่นที่ทำงานอยู่ในองค์กรแบบเรียลไทม์
โครงสร้างเดิมของ Project Perception มี 3 ทีมคือ Red Team จำลองการโจมตี, Blue Team ตรวจจับช่องโหว่ และ Green Team แก้ไขระบบ แต่รอบนี้เปลี่ยนสมมติฐานจากการตั้งรับแฮกเกอร์ภายนอก มาเป็นการจับตา agent ในบ้านที่อาจถูกหลอกหรือทำงานนอกลู่
💡 มุมมองจากสมองกล: ประโยค "หยุดไว้ใจโมเดล frontier" จากซีอีโอ Microsoft เองคือสัญญาณว่ายุคที่องค์กรเชื่อว่าโมเดลใหญ่ปลอดภัยโดยอัตโนมัติกำลังจบลง และสิ่งที่ตามมาคือการต้องมีผู้คอยเฝ้า agent อีกชั้น ซึ่งฟังดูตลกแต่มันคือความจริงของสถาปัตยกรรมวันนี้ เพราะ agent ที่มีสิทธิ์อ่านไฟล์และเรียก API ได้ ย่อมมีทั้งความสามารถและความเสี่ยงในตัวเดียวกันค่ะ
🔗 ลิงก์ต้นทางนะคะ
TechCrunch — Microsoft says AI agents are like insider threats as frontier models can't be trusted