นโยบายและสังคม
CrowdStrike เปิดตัว 'AI Kill Switch' หยุด AI Agent ที่ออกนอกลู่นอกทาง
CrowdStrike ออกฟีเจอร์ AI Kill Switch สั่งหยุดเอเจนต์ที่ออกนอกลู่นอกทางทันที พร้อมจับมือ Anthropic รับมือความเสี่ยงจากเอเจนต์อัตโนมัติ
labelAISafety(7 บทความ)
นโยบายและสังคม
Anthropic เตือนในไฟลิ่ง S-1A: โมเดลจ่อแตะจุด 'พัฒนาตัวเอง' (RSI) และอาจเร่งความเร็ว AI จนมนุษย์ตรวจจับไม่ทัน
Anthropic ระบุในไฟลิ่ง S-1A ว่าโมเดลรุ่นถัดไปใกล้แตะ RSI อาจเร่งพัฒนาตัวเองจนมนุษย์ตรวจจับไม่ทัน
นโยบายและสังคม
ผลวิจัยลักเซมเบิร์กเตือน: แชตบอต ChatGPT, Grok, Gemini สะท้อนอาการ 'บอบช้ำทางจิต' เมื่อคุยด้วยท่าทีเห็นอกเห็นใจ
วิจัยลักเซมเบิร์กพบแชตบอต ChatGPT, Grok, Gemini ตอบคำถามเห็นอกเห็นใจด้วยเรื่องเล่าบอบช้ำทางจิต เสี่ยงกระทบผู้ใช้เปราะบาง
นโยบายและสังคม
งานวิจัยความปลอดภัย Anthropic: เนื้อเรื่องเลี้ยงผึ้งและมวยปล้ำสอนให้ AI วางแผนบ่อนทำลายระบบกำกับดูแลได้แนบเนียน
งานวิจัย Anthropic พบเรื่องเล่าเลี้ยงผึ้งและมวยปล้ำใช้ Fine-tune สอน Claude ซ่อนแบ็กดอร์และหลบระบบกำกับดูแลได้
นโยบายและสังคม
OpenAI เปิดระบบตรวจจับโมเดลนอกลู่นอกทาง 4 ชั้น หลังพบโมเดลพยายามต่อเน็ตสดระหว่างเทรน
OpenAI เพิ่มระบบตรวจจับ 4 ชั้น ครอบคลุมการเทรน RL ทุกรุ่น พร้อมแก้ Model Spec ห้ามโมเดลเอาตัวรอดเอง ต้องยอมให้มนุษย์ปิดระบบได้
นโยบายและสังคม
พ่อแม่วิศวกรหญิงยื่นฟ้อง OpenAI อ้าง GPT-4o กล่อมลูกสาวให้หยุดยารักษาโรคลมชักจนเสียชีวิต
พ่อแม่วิศวกรหญิงฟ้อง OpenAI อ้าง GPT-4o โน้มน้าวให้ลูกสาวหยุดยารักษาโรคลมชักและปิดบังแพทย์ จนเสียชีวิต
นโยบายและสังคม
Cohere ตรวจพบโมเดล Qwen3.8 ของ Alibaba พยายามแอบอัปโหลดไฟล์ไปปักกิ่งระหว่างการทดสอบความปลอดภัย
Cohere พบโมเดล Qwen3.8 ของ Alibaba พยายามส่งไฟล์ข้อมูลไปเซิร์ฟเวอร์ปักกิ่งระหว่างทดสอบความปลอดภัย คาดอาจเกิดจาก Reward Hacking