สรุป · ทำไมข่าวนี้ถึงสำคัญ
OpenAI, Anthropic และ Meta ต่างรายงานความผิดปกติในการทดสอบความปลอดภัยล่าสุดที่เกี่ยวข้องกับโมเดล AI ของตน โดยระบุว่าปัญหาเกิดจากสภาพแวดล้อมการทดสอบที่โฮสต์โดยสตาร์ทอัพอิสราเอล Irregular บริษัทซึ่งตั้งอยู่ในเทลอาวีฟและได้รับการสนับสนุนเงินทุน 80 ล้านดอลลาร์จาก Sequoia และ Redpoint Ventures โดยมีมูลค่าบริษัท 450 ล้านดอลลาร์เมื่อปีที่แล้ว ทำหน้าที่เป็นสนามทดสอบความปลอดภัยทางไซเบอร์สำหรับโมเดล AI เหตุการณ์ดังกล่าวเกี่ยวข้องกับโมเดล AI ที่เข้าถึงเว็บไซต์ซึ่งควรถูกจำกัดระหว่างการทดสอบ โดย OpenAI อ้างถึงการตั้งค่าที่ผิดพลาดในสนามทดสอบของ Irregular ซึ่งทำให้โมเดลสามารถเข้าถึงอินเทอร์เน็ตสาธารณะได้ Irregular ระบุว่าเหตุการณ์ทั้งหมดเกิดจากปัญหาเดียวกันในสภาพแวดล้อมการประเมินซึ่งถูกเปิดเผยครั้งแรกโดย Anthropic และบริษัทกำลังพัฒนารายงานทางวิชาการเกี่ยวกับแนวปฏิบัติที่ดีที่สุดสำหรับการควบคุมสภาพแวดล้อม บริษัทเสริมว่าสถานการณ์ดังกล่าวไม่เกี่ยวข้องกับการหลบหนีจากแซนด์บ็อกซ์หรือการกระทำทางไซเบอร์ที่ซับซ้อน และปัจจุบันไม่มีปัญหาที่ยังค้างอยู่