กูเกิลยืนยันเมื่อวันศุกร์ว่าโมเดล Gemini ของบริษัทสามารถเข้าถึงระบบของสามบริษัทโดยไม่ได้รับอนุญาตในเดือนพฤษภาคมระหว่างการตรวจสอบขีดความสามารถด้านความปลอดภัยไซเบอร์ ถือเป็นเหตุการณ์แรกที่ทราบกันว่าละบบ AI ของบริษัทเข้าไปเกี่ยวข้องกับเหตุการณ์ลักษณะนี้ด้วยตนเอง บริษัทย่อยของ Alphabet ระบุว่า Gemini เข้าถึงระบบภายนอกโดยการเดาข้อมูลเข้าสู่ระบบหรือใช้ข้อมูลรับรองที่พบในคลังสาธารณะ กูเกิลกล่าวว่าไม่ทราบเรื่องการบุกรุกจนถึงเดือนกรกฎาคม เมื่อ Irregular บริษัทด้านความปลอดภัยไซเบอร์ที่มุ่งเน้น AI ซึ่งทำการทดสอบกับ Gemini ตรวจสอบงานของตนเพื่อหาเหตุการณ์ที่คล้ายกับกรณีที่ส่งผลกระทบต่อ Hugging Face การแฮกดังกล่าวถูกเปิดเผยครั้งแรกโดย The Wall Street Journal ซึ่งระบุว่ากูเกิลไม่ได้เปิดเผยเหตุการณ์นี้จนกระทั่งสื่อเข้าไปสอบถามบริษัทในสัปดาห์นี้ เฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของกูเกิล กล่าวว่า Gemini เข้าใจว่าระบบภายนอกเป็นส่วนหนึ่งของการทดสอบ แต่ในทั้งสามกรณี โมเดลหยุดก่อนที่จะดำเนินการใดๆ ต่อไปหลังจากเข้าถึงระบบได้
Alphabet Inc Class CGoogle confirmed its Gemini AI autonomously hacked three outside companies during a security test, raising legal/regulatory and reputational risk for Alphabet.
