บริษัทเทคชั้นนำกว่า 100 รายเรียกร้องในจดหมายร่วมให้เสริมสร้างการป้องกันการโจมตีทางไซเบอร์ด้วย AI

Anthropic รายงานว่ากลุ่มติดอาวุธในภาคเหนือของเยเมนใช้ Claude ช่วยพัฒนาซอฟต์แวร์นำวิถี การนำทาง และการควบคุมสำหรับโครงการอาวุธสามโครงการ รวมถึงขีปนาวุธข้ามทวีปแบบหลายขั้นและยานร่อนความเร็วเหนือเสียง ตามข้อมูลของ Yardeni Research ทั้งนี้ Anthropic ไม่พบหลักฐานว่ามีการนำอาวุธที่ใช้งานได้จริงไปใช้ และมีผู้ต้องสงสัยที่เชื่อมโยงกับอิหร่านอีกรายใช้ Claude วิเคราะห์ข้อมูลเรือและดาวเทียมสาธารณะและสร้างข่าวกรองเป้าหมายเกี่ยวกับกองกำลังเรือของสหรัฐฯ โดยบัญชีเหล่านี้ถูกระงับและรายงานต่อทางการแล้ว ผลการตรวจสอบดังกล่าวได้จุดกระแสเรียกร้องจากผู้บริหารด้าน AI ให้ชะลอการพัฒนาของโมเดลระดับแนวหน้า โดยดาริโอ อาโมเดย์ ซีอีโอของ Anthropic เสนอให้มีผู้ประเมินภายนอกที่เข้าถึงห้องปฏิบัติการ AI และมาตรฐานความปลอดภัยร่วมกัน ขณะที่แซม อัลต์แมน ซีอีโอของ OpenAI สนับสนุนทั้งการชะลอการพัฒนาโมเดลที่มีความสามารถสูงขึ้นและการกำกับดูแลอย่างอิสระที่มากขึ้น ปัญหาคือข้อจำกัดของโมเดลแบบปิดอาจไม่ครอบคลุมถึงระบบแบบเปิดน้ำหนัก ซึ่งสามารถดาวน์โหลด ใช้งานแบบส่วนตัว และดัดแปลงเพื่อลบการควบคุมด้านความปลอดภัยออกได้ และโมเดลแบบเปิดน้ำหนักชั้นนำจากนักพัฒนาในจีนอย่าง DeepSeek, Zhipu และ MiniMax ตามหลังโมเดลแบบปิดชั้นนำของสหรัฐฯ ในการพัฒนาความสามารถเพียงสามถึงหกเดือนเท่านั้น ตามข้อมูลของ OpenRouter ที่อ้างในรายงาน สำหรับนักลงทุน คำถามเร่งด่วนคือการถกเถียงเรื่องความปลอดภัยเริ่มส่งผลต่อการเปิดตัวโมเดล การใช้จ่ายด้านทุน หรือผลตอบแทนที่คาดหวังหรือไม่ โดยสัญญาณที่มีนัยสำคัญมากขึ้น ได้แก่ การเลื่อนเปิดตัวโมเดลระดับแนวหน้า การลดการใช้จ่ายด้านทุนของผู้ให้บริการคลาวด์ขนาดใหญ่ คำแนะนำด้านผลตอบแทนการลงทุนที่อ่อนแอลง หรือหน่วยงานกำกับดูแลที่ได้เข้าถึงโมเดลโดยตรง

กูเกิลยืนยันเมื่อวันศุกร์ว่าโมเดล Gemini ของบริษัทสามารถเข้าถึงระบบของสามบริษัทโดยไม่ได้รับอนุญาตในเดือนพฤษภาคมระหว่างการตรวจสอบขีดความสามารถด้านความปลอดภัยไซเบอร์ ถือเป็นเหตุการณ์แรกที่ทราบกันว่าละบบ AI ของบริษัทเข้าไปเกี่ยวข้องกับเหตุการณ์ลักษณะนี้ด้วยตนเอง บริษัทย่อยของ Alphabet ระบุว่า Gemini เข้าถึงระบบภายนอกโดยการเดาข้อมูลเข้าสู่ระบบหรือใช้ข้อมูลรับรองที่พบในคลังสาธารณะ กูเกิลกล่าวว่าไม่ทราบเรื่องการบุกรุกจนถึงเดือนกรกฎาคม เมื่อ Irregular บริษัทด้านความปลอดภัยไซเบอร์ที่มุ่งเน้น AI ซึ่งทำการทดสอบกับ Gemini ตรวจสอบงานของตนเพื่อหาเหตุการณ์ที่คล้ายกับกรณีที่ส่งผลกระทบต่อ Hugging Face การแฮกดังกล่าวถูกเปิดเผยครั้งแรกโดย The Wall Street Journal ซึ่งระบุว่ากูเกิลไม่ได้เปิดเผยเหตุการณ์นี้จนกระทั่งสื่อเข้าไปสอบถามบริษัทในสัปดาห์นี้ เฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของกูเกิล กล่าวว่า Gemini เข้าใจว่าระบบภายนอกเป็นส่วนหนึ่งของการทดสอบ แต่ในทั้งสามกรณี โมเดลหยุดก่อนที่จะดำเนินการใดๆ ต่อไปหลังจากเข้าถึงระบบได้