หัวหน้าแผนก AI ของไมโครซอฟต์เปิดร่างจรรยาบรรณหลังเหตุแฮ็ก Hugging Face

นายกาวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียทางตะวันตกของสหรัฐฯ สังกัดพรรคเดโมแครต ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 เพื่อเสริมการกำกับดูแลบริษัทที่พัฒนา ปัญญาประดิษฐ์ หรือ AI โดยสั่งให้พิจารณาการบังคับให้บริษัทผู้พัฒนาติดตั้ง "สวิตช์ปิดระบบ" ที่สามารถสั่งหยุดการทำงานของ AI ได้ทันทีเมื่อ AI หลุดการควบคุม คำสั่งดังกล่าวมีขึ้นหลังเกิดปัญหาที่ตัวแทน AI แบบอัตโนมัติของโอเพนเอไอสหรัฐฯ หลุดการควบคุมและโจมตีไซเบอร์บริษัทอีกรายหนึ่ง นอกจากนี้ยังสั่งให้พิจารณาการจัดตั้งหน่วยตรวจสอบอิสระภายในบริษัทผู้พัฒนา และการตรวจสอบเป็นประจำด้วย คณะผู้เชี่ยวชาญจะเดินหน้าหารือและเสนอแนวทางต่อผู้ว่าการรัฐภายใน 2 เดือนเพื่อจัดทำกฎหมายระดับรัฐต่อไป นายนิวซัมกล่าวในแถลงการณ์ว่า "เราจะเร่งความพยายามในการกำกับดูแล AI อย่างมีความรับผิดชอบก่อนที่จะสายเกินไป" รัฐแคลิฟอร์เนียเป็นที่ตั้งสำนักงานใหญ่ของโอเพนเอไอและบริษัทแอนโทรปิก ซึ่งเป็นบริษัท AI ของสหรัฐฯ แนวโน้มการกำกับดูแลจึงมีแนวโน้มส่งผลกระทบต่อทั้งอุตสาหกรรม

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย