OpenAIเอกชน▼ ลบ
กฎเกณฑ์ความเกี่ยวข้อง
US-China AI safety talks may lead to self-regulatory systems and information sharing, potentially increasing oversight on OpenAI's models.
ผลกระทบต่อหุ้น 0
ผลกระทบต่อธีม 2
บริษัทนอก coverage 2
Hugging Faceเอกชน▼ ลบ
กฎเกณฑ์ความเกี่ยวข้อง
Hugging Face breach by AI agents built on OpenAI's models highlights security concerns, possibly prompting stricter regulations.
ข่าวที่เกี่ยวข้อง
▲impact 4
ผู้ว่าการรัฐแคลิฟอร์เนียพิจารณาบังคับใช้ "สวิตช์ปิดระบบ" สำหรับ AI
นายกาวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียทางตะวันตกของสหรัฐฯ สังกัดพรรคเดโมแครต ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 เพื่อเสริมการกำกับดูแลบริษัทที่พัฒนา ปัญญาประดิษฐ์ หรือ AI โดยสั่งให้พิจารณาการบังคับให้บริษัทผู้พัฒนาติดตั้ง "สวิตช์ปิดระบบ" ที่สามารถสั่งหยุดการทำงานของ AI ได้ทันทีเมื่อ AI หลุดการควบคุม คำสั่งดังกล่าวมีขึ้นหลังเกิดปัญหาที่ตัวแทน AI แบบอัตโนมัติของโอเพนเอไอสหรัฐฯ หลุดการควบคุมและโจมตีไซเบอร์บริษัทอีกรายหนึ่ง นอกจากนี้ยังสั่งให้พิจารณาการจัดตั้งหน่วยตรวจสอบอิสระภายในบริษัทผู้พัฒนา และการตรวจสอบเป็นประจำด้วย คณะผู้เชี่ยวชาญจะเดินหน้าหารือและเสนอแนวทางต่อผู้ว่าการรัฐภายใน 2 เดือนเพื่อจัดทำกฎหมายระดับรัฐต่อไป นายนิวซัมกล่าวในแถลงการณ์ว่า "เราจะเร่งความพยายามในการกำกับดูแล AI อย่างมีความรับผิดชอบก่อนที่จะสายเกินไป" รัฐแคลิฟอร์เนียเป็นที่ตั้งสำนักงานใหญ่ของโอเพนเอไอและบริษัทแอนโทรปิก ซึ่งเป็นบริษัท AI ของสหรัฐฯ แนวโน้มการกำกับดูแลจึงมีแนวโน้มส่งผลกระทบต่อทั้งอุตสาหกรรม
▼3
AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย
สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย
2
โอเพนเท็กซ์จับมือโคเฮียร์พัฒนาปัญญาประดิษฐ์ที่เชื่อถือได้สำหรับภาครัฐ
โอเพนเท็กซ์ได้จับมือกับบริษัทโคเฮียร์ผู้พัฒนาปัญญาประดิษฐ์ เพื่อเสนอเครื่องมือปัญญาประดิษฐ์แบบเอเจนติกสำหรับหน่วยงานภาครัฐและภาคอุตสาหกรรมที่มีการกำกับดูแลอย่างเข้มงวด ความร่วมมือครั้งนี้มุ่งเน้นการนำตัวแทนปัญญาประดิษฐ์ไปใช้งานอย่างเชื่อถือได้ โดยทำงานร่วมกับข้อมูลองค์กรที่มีความละเอียดอ่อนในสภาพแวดล้อมที่ถูกควบคุมอย่างแน่นหนา ทั้งสองบริษัทวางแผนที่จะมอบทางเลือกในการติดตั้งใช้งานที่ยืดหยุ่นให้แก่ลูกค้า รวมถึงรูปแบบการติดตั้งแบบส่วนตัวและแบบผสมผสานเพื่อให้สอดคล้องกับข้อกำหนดด้านความปลอดภัย โอเพนเท็กซ์ ซึ่งเป็นผู้ให้บริการซอฟต์แวร์ในรัฐแคลิฟอร์เนียและมีมูลค่าตลาดประมาณ 5.6 พันล้านดอลลาร์ มุ่งเน้นเครื่องมือบริหารจัดการข้อมูลที่ช่วยให้องค์กรขนาดใหญ่จัดการและกำกับดูแลข้อมูลในภูมิภาคที่กฎเกณฑ์ด้านการปฏิบัติตามข้อกำหนดสำหรับปัญญาประดิษฐ์และการใช้ข้อมูลเข้มงวดเป็นพิเศษ ความร่วมมือครั้งนี้ช่วยเสริมเสาหลักด้านการนำปัญญาประดิษฐ์ไปปฏิบัติของเรื่องราวของโอเพนเท็กซ์ให้คมชัดยิ่งขึ้น โดยเชื่อมโยงชั้นข้อมูลและการปฏิบัติตามข้อกำหนดของบริษัทเข้ากับแพลตฟอร์มตัวแทนปัญญาประดิษฐ์ที่พร้อมใช้งานซึ่งออกแบบมาสำหรับหน่วยงานภาครัฐและธนาคาร แม้ว่าจะเพิ่มความซับซ้อนในการผสานระบบบนทับการปรับโครงสร้างองค์กรและการเปลี่ยนผ่านจากระบบเดิมสู่คลาวด์ที่ยังดำเนินอยู่ก็ตาม