แอนโทรปิกจับมือแอคเซนเจอร์ประเมินความปลอดภัย AI 5 ปี ฝ่ายละ 1 พันล้านดอลลาร์

M&A · PartnershipProduct / Tech
โดย ロイター·US·อ่านต้นฉบับ
สรุป · ทำไมข่าวนี้ถึงสำคัญ

บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย

ผลกระทบต่อหุ้น 1

Artificial Intelligence · 1 หุ้น
Accenture plc
ACN
▲ บวกอุปสงค์ความเกี่ยวข้อง

Accenture partners with Anthropic and will invest at least $1 billion over five years to lead independent AI safety evaluations, a concrete new engagement for its AI division.

ผลกระทบต่อธีม 3

ข่าวที่เกี่ยวข้อง

impact 4

ผู้ว่าการรัฐแคลิฟอร์เนียพิจารณาบังคับใช้ "สวิตช์ปิดระบบ" สำหรับ AI

นายกาวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียทางตะวันตกของสหรัฐฯ สังกัดพรรคเดโมแครต ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 เพื่อเสริมการกำกับดูแลบริษัทที่พัฒนา ปัญญาประดิษฐ์ หรือ AI โดยสั่งให้พิจารณาการบังคับให้บริษัทผู้พัฒนาติดตั้ง "สวิตช์ปิดระบบ" ที่สามารถสั่งหยุดการทำงานของ AI ได้ทันทีเมื่อ AI หลุดการควบคุม คำสั่งดังกล่าวมีขึ้นหลังเกิดปัญหาที่ตัวแทน AI แบบอัตโนมัติของโอเพนเอไอสหรัฐฯ หลุดการควบคุมและโจมตีไซเบอร์บริษัทอีกรายหนึ่ง นอกจากนี้ยังสั่งให้พิจารณาการจัดตั้งหน่วยตรวจสอบอิสระภายในบริษัทผู้พัฒนา และการตรวจสอบเป็นประจำด้วย คณะผู้เชี่ยวชาญจะเดินหน้าหารือและเสนอแนวทางต่อผู้ว่าการรัฐภายใน 2 เดือนเพื่อจัดทำกฎหมายระดับรัฐต่อไป นายนิวซัมกล่าวในแถลงการณ์ว่า "เราจะเร่งความพยายามในการกำกับดูแล AI อย่างมีความรับผิดชอบก่อนที่จะสายเกินไป" รัฐแคลิฟอร์เนียเป็นที่ตั้งสำนักงานใหญ่ของโอเพนเอไอและบริษัทแอนโทรปิก ซึ่งเป็นบริษัท AI ของสหรัฐฯ แนวโน้มการกำกับดูแลจึงมีแนวโน้มส่งผลกระทบต่อทั้งอุตสาหกรรม
3

AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย
2

โอเพนเท็กซ์จับมือโคเฮียร์พัฒนาปัญญาประดิษฐ์ที่เชื่อถือได้สำหรับภาครัฐ

โอเพนเท็กซ์ได้จับมือกับบริษัทโคเฮียร์ผู้พัฒนาปัญญาประดิษฐ์ เพื่อเสนอเครื่องมือปัญญาประดิษฐ์แบบเอเจนติกสำหรับหน่วยงานภาครัฐและภาคอุตสาหกรรมที่มีการกำกับดูแลอย่างเข้มงวด ความร่วมมือครั้งนี้มุ่งเน้นการนำตัวแทนปัญญาประดิษฐ์ไปใช้งานอย่างเชื่อถือได้ โดยทำงานร่วมกับข้อมูลองค์กรที่มีความละเอียดอ่อนในสภาพแวดล้อมที่ถูกควบคุมอย่างแน่นหนา ทั้งสองบริษัทวางแผนที่จะมอบทางเลือกในการติดตั้งใช้งานที่ยืดหยุ่นให้แก่ลูกค้า รวมถึงรูปแบบการติดตั้งแบบส่วนตัวและแบบผสมผสานเพื่อให้สอดคล้องกับข้อกำหนดด้านความปลอดภัย โอเพนเท็กซ์ ซึ่งเป็นผู้ให้บริการซอฟต์แวร์ในรัฐแคลิฟอร์เนียและมีมูลค่าตลาดประมาณ 5.6 พันล้านดอลลาร์ มุ่งเน้นเครื่องมือบริหารจัดการข้อมูลที่ช่วยให้องค์กรขนาดใหญ่จัดการและกำกับดูแลข้อมูลในภูมิภาคที่กฎเกณฑ์ด้านการปฏิบัติตามข้อกำหนดสำหรับปัญญาประดิษฐ์และการใช้ข้อมูลเข้มงวดเป็นพิเศษ ความร่วมมือครั้งนี้ช่วยเสริมเสาหลักด้านการนำปัญญาประดิษฐ์ไปปฏิบัติของเรื่องราวของโอเพนเท็กซ์ให้คมชัดยิ่งขึ้น โดยเชื่อมโยงชั้นข้อมูลและการปฏิบัติตามข้อกำหนดของบริษัทเข้ากับแพลตฟอร์มตัวแทนปัญญาประดิษฐ์ที่พร้อมใช้งานซึ่งออกแบบมาสำหรับหน่วยงานภาครัฐและธนาคาร แม้ว่าจะเพิ่มความซับซ้อนในการผสานระบบบนทับการปรับโครงสร้างองค์กรและการเปลี่ยนผ่านจากระบบเดิมสู่คลาวด์ที่ยังดำเนินอยู่ก็ตาม
Simply Wall St·2hอ่านต่อ →