ผลกระทบต่อหุ้น 0
ผลกระทบต่อธีม 1
บริษัทนอก coverage
ข่าวที่เกี่ยวข้อง
▲2
บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย
▼
AI ของกูเกิลอย่าง "เจมินี" บุกระบบของบริษัทอื่น ถือเป็นพฤติกรรมอิสระครั้งแรก
พบว่าโมเดลปัญญาประดิษฐ์ "เจมินี" ของกูเกิลสหรัฐฯ ได้เข้าถึงอินเทอร์เน็ตและบุกเข้าไปในระบบของบริษัทอื่นระหว่างการทดสอบความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ ถือเป็นครั้งแรกที่มีการยืนยันกรณีที่ระบบ AI ของบริษัทดังกล่าวกระทำการเช่นนี้ด้วยตนเอง เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบที่บริษัทอิสระชื่ออิเรกูลาร์ ซึ่งเชี่ยวชาญด้านการประเมินความมั่นคงปลอดภัยไซเบอร์ เป็นผู้ดำเนินการเมื่อเดือนพฤษภาคมที่ผ่านมา นางเฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความมั่นคงปลอดภัยของกูเกิล กล่าวในแถลงการณ์ว่า ในระหว่างกระบวนการประเมินการทดสอบมาตรฐาน เจมินีได้ค้นพบข้อมูลสาธารณะทางออนไลน์ คาดเดาข้อมูลรับรอง และเข้าถึงเว็บไซต์สามแห่งที่เห็นว่าอยู่ในขอบเขตของการทดสอบ พร้อมระบุว่าได้แจ้งให้องค์กรทั้งสามทราบแล้ว และร่วมมือกับพันธมิตรด้านการฝึกอบรมเพื่อปรับปรุงกระบวนการทดสอบ โฆษกของอิเรกูลาร์กล่าวว่า เหตุการณ์ครั้งนี้เกี่ยวข้องกับปัญหเดียวกับที่ส่งผลกระทบต่อสถาบันวิจัย AI อื่นๆ และได้แจ้งให้สถาบันวิจัยที่เกี่ยวข้องทั้งหมดทราบเมื่อปลายเดือนกรกฎาคม เหตุการณ์ลักษณะเดียวกันที่เกี่ยวข้องกับอิเรกูลาร์นั้น เมตา แอนโทรปิก และโอเพนเอไอ ก็ได้เปิดเผยเช่นกัน
2
ซีอีโออัลต์แมนแห่งโอเพนเอไอจะอธิบายมาตรการความปลอดภัยด้านเอไอในการประชุมคณะมนตรีความมั่นคงแห่งสหประชาชาติ
แซม อัลต์แมน ประธานเจ้าหน้าที่บริหารของโอเพนเอไอ จะอธิบายมาตรการความปลอดภัยด้านเอไอในการประชุมคณะมนตรีความมั่นคงแห่งสหประชาชาติ ในขณะที่ผู้นำประเทศต่างๆ เดินทางมารวมตัวกันที่นิวยอร์กเพื่อเข้าร่วมการประชุมสมัชชาสหประชาชาติในสัปดาห์หน้า โฆษกของบริษัทเปิดเผยเมื่อวันที่ 18 ว่า คณะมนตรีความมั่นคงจะจัดการประชุมเกี่ยวกับเอไอและความมั่นคงระหว่างประเทศในวันที่ 23 โดยโฆษกกล่าวว่า อัลต์แมนจะอธิบายถึงความจำเป็นในการประสานงานระหว่างประเทศและมาตรฐานความปลอดภัยร่วม ตลอดจนมาตรการต่างๆ ที่บริษัทได้ดำเนินการ แหล่งข่าวทางการทูตระบุว่า ผู้บริหารของแอนโทรปิกก็คาดว่าจะเข้าร่วมการประชุมครั้งนี้ด้วย แต่ยังไม่ได้รับการยืนยัน ผู้บริหารในอุตสาหกรรมเอไอหลายรายได้เตือนในช่วงไม่กี่สัปดาห์ที่ผ่านมาว่า เอไออาจพัฒนาตนเองได้ในไม่ช้าและหลุดพ้นจากการควบคุมของมนุษย์ พร้อมเรียกร้องให้ชะลอการพัฒนาอย่างประสานกัน