OpenAIเอกชน▼ ลบ
กฎเกณฑ์ความเกี่ยวข้อง
EU is in talks with OpenAI about AI hacking incidents and may enforce AI Act, increasing regulatory scrutiny.
ผลกระทบต่อหุ้น 0
ผลกระทบต่อธีม 2
บริษัทนอก coverage 1
ข่าวที่เกี่ยวข้อง
▲2
แอนโทรปิกจับมือแอคเซนเจอร์ประเมินความปลอดภัย AI 5 ปี ฝ่ายละ 1 พันล้านดอลลาร์
บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย
▼
AI ของกูเกิลอย่าง "เจมินี" บุกระบบของบริษัทอื่น ถือเป็นพฤติกรรมอิสระครั้งแรก
พบว่าโมเดลปัญญาประดิษฐ์ "เจมินี" ของกูเกิลสหรัฐฯ ได้เข้าถึงอินเทอร์เน็ตและบุกเข้าไปในระบบของบริษัทอื่นระหว่างการทดสอบความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ ถือเป็นครั้งแรกที่มีการยืนยันกรณีที่ระบบ AI ของบริษัทดังกล่าวกระทำการเช่นนี้ด้วยตนเอง เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบที่บริษัทอิสระชื่ออิเรกูลาร์ ซึ่งเชี่ยวชาญด้านการประเมินความมั่นคงปลอดภัยไซเบอร์ เป็นผู้ดำเนินการเมื่อเดือนพฤษภาคมที่ผ่านมา นางเฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความมั่นคงปลอดภัยของกูเกิล กล่าวในแถลงการณ์ว่า ในระหว่างกระบวนการประเมินการทดสอบมาตรฐาน เจมินีได้ค้นพบข้อมูลสาธารณะทางออนไลน์ คาดเดาข้อมูลรับรอง และเข้าถึงเว็บไซต์สามแห่งที่เห็นว่าอยู่ในขอบเขตของการทดสอบ พร้อมระบุว่าได้แจ้งให้องค์กรทั้งสามทราบแล้ว และร่วมมือกับพันธมิตรด้านการฝึกอบรมเพื่อปรับปรุงกระบวนการทดสอบ โฆษกของอิเรกูลาร์กล่าวว่า เหตุการณ์ครั้งนี้เกี่ยวข้องกับปัญหเดียวกับที่ส่งผลกระทบต่อสถาบันวิจัย AI อื่นๆ และได้แจ้งให้สถาบันวิจัยที่เกี่ยวข้องทั้งหมดทราบเมื่อปลายเดือนกรกฎาคม เหตุการณ์ลักษณะเดียวกันที่เกี่ยวข้องกับอิเรกูลาร์นั้น เมตา แอนโทรปิก และโอเพนเอไอ ก็ได้เปิดเผยเช่นกัน
แอนโทรปิกพิจารณาเปิดตัวโมเดลใหม่ก่อน IPO เพื่อรับมือ GPT-6 Astra ของโอเพนเอไอ
บริษัทแอนโทรปิก ผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์ กำลังพิจารณาเปิดตัวโมเดลใหม่ก่อนการเสนอขายหุ้นต่อประชาชนทั่วไปครั้งแรก หรือ IPO โดยมีเป้าหมายเพื่อรับมือกับโอเพนเอไอซึ่งเป็นคู่แข่งในอุตสาหกรรมเดียวกันที่กำลังได้รับความสนใจเพิ่มขึ้นนับตั้งแต่เปิดตัว GPT-6 Astra แหล่งข่าวสามรายเปิดเผยเรื่องนี้
แหล่งข่าวรายหนึ่งกล่าวว่า แอนโทรปิกกำลังประเมินความปลอดภัยของโมเดลรุ่นถัดไป ซึ่งเป็นส่วนหนึ่งของการพิจารณาเปิดตัวโมเดลใหม่
แหล่งข่าวที่ใกล้ชิดกับแนวคิดของบริษัทกล่าวว่า ท่ามกลางภาวะอัตราดอกเบี้ยขาขึ้นที่ทำให้นักลงทุนให้ความสำคัญกับจังหวะเวลาที่คาดว่าจะได้รับผลกำไรมากขึ้น ประเด็นที่อยู่ระหว่างการหารือรวมถึงวิธีสร้างสมดุลระหว่างการลงทุนเพื่อเปิดตัวโมเดลใหม่กับการดำเนินการเพื่อเสริมสร้างความสามารถในการทำกำไร
แหล่งข่าวหลายรายกล่าวว่า บริษัทอาจเลื่อนการ IPO ออกไปหลังการเลือกตั้งกลางเทอมของสหรัฐในเดือนพฤศจิกายน แอนโทรปิกปฏิเสธที่จะแสดงความคิดเห็น