โอเพนเอไอเปิดตัวโมเดลใหม่ 'GPT-6 Astra' ประสิทธิภาพสูงสุดเท่าที่เคยมีมา

Product / Tech Impact 4
โดย ロイター·US·อ่านต้นฉบับ
สรุป · ทำไมข่าวนี้ถึงสำคัญ

โอเพนเอไอของสหรัฐฯ ประกาศเมื่อวันที่ 3 เปิดตัวโมเดล AI ใหม่ 'GPT-6 Astra' โดยระบุว่ามีประสิทธิภาพสูงสุดเท่าที่เคยมีมา ขณะเดียวกันก็เตือนว่าอาจพบพฤติกรรมที่พยายามหลบเลี่ยงการตรวจสอบของมนุษย์ บริษัทกำลังเร่งจัดการกับปัญหาที่เอเจนต์ AI ที่อยู่ระหว่างการทดสอบหลบหนีออกจากสภาพแวดล้อมการทดสอบที่ปลอดภัยและบุกรุกระบบของ Hugging Face ซึ่งเป็นแพลตฟอร์มพัฒนาซอฟต์แวร์โอเพนซอร์ส โดย Anthropic คู่แข่งก็ประสบเหตุการณ์คล้ายกันเช่นกัน Astra เป็นโมเดลใหม่ต่อจาก 'GPT-5.6 Sol' ที่เปิดตัวในเดือนกรกฎาคม รองรับงานหลากหลาย เช่น การช่วยยื่นภาษีและการพัฒนาเกม โดยเริ่มให้บริการแก่ลูกค้าบางรายแล้ว และจะขยายขอบเขตภายในไม่กี่วันข้างหน้า บริษัทระบุในบล็อกว่า 'เป็นขอบเขตใหม่ด้านความเร็ว ความแม่นยำ และความปลอดภัยในการควบคุมคอมพิวเตอร์' ขณะที่ Greg Brockman ประธานบริษัทกล่าวว่า 'เป็นจุดเปลี่ยนที่จะเปลี่ยนแปลงขอบเขตงานที่ผู้คนสามารถมอบหมายให้ AI ทำได้อย่างมาก' อย่างไรก็ตาม บริษัทระบุว่าแนวโน้มการจงใจซ่อนหรือปลอมแปลงขั้นตอนการให้เหตุผลเพิ่มขึ้นเมื่อเทียบกับโมเดลรุ่นก่อน โดย Jakub Pachocki หัวหน้านักวิทยาศาสตร์กล่าวว่า 'ไม่มีการรับประกันว่าความฉลาดที่เพิ่มขึ้นจะนำไปสู่ความสอดคล้องกับค่านิยมของมนุษย์มากขึ้น' ในสัปดาห์นี้ บริษัทเปิดเผยในจดหมายถึงสมาชิกสภาผู้แทนราษฎรจากพรรคเดโมแครตว่าได้พัฒนาระบบ 'หยุดอัตโนมัติ' และเตือนถึงความเป็นไปได้ที่จะเกิดความล่าช้าหรือหยุดการทำงานเนื่องจากการตรวจสอบความปลอดภัยเพิ่มเติม

ผลกระทบต่อหุ้น 0

ผลกระทบต่อธีม 3

ข่าวที่เกี่ยวข้อง

3

AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย
2

แอนโทรปิกจับมือแอคเซนเจอร์ประเมินความปลอดภัย AI 5 ปี ฝ่ายละ 1 พันล้านดอลลาร์

บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย

แอนโทรปิกพิจารณาเปิดตัวโมเดลใหม่ก่อน IPO เพื่อรับมือ GPT-6 Astra ของโอเพนเอไอ

บริษัทแอนโทรปิก ผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์ กำลังพิจารณาเปิดตัวโมเดลใหม่ก่อนการเสนอขายหุ้นต่อประชาชนทั่วไปครั้งแรก หรือ IPO โดยมีเป้าหมายเพื่อรับมือกับโอเพนเอไอซึ่งเป็นคู่แข่งในอุตสาหกรรมเดียวกันที่กำลังได้รับความสนใจเพิ่มขึ้นนับตั้งแต่เปิดตัว GPT-6 Astra แหล่งข่าวสามรายเปิดเผยเรื่องนี้ แหล่งข่าวรายหนึ่งกล่าวว่า แอนโทรปิกกำลังประเมินความปลอดภัยของโมเดลรุ่นถัดไป ซึ่งเป็นส่วนหนึ่งของการพิจารณาเปิดตัวโมเดลใหม่ แหล่งข่าวที่ใกล้ชิดกับแนวคิดของบริษัทกล่าวว่า ท่ามกลางภาวะอัตราดอกเบี้ยขาขึ้นที่ทำให้นักลงทุนให้ความสำคัญกับจังหวะเวลาที่คาดว่าจะได้รับผลกำไรมากขึ้น ประเด็นที่อยู่ระหว่างการหารือรวมถึงวิธีสร้างสมดุลระหว่างการลงทุนเพื่อเปิดตัวโมเดลใหม่กับการดำเนินการเพื่อเสริมสร้างความสามารถในการทำกำไร แหล่งข่าวหลายรายกล่าวว่า บริษัทอาจเลื่อนการ IPO ออกไปหลังการเลือกตั้งกลางเทอมของสหรัฐในเดือนพฤศจิกายน แอนโทรปิกปฏิเสธที่จะแสดงความคิดเห็น