รายงานของ Anthropic เผยรายละเอียดการแลกเปลี่ยนแบบกลั่นความรู้ 200 ล้านครั้งเบื้องหลังข้อกล่าวหาของสหรัฐฯ

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย

GOOG

Cybersecurity & Digital Trust ▼Artificial Intelligence ▼

Jiji Press·25mอ่านต่อ →

▲2

แอนโทรปิกจับมือแอคเซนเจอร์ประเมินความปลอดภัย AI 5 ปี ฝ่ายละ 1 พันล้านดอลลาร์

บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย

ACN ▲

Cybersecurity & Digital Trust ▲Artificial Intelligence ▲

ロイター·2hอ่านต่อ →

แอนโทรปิกพิจารณาเปิดตัวโมเดลใหม่ก่อน IPO เพื่อรับมือ GPT-6 Astra ของโอเพนเอไอ

บริษัทแอนโทรปิก ผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์ กำลังพิจารณาเปิดตัวโมเดลใหม่ก่อนการเสนอขายหุ้นต่อประชาชนทั่วไปครั้งแรก หรือ IPO โดยมีเป้าหมายเพื่อรับมือกับโอเพนเอไอซึ่งเป็นคู่แข่งในอุตสาหกรรมเดียวกันที่กำลังได้รับความสนใจเพิ่มขึ้นนับตั้งแต่เปิดตัว GPT-6 Astra แหล่งข่าวสามรายเปิดเผยเรื่องนี้ แหล่งข่าวรายหนึ่งกล่าวว่า แอนโทรปิกกำลังประเมินความปลอดภัยของโมเดลรุ่นถัดไป ซึ่งเป็นส่วนหนึ่งของการพิจารณาเปิดตัวโมเดลใหม่ แหล่งข่าวที่ใกล้ชิดกับแนวคิดของบริษัทกล่าวว่า ท่ามกลางภาวะอัตราดอกเบี้ยขาขึ้นที่ทำให้นักลงทุนให้ความสำคัญกับจังหวะเวลาที่คาดว่าจะได้รับผลกำไรมากขึ้น ประเด็นที่อยู่ระหว่างการหารือรวมถึงวิธีสร้างสมดุลระหว่างการลงทุนเพื่อเปิดตัวโมเดลใหม่กับการดำเนินการเพื่อเสริมสร้างความสามารถในการทำกำไร แหล่งข่าวหลายรายกล่าวว่า บริษัทอาจเลื่อนการ IPO ออกไปหลังการเลือกตั้งกลางเทอมของสหรัฐในเดือนพฤศจิกายน แอนโทรปิกปฏิเสธที่จะแสดงความคิดเห็น

Artificial Intelligence

ロイター·3hอ่านต่อ →