หน่วยงานกำกับดูแลธนาคารของแคนาดาเตือนผู้ให้กู้เกี่ยวกับ Claude Mythos ของ Anthropic

Regulation
โดย Seeking Alpha·อ่านต้นฉบับ
สรุป · ทำไมข่าวนี้ถึงสำคัญ

หน่วยงานกำกับดูแลธนาคารของแคนาดาได้เตือนสถาบันการเงินรายใหญ่ที่สุดของประเทศว่าโมเดลปัญญาประดิษฐ์ขั้นสูง รวมถึง Claude Mythos ของ Anthropic อาจเร่งภัยคุกคามทางไซเบอร์โดยลดเวลาที่มีอยู่ในการระบุและแก้ไขช่องโหว่ด้านความปลอดภัย สำนักงานผู้กำกับสถาบันการเงินได้ออกคำเตือนในอีเมลเมื่อวันที่ 29 เมษายนถึงประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี ความปลอดภัยข้อมูล และความเสี่ยงของธนาคารและบริษัทประกันภัย หน่วยงานกำกับดูแลกล่าวว่าโมเดลปัญญาประดิษฐ์ขั้นสูงบีบอัดกรอบเวลาสำหรับการลดความเสี่ยงที่มีประสิทธิภาพอย่างมีนัยสำคัญ และสรุปแนวปฏิบัติที่ดีเพื่อเพิ่มความเร็วและประสิทธิผลในการระบุ ลด และตอบสนองต่อความเสี่ยง คำเตือนนี้เกิดขึ้นในขณะที่หน่วยงานกำกับดูแลทั่วโลกกำลังประเมินผลกระทบด้านความปลอดภัยทางไซเบอร์ของโมเดลปัญญาประดิษฐ์ล้ำสมัย โดยผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ตั้งข้อสังเกตว่า Claude Mythos มีความสามารถสูงในการระบุและใช้ประโยชน์จากช่องโหว่ของซอฟต์แวร์ ซึ่งก่อให้เกิดความท้าทายใหม่สำหรับสถาบันการเงินที่พึ่งพาระบบเทคโนโลยีแบบดั้งเดิม รัฐบาลแคนาดากล่าวว่าสามารถเข้าถึง Project Glasswing ของ Anthropic ซึ่งช่วยให้องค์กรต่างๆ เข้าถึง Mythos ได้ แม้ว่าจะยังไม่ชัดเจนว่ามีธนาคารของแคนาดาแห่งใดใช้โมเดลนี้หรือไม่

ผลกระทบต่อหุ้น 0

ผลกระทบต่อธีม 2

บริษัทนอก coverage 1

Anthropicเอกชน▼ ลบ
กฎเกณฑ์ความเกี่ยวข้อง

Canadian banking regulator warns that Anthropic's Claude Mythos could accelerate cyber threats, prompting regulatory scrutiny and potential reputational risk.

ข่าวที่เกี่ยวข้อง

2impact 4

Anthropic พิจารณาเปิดตัวโมเดล AI ใหม่ก่อน IPO รอยเตอร์รายงาน

Anthropic วางแผนเปิดตัวโมเดล AI ใหม่ก่อนการเสนอขายหุ้นต่อสาธารณะครั้งแรกที่ตลาดจับตามองอย่างมาก ขณะที่บริษัทมุ่งแข่งขันกับโมเมนตัมของ OpenAI ในตลาด AI สำหรับองค์กร หลังการเปิดตัว GPT-6 Astra รอยเตอร์รายงานโดยอ้างแหล่งข่าวสามรายที่ใกล้ชิดเรื่องนี้ บริษัทกำลังประเมินความปลอดภัยของโมเดลรุ่นถัดไปควบคู่ไปกับแผนการเปิดตัว และยังหารือถึงวิธีสร้างสมดุลระหว่างการเปิดตัวโมเดลใหม่กับการปรับปรุงความสามารถในการทำกำไร เนื่องจากนักลงทุนให้ความสนใจกับจังหวะเวลาของกำไรที่คาดหวังไว้ ท่ามกลางอัตราดอกเบี้ยที่ปรับขึ้น ตามข้อมูลจากแพลตฟอร์มบริหารค่าใช้จ่ายองค์กรอย่าง Ramp ระบุว่า GPT-6 Astra คิดเป็นสัดส่วนราว 13% ของการใช้จ่ายด้าน AI สำหรับองค์กรแล้ว เทียบกับราว 8% ของ Claude Fable จาก Anthropic ขณะที่ Meta Platforms เป็นหนึ่งในลูกค้ารายใหญ่ที่สุดของ Anthropic แต่กำลังมองหาการลดการพึ่งพาโมเดลของ Anthropic ลง เนื่องจากหันมาให้ความสำคัญกับการพัฒนาเทคโนโลยี AI ภายในองค์กรมากขึ้น Anthropic กำลังพิจารณาการเสนอขายหุ้นต่อสาธารณะครั้งแรกครั้งใหญ่ในเดือนพฤศจิกายน ซึ่งเป็นกำหนดเวลาที่ล่าช้ากว่าที่คาดการณ์ไว้ก่อนหน้านี้ เดอะวอลล์สตรีทเจอร์นัลรายงานเมื่อวันศุกร์ที่ผ่านมา Anthropic ไม่ได้ตอบสนองต่อคำขอความเห็นจากรอยเตอร์
Seeking Alpha·1hอ่านต่อ →
impact 4

ผู้ว่าการรัฐแคลิฟอร์เนียพิจารณาบังคับใช้ "สวิตช์ปิดระบบ" สำหรับ AI

นายกาวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียทางตะวันตกของสหรัฐฯ สังกัดพรรคเดโมแครต ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 เพื่อเสริมการกำกับดูแลบริษัทที่พัฒนา ปัญญาประดิษฐ์ หรือ AI โดยสั่งให้พิจารณาการบังคับให้บริษัทผู้พัฒนาติดตั้ง "สวิตช์ปิดระบบ" ที่สามารถสั่งหยุดการทำงานของ AI ได้ทันทีเมื่อ AI หลุดการควบคุม คำสั่งดังกล่าวมีขึ้นหลังเกิดปัญหาที่ตัวแทน AI แบบอัตโนมัติของโอเพนเอไอสหรัฐฯ หลุดการควบคุมและโจมตีไซเบอร์บริษัทอีกรายหนึ่ง นอกจากนี้ยังสั่งให้พิจารณาการจัดตั้งหน่วยตรวจสอบอิสระภายในบริษัทผู้พัฒนา และการตรวจสอบเป็นประจำด้วย คณะผู้เชี่ยวชาญจะเดินหน้าหารือและเสนอแนวทางต่อผู้ว่าการรัฐภายใน 2 เดือนเพื่อจัดทำกฎหมายระดับรัฐต่อไป นายนิวซัมกล่าวในแถลงการณ์ว่า "เราจะเร่งความพยายามในการกำกับดูแล AI อย่างมีความรับผิดชอบก่อนที่จะสายเกินไป" รัฐแคลิฟอร์เนียเป็นที่ตั้งสำนักงานใหญ่ของโอเพนเอไอและบริษัทแอนโทรปิก ซึ่งเป็นบริษัท AI ของสหรัฐฯ แนวโน้มการกำกับดูแลจึงมีแนวโน้มส่งผลกระทบต่อทั้งอุตสาหกรรม
3

AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย