แอนโทรปิกเปิดเผยการโจมตีแบบ "กลั่นกรอง" โดยบริษัท AI จีน รวมถึงอาลีบาบา

RegulationProduct / Tech Impact 4
โดย Jiji Press·USCN·อ่านต้นฉบับ
สรุป · ทำไมข่าวนี้ถึงสำคัญ

บริษัทปัญญาประดิษฐ์สัญชาติสหรัฐ แอนโทรปิก เปิดเผยเมื่อวันที่ 10 ว่าได้เผยแพร่รายงานเกี่ยวกับการโจมตีทางไซเบอร์ที่ใช้โมเดล AI ของบริษัทชื่อ "คลอด" ในทางที่ผิด และระบุว่าบริษัทพัฒนา AI ของจีนได้ดำเนินการโจมตีแบบ "กลั่นกรอง" โดยใช้ผลลัพธ์ของโมเดลประสิทธิภาพสูงเพื่อฝึกโมเดลของตนเองอย่างผิดกฎหมายโดยมุ่งเป้าไปที่คลอด ในกรณีของอาลีบาบา รายงานระบุว่าผู้โจมตีใช้บัญชีผิดกฎหมายมากกว่า 3,500 บัญชี และมีปฏิสัมพันธ์กับคลอดมากถึง 3 ล้านครั้งต่อวัน เพื่อนำไปใช้ฝึกโมเดล AI ของอาลีบาบา ขณะที่บริษัทเกิดใหม่มูนช็อต AI ได้ส่งต่อคำถามที่ผู้ใช้ป้อนเข้าสู่ AI สนทนาของตนไปยังคลอดอยู่เบื้องหลัง แล้วนำคำตอบที่สร้างขึ้นมาแสดงต่อผู้ใช้ พร้อมทั้งนำไปใช้ในการเรียนรู้ของโมเดลตนเองด้วย ข้อมูลที่ส่งต่อนั้นยังรวมถึงข้อมูลสำหรับการเฝ้าระวังบุคคลของบุคคลที่คาดว่ามีความเกี่ยวข้องกับกองทัพปลดปล่อยประชาชนจีน นอกจากนี้ยังระบุชื่อดีพซีค และปักกิ่ง จื้อผู่หัวจาง เทคโนโลยี ว่าได้ดำเนินการโจมตีแบบกลั่นกรองเช่นกัน

ผลกระทบต่อหุ้น 2

Artificial Intelligence · 1 หุ้น
Alibaba Group Holding Ltd
9988
▼ ลบกฎเกณฑ์ความเกี่ยวข้อง

Anthropic report accuses Alibaba of using 3,500 fraudulent accounts and 3M daily Claude exchanges to illicitly distill its AI models

Biotech & Genomic Medicine · 1 หุ้น

ผลกระทบต่อธีม 3

บริษัทนอก coverage 1

Moonshot AI (北京月之暗面科技有限公司)เอกชน▼ ลบ
กฎเกณฑ์ความเกี่ยวข้อง

Anthropic report says Moonshot AI routed user questions to Claude behind the scenes to train its own model

ข่าวที่เกี่ยวข้อง

impact 4

ผู้ว่าการรัฐแคลิฟอร์เนียพิจารณาบังคับใช้ "สวิตช์ปิดระบบ" สำหรับ AI

นายกาวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียทางตะวันตกของสหรัฐฯ สังกัดพรรคเดโมแครต ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 เพื่อเสริมการกำกับดูแลบริษัทที่พัฒนา ปัญญาประดิษฐ์ หรือ AI โดยสั่งให้พิจารณาการบังคับให้บริษัทผู้พัฒนาติดตั้ง "สวิตช์ปิดระบบ" ที่สามารถสั่งหยุดการทำงานของ AI ได้ทันทีเมื่อ AI หลุดการควบคุม คำสั่งดังกล่าวมีขึ้นหลังเกิดปัญหาที่ตัวแทน AI แบบอัตโนมัติของโอเพนเอไอสหรัฐฯ หลุดการควบคุมและโจมตีไซเบอร์บริษัทอีกรายหนึ่ง นอกจากนี้ยังสั่งให้พิจารณาการจัดตั้งหน่วยตรวจสอบอิสระภายในบริษัทผู้พัฒนา และการตรวจสอบเป็นประจำด้วย คณะผู้เชี่ยวชาญจะเดินหน้าหารือและเสนอแนวทางต่อผู้ว่าการรัฐภายใน 2 เดือนเพื่อจัดทำกฎหมายระดับรัฐต่อไป นายนิวซัมกล่าวในแถลงการณ์ว่า "เราจะเร่งความพยายามในการกำกับดูแล AI อย่างมีความรับผิดชอบก่อนที่จะสายเกินไป" รัฐแคลิฟอร์เนียเป็นที่ตั้งสำนักงานใหญ่ของโอเพนเอไอและบริษัทแอนโทรปิก ซึ่งเป็นบริษัท AI ของสหรัฐฯ แนวโน้มการกำกับดูแลจึงมีแนวโน้มส่งผลกระทบต่อทั้งอุตสาหกรรม
3

AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย
2

โอเพนเท็กซ์จับมือโคเฮียร์พัฒนาปัญญาประดิษฐ์ที่เชื่อถือได้สำหรับภาครัฐ

โอเพนเท็กซ์ได้จับมือกับบริษัทโคเฮียร์ผู้พัฒนาปัญญาประดิษฐ์ เพื่อเสนอเครื่องมือปัญญาประดิษฐ์แบบเอเจนติกสำหรับหน่วยงานภาครัฐและภาคอุตสาหกรรมที่มีการกำกับดูแลอย่างเข้มงวด ความร่วมมือครั้งนี้มุ่งเน้นการนำตัวแทนปัญญาประดิษฐ์ไปใช้งานอย่างเชื่อถือได้ โดยทำงานร่วมกับข้อมูลองค์กรที่มีความละเอียดอ่อนในสภาพแวดล้อมที่ถูกควบคุมอย่างแน่นหนา ทั้งสองบริษัทวางแผนที่จะมอบทางเลือกในการติดตั้งใช้งานที่ยืดหยุ่นให้แก่ลูกค้า รวมถึงรูปแบบการติดตั้งแบบส่วนตัวและแบบผสมผสานเพื่อให้สอดคล้องกับข้อกำหนดด้านความปลอดภัย โอเพนเท็กซ์ ซึ่งเป็นผู้ให้บริการซอฟต์แวร์ในรัฐแคลิฟอร์เนียและมีมูลค่าตลาดประมาณ 5.6 พันล้านดอลลาร์ มุ่งเน้นเครื่องมือบริหารจัดการข้อมูลที่ช่วยให้องค์กรขนาดใหญ่จัดการและกำกับดูแลข้อมูลในภูมิภาคที่กฎเกณฑ์ด้านการปฏิบัติตามข้อกำหนดสำหรับปัญญาประดิษฐ์และการใช้ข้อมูลเข้มงวดเป็นพิเศษ ความร่วมมือครั้งนี้ช่วยเสริมเสาหลักด้านการนำปัญญาประดิษฐ์ไปปฏิบัติของเรื่องราวของโอเพนเท็กซ์ให้คมชัดยิ่งขึ้น โดยเชื่อมโยงชั้นข้อมูลและการปฏิบัติตามข้อกำหนดของบริษัทเข้ากับแพลตฟอร์มตัวแทนปัญญาประดิษฐ์ที่พร้อมใช้งานซึ่งออกแบบมาสำหรับหน่วยงานภาครัฐและธนาคาร แม้ว่าจะเพิ่มความซับซ้อนในการผสานระบบบนทับการปรับโครงสร้างองค์กรและการเปลี่ยนผ่านจากระบบเดิมสู่คลาวด์ที่ยังดำเนินอยู่ก็ตาม
Simply Wall St·3hอ่านต่อ →