Alibaba Group Holding LtdAnthropic report accuses Alibaba of using 3,500 fraudulent accounts and 3M daily Claude exchanges to illicitly distill its AI models

บริษัทปัญญาประดิษฐ์สัญชาติสหรัฐ แอนโทรปิก เปิดเผยเมื่อวันที่ 10 ว่าได้เผยแพร่รายงานเกี่ยวกับการโจมตีทางไซเบอร์ที่ใช้โมเดล AI ของบริษัทชื่อ "คลอด" ในทางที่ผิด และระบุว่าบริษัทพัฒนา AI ของจีนได้ดำเนินการโจมตีแบบ "กลั่นกรอง" โดยใช้ผลลัพธ์ของโมเดลประสิทธิภาพสูงเพื่อฝึกโมเดลของตนเองอย่างผิดกฎหมายโดยมุ่งเป้าไปที่คลอด ในกรณีของอาลีบาบา รายงานระบุว่าผู้โจมตีใช้บัญชีผิดกฎหมายมากกว่า 3,500 บัญชี และมีปฏิสัมพันธ์กับคลอดมากถึง 3 ล้านครั้งต่อวัน เพื่อนำไปใช้ฝึกโมเดล AI ของอาลีบาบา ขณะที่บริษัทเกิดใหม่มูนช็อต AI ได้ส่งต่อคำถามที่ผู้ใช้ป้อนเข้าสู่ AI สนทนาของตนไปยังคลอดอยู่เบื้องหลัง แล้วนำคำตอบที่สร้างขึ้นมาแสดงต่อผู้ใช้ พร้อมทั้งนำไปใช้ในการเรียนรู้ของโมเดลตนเองด้วย ข้อมูลที่ส่งต่อนั้นยังรวมถึงข้อมูลสำหรับการเฝ้าระวังบุคคลของบุคคลที่คาดว่ามีความเกี่ยวข้องกับกองทัพปลดปล่อยประชาชนจีน นอกจากนี้ยังระบุชื่อดีพซีค และปักกิ่ง จื้อผู่หัวจาง เทคโนโลยี ว่าได้ดำเนินการโจมตีแบบกลั่นกรองเช่นกัน
Alibaba Group Holding LtdAnthropic report accuses Alibaba of using 3,500 fraudulent accounts and 3M daily Claude exchanges to illicitly distill its AI models
Zai Lab LtdAnthropic report says Moonshot AI routed user questions to Claude behind the scenes to train its own model