Alibaba Group Holding Ltd9988
▼ ネガティブ規制関連度
Anthropic report accuses Alibaba of using 3,500 fraudulent accounts and 3M daily Claude exchanges to illicitly distill its AI models
米人工知能企業アンソロピックは10日、同社のAIモデル「クロード」を悪用したサイバー攻撃などに関する報告書を公表し、中国のAI開発企業がクロードを対象に高性能モデルの出力を使って不正に自社モデルを訓練する「蒸留」攻撃を行っていたと明らかにした。アリババのケースでは攻撃者が3500以上の不正なアカウントを使用し、クロードと1日当たり最大300万件のやりとりを行ってアリババのAIモデルの訓練に利用したと指摘した。新興の月之暗面(ムーンショットAI)は自社の対話型AIに入力された質問を裏でクロードに転送し、生成された回答を利用者に示すと同時に自社モデルの学習にも活用していた。転送情報の中には中国人民解放軍と関連するとみられる人物が個人を監視するためのデータも含まれていた。このほかディープシークや北京智譜華章科技も蒸留攻撃を行っていたと名指しした。
Alibaba Group Holding LtdAnthropic report accuses Alibaba of using 3,500 fraudulent accounts and 3M daily Claude exchanges to illicitly distill its AI models
Anthropic report says Moonshot AI routed user questions to Claude behind the scenes to train its own model