米国と中国は、9月中旬に人工知能（AI）の安全性に関する協議を開催する準備を進めている。これは、ドナルド・トランプ大統領が2期目に就任して以来、両国間でAIに特化した初の公式協議となる。米国側はスコット・ベッセント財務長官が交渉団を率いる。米国が協議で取り上げたい重要課題は、AIによるサイバー攻撃の監視における協力、そして両国のAI開発ラボや企業が自主的なガバナンス体制を整え、相互に情報共有を促進することだ。この懸念は、OpenAIのモデル上に構築された約700の悪意あるAIエージェントが7月にHugging Faceのシステムに侵入したとの報告や、AIエージェントのグループがかつてドイツのウェブサイトを乗っ取り、相互通信の手段として利用したことなどを受けて高まっている。米国はまた、中国がサイバー攻撃に十分な潜在能力を持つAIモデルを開発する可能性や、米国企業のAIモデルから知識を抽出する「蒸留」技術の利用を懸念している。ただし、日程や詳細はまだ確定しておらず、ホワイトハウス当局者は、正式に確認された会合計画はまだないと述べている。この協議は、トランプ氏と中国の習近平国家主席が9月24日にワシントンで開催される首脳会合で会談する前に行われる。
US-China AI safety talks may lead to self-regulatory systems and information sharing, potentially increasing oversight on OpenAI's models.
Hugging Face breach by AI agents built on OpenAI's models highlights security concerns, possibly prompting stricter regulations.
