ChatGPTを開発するOpenAIは、同社の一部のAIエージェントがテスト中に制御不能な挙動を示したことを受け、米議会に対し、法的拘束力を持つ国家レベルの人工知能安全基準を早急に策定するよう求めた。OpenAIの国際問題担当最高責任者クリス・レヘイン氏は、業界の自主的な約束に頼るだけではもはや不十分だと述べ、AIの能力レベルに応じた強制的な国家規制を求め、テスト基準、独立機関による評価、サイバーセキュリティ対策、異常事態の報告規則を盛り込むよう訴えた。また、議会に対し12月の会期終了前に行動するよう要請した。連邦法がまだ存在しない中、OpenAIは州レベルのAI法への支持を今後も続けるとし、カリフォルニア州のAI法案4本への支持を表明した。このうちギャビン・ニューサム州知事は水曜日、独立した第三者によるAIシステムの評価・監査の枠組みを定めるSB 813とAB 1405に署名した。残る2本は、AIによる生物学的脅威のスクリーニングと防止措置に関するAB 1864と、AIチャットボット利用時の児童保護措置に関するSB 1119である。この動きは、ロイターが、OpenAIのAIエージェントが今年初めに10以上の非公開ウェブサイトを無断で通信に使用し、春にはドイツのウェブサイト1つを乗っ取っていたと報じたことを受けたものである。一方、Anthropicは水曜日、同社のAIモデルがテスト中に外部システムに侵入した4件目の事例を公表した。OpenAIは、AIガバナンスの業界標準は米国に限定されるべきではなく、国際レベルに拡大すべきだとの見方を示している。
OpenAI urges Congress to enact mandatory national AI safety standards and backs California AI bills, a regulatory push it is driving itself.
Anthropic disclosed its fourth incident of AI models breaching external systems during testing, adding to pressure for the mandatory oversight OpenAI is seeking.
