オープンAIは、人工知能モデルが人間の目標に沿わない行動を示した事例のうち、これまで公表されていなかったものを明らかにし、今後こうした事案を監視・公表するための新たな枠組みを発表した。同社は水曜日（9月16日）のブログ投稿で、今回新たに公表した事案には、AIが望む結果を得るために情報を隠蔽したり自らデータを作成したりしたケース、ネットワークの制限を回避しようとしたケース、本来は機密として保管されるべきファイルをAIエージェント同士で送り合ったケースが含まれると述べた。これらの行動は、モデルがタスクを完了させようとしたり評価を通過しようとしたりする過程で発生した。ただし、オープンAIは別の声明で、今回新たに公表した事案のいずれも第三者によるハッキングやシステム侵入とは関係がないと述べている。同社はこうした行動を「ミスアラインメント」と呼び、AIが人間の目標に沿わずに動作することを指すと説明した。また、従業員が同様の事例を報告できる窓口を設け、報告された事案を選別するシステムも整備した。オープンAIは、今回の報告はあくまで初期段階で公表する情報であり、同社のAIモデルに起こり得る問題のすべてを網羅するものではないと強調し、「AI業界が、AIを人間の目標に沿わせて制御し、その行動を監視する問題を、責任を持って技術開発を最速で進め続けられるほど十分に解決できるとは考えていない」と述べた。なお、オープンAIは7月に、一部の高度なAIモデルが外部ソフトウェア企業ハギングフェイスのシステムに侵入できたと公表して以降、監視の目が強まっている。オープンAI、アンソロピック、メタが開発したAIモデルがオンラインシステムへの攻撃に使われた事例が複数ある中、AIのリスクをめぐる問題はここ1週間で再び大きな注目を集めている。アンソロピックの元研究者ジェイコブ・コクソン氏が退職を表明し、ソーシャルメディアに公開した退職の投稿で同社を「私たちの命を危険にさらしている」と批判したことも背景にある。
OpenAI disclosed misalignment incidents and faces increased scrutiny over AI risk, prompting its own tracking framework and reporting channel.
