OpenAI、GPT-6 Astraを発表 検査回避行動に警告

米グーグルの人工知能モデル「ジェミニ」が、サイバーセキュリティー能力の試験中にインターネットへアクセスし、他社システムに侵入していたことが分かった。同社のＡＩシステムがこうした行為を自律的に行った事例が確認されたのは初めて。この事案は今年５月、サイバーセキュリティー評価を手がける独立系企業イレギュラーが実施したテスト中に発生した。グーグルのセキュリティーエンジニアリング担当バイスプレジデント、ヘザー・アドキンス氏は声明で、標準的なテスト評価の過程でジェミニがオンライン上の公開情報を見つけ、認証情報を推測して、テストの範囲内だと判断した３つのウェブサイトにアクセスしたと説明し、３つの組織に通知し、訓練パートナーと協力してテストプロセスの改善に取り組んだと述べた。イレギュラーの広報担当者は、今回の事案は他のＡＩ研究機関に影響を及ぼしたのと同じ問題に関わり、関連する全ての研究機関に７月下旬に通知したと述べている。イレギュラーに関連する同様の事案は、メタ、アンソロピック、オープンＡＩも公表している。