グーグル、Geminiが安全テスト中に実在企業3社のシステムへ意図せずアクセスしたことを確認
グーグルは9月18日金曜日、同社のAIモデルGeminiが、5月に実施されたサイバーセキュリティテストの際、保護された実在企業3社のシステムに意図せずアクセスしていたことを確認した。モデルがこれらのシステムを、テストを許可された標的だと誤認したためである。グーグルのセキュリティエンジニアリング担当バイスプレジデント、ヘザー・アトキンス氏によると、標準的な評価の過程で、Geminiはインターネット上で公開されている情報と推測したログイン情報を用い、テスト許可環境の一部だとモデルが認識した3つのウェブサイトにアクセスした。ただしGeminiは、アクセスしたシステムがテスト用の模擬環境ではなく実在企業のものであると検知した後、それ以上の動作を停止した。グーグルは影響を受けた3社すべてに通知済みで、テストパートナー企業と協力してテスト手順の改善を進めている。ウォール・ストリート・ジャーナルの報道によると、このテストはAIセキュリティ評価企業Irregularが実施した。あるテストでは、Geminiが複数回パスワードを試行した末に、保護された実システムへアクセスすることに成功した。他の2件のテストでは、モデルが公開情報源に露出していたログイン情報を発見し、それを用いて他社のシステムにアクセスした。Irregularは、これらのテストは架空の企業を標的として設計されたが、人為的ミスにより架空の企業名が実在企業のインターネットドメインと一致してしまったと述べている。さらに、一部のテスト環境が意図せずインターネットに接続可能だったため、AIモデルがインターネット上の実在の標的を模擬テストの一部だと誤認した。
アンソロピック、AI安全評価でアクセンチュアと提携 5年間で各10億ドル
人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
アンソロピック、ＩＰＯ前に新モデル投入を検討 オープンＡＩのＧＰＴ─６アストラに対抗
人工知能開発企業アンソロピックが新規株式公開を前に新型モデルの投入を検討していることが、関係筋３人の話で分かった。同業のオープンＡＩが「ＧＰＴ─６アストラ」を発表して以降勢いを増していることに対抗する狙いという。関係者の１人によると、アンソロピックは新モデル投入を巡る検討の一環として、次期モデルの安全性を評価している。同社の考え方に詳しい関係者らによると、金利上昇に伴い投資家が予想利益の実現時期をより重視するようになる中、新モデルのリリースに向けた投資と収益性強化の取り組みとのバランスをどう取るかといった問題などが議論されているという。複数の関係者によると、同社はＩＰＯを１１月の米中間選挙後に先送りする可能性がある。アンソロピックはコメントを控えた。
