テナブル、グーグル・ジェミニにAIセキュリティ対象を拡大、黒字転換

アンソロピックは、イエメン北部の兵器組織が3つの兵器プログラムの誘導・航法・制御ソフトウェアの開発にクロードを利用したと報告した。これには多段弾道ミサイルと極超音速滑空機が含まれるとヤルデニ・リサーチは伝えている。アンソロピックは実戦配備された兵器の証拠は見つからなかったとし、別にイランと関連が疑われる主体がクロードを使い、公開されている船舶や衛星のデータを分析して米海軍部隊に関する標的情報を作成していた。これらのアカウントは禁止され、当局に通報された。この発見は、AI企業幹部の間でフロンティアモデルの開発を遅らせるべきだとの声を強めており、アンソロピックのダリオ・アモデイCEOはAIラボへのアクセスを持つ外部評価者と共通の安全基準を提案し、オープンAIのサム・アルトマンCEOはより高性能なモデルの開発鈍化とより大きな独立した監視の両方を支持している。問題は、クローズドモデルへの制限がオープンウェイトシステムには及ばない可能性があることだ。オープンウェイトシステムはダウンロードして非公開で運用でき、安全制御を除去するよう改変できる。中国の開発企業であるディープシーク、智譜、ミニマックスの主要なオープンウェイトモデルは、能力開発において米国の主要なクローズドモデルにわずか3～6カ月しか遅れていないと、報告書が引用したオープンルーターのデータは示している。投資家にとっての当面の疑問は、安全論争がモデル発表、設備投資、期待リターンに影響を与え始めるかどうかであり、より重大なシグナルとしては、フロンティアモデル発表の延期、ハイパースケーラーの設備投資削減、投資収益率ガイダンスの弱まり、規制当局がモデルに直接アクセスできるようになることなどが挙げられる。

グーグルは金曜日、同社のAIモデル「Gemini」が5月、サイバーセキュリティ能力の検証中に3社のシステムへ不正にアクセスしていたことを認めた。同社のAIシステムが自律的にこうした行為に及んだ事例として確認されたのは初めてとなる。アルファベット傘下のグーグルによると、Geminiはログイン情報を推測したり、公開リポジトリで見つけた認証情報を使ったりして外部システムにアクセスした。グーグルは、Geminiのテストを担当していたAI特化型サイバーセキュリティ企業Irregularが、Hugging Faceに影響を与えた事例と類似するインシデントを探すために作業を精査した7月まで、これらの侵入を把握していなかったと述べた。一連のハッキングを最初に報じたのはウォール・ストリート・ジャーナルで、同紙が今週グーグルに問い合わせるまで同社はこの件を公表していなかったと伝えている。グーグルのセキュリティエンジニアリング担当バイスプレジデント、ヘザー・アトキンス氏は、Geminiは外部システムをテストの一部と認識していたが、3件すべてで侵入後はそれ以上の行為には及ばなかったと説明した。