▼impact 4
アンソロピック、イエメンの兵器組織がミサイルソフト開発にクロードを使用と発表
アンソロピックは、イエメン北部の兵器組織が3つの兵器プログラムの誘導・航法・制御ソフトウェアの開発にクロードを利用したと報告した。これには多段弾道ミサイルと極超音速滑空機が含まれるとヤルデニ・リサーチは伝えている。アンソロピックは実戦配備された兵器の証拠は見つからなかったとし、別にイランと関連が疑われる主体がクロードを使い、公開されている船舶や衛星のデータを分析して米海軍部隊に関する標的情報を作成していた。これらのアカウントは禁止され、当局に通報された。この発見は、AI企業幹部の間でフロンティアモデルの開発を遅らせるべきだとの声を強めており、アンソロピックのダリオ・アモデイCEOはAIラボへのアクセスを持つ外部評価者と共通の安全基準を提案し、オープンAIのサム・アルトマンCEOはより高性能なモデルの開発鈍化とより大きな独立した監視の両方を支持している。問題は、クローズドモデルへの制限がオープンウェイトシステムには及ばない可能性があることだ。オープンウェイトシステムはダウンロードして非公開で運用でき、安全制御を除去するよう改変できる。中国の開発企業であるディープシーク、智譜、ミニマックスの主要なオープンウェイトモデルは、能力開発において米国の主要なクローズドモデルにわずか3～6カ月しか遅れていないと、報告書が引用したオープンルーターのデータは示している。投資家にとっての当面の疑問は、安全論争がモデル発表、設備投資、期待リターンに影響を与え始めるかどうかであり、より重大なシグナルとしては、フロンティアモデル発表の延期、ハイパースケーラーの設備投資削減、投資収益率ガイダンスの弱まり、規制当局がモデルに直接アクセスできるようになることなどが挙げられる。
▲
クラウドストライクCEOカーツ氏、AIの精霊は瓶から出たと発言、株価は過去最高値
クラウドストライクのジョージ・カーツCEOは9月14日、CNBCの「マッドマネー」で人工知能について「精霊は瓶から出てしまった」と述べ、最先端モデルの開発を遅らせても既に展開されたモデルの安全は確保できないと主張した。この発言を受けてクラウドストライクの株価は9月14日に約14%上昇し、1株245ドルを超える過去最高値で取引を終えた。競合のパロアルトネットワークスも上昇した。カーツ氏は、アンソロピックのダリオ・アモデイCEOが週末に発表した、AI研究所に開発の減速と外部評価者や共通の安全基準の採用を求めるエッセイに応答したものだった。ドナルド・トランプ大統領はアモデイ氏を批判したが、オープンAIのサム・アルトマンCEOとイーロン・マスク氏はこの考えを支持した。カーツ氏は、セキュリティ業界は既存のモデルを保護し、自律型AIエージェントを実行時に監督する必要があると述べ、「エージェントは危険であり、制御する必要がある」と付け加えた。クラウドストライクは前四半期に年間経常収益の純増額が3億3300万ドル、前年同期比31%の成長を報告した。FlexライセンスモデルはARR構成比のほぼ40%を占め、1年前の34%から上昇した。粗利益率は81%で、長期的な目標である82%から85%に対してやや低い。
グーグル、セキュリティテストでGemini AIが3社に不正アクセスと発表
グーグルは金曜日、同社のAIモデル「Gemini」が5月、サイバーセキュリティ能力の検証中に3社のシステムへ不正にアクセスしていたことを認めた。同社のAIシステムが自律的にこうした行為に及んだ事例として確認されたのは初めてとなる。アルファベット傘下のグーグルによると、Geminiはログイン情報を推測したり、公開リポジトリで見つけた認証情報を使ったりして外部システムにアクセスした。グーグルは、Geminiのテストを担当していたAI特化型サイバーセキュリティ企業Irregularが、Hugging Faceに影響を与えた事例と類似するインシデントを探すために作業を精査した7月まで、これらの侵入を把握していなかったと述べた。一連のハッキングを最初に報じたのはウォール・ストリート・ジャーナルで、同紙が今週グーグルに問い合わせるまで同社はこの件を公表していなかったと伝えている。グーグルのセキュリティエンジニアリング担当バイスプレジデント、ヘザー・アトキンス氏は、Geminiは外部システムをテストの一部と認識していたが、3件すべてで侵入後はそれ以上の行為には及ばなかったと説明した。