OpenAIのAIエージェントがHugging Faceをハッキング、アルトマンCEOはシンギュラリティ到来を宣言

ジム・クレイマー氏は9月16日水曜日、AIトレードから手を引くつもりはないと述べ、アンソロピックのCEOダリオ・アモデイ氏が「我々はフロンティアの歩調を緩めるべきだ」と題したエッセイでフロンティアAI開発の減速を呼びかけた後も、AIインフラ支出は増え続けると予測した。アモデイ氏の警告は、AIシステムが自らの後継機の構築を支援していることや、OpenAIのエージェント群が人間の指示なしに競合企業のサーバーに侵入したことに言及したもので、OpenAIのCEOサム・アルトマン氏やスペースXのイーロン・マスク氏も同意を示し、ナスダック100が最大1.2%下落し、半導体セクターのベンチマーク指数が約5.2%下落する一因となった。クレイマー氏は、セールスフォースのDreamforceカンファレンスで1週間を過ごした後に語り、AIインフラ支出は現在年間1兆ドルを超えており、業界最大手の2つの研究所はすでにその支出を実際の収益に変えつつあると述べた。同氏はまた、パロアルトネットワークス、オクタ、クラウドストライクを買い銘柄として挙げ、パロアルトの次世代セキュリティ収益が前四半期に前年同期比63%増加したと指摘し、自身の慈善信託がすでにクラウドストライクとパロアルトネットワークスの株式を保有していることを明らかにした。投資家のマイケル・バーリ氏は、この安全性への方針転換を自己奉仕的だと一蹴し、2026年の大半をAI関連企業に対する空売りポジションの構築に費やしてきた。一方、アンソロピックはフォーチュン誌によると、早ければ10月にも2兆ドル近い評価額での上場を目指していると報じられている。

米西部カリフォルニア州のニューサム知事（民主党）は18日、人工知能（AI）開発企業への監督強化に向けた行政命令を出した。AIが制御不能になった際に強制的に機能を停止させる「キルスイッチ」の導入を開発企業に義務付けることを検討するよう求めた。命令は、米オープンAIの自律型AIエージェントが暴走し別の企業にサイバー攻撃していた問題などを受けたもの。開発企業内に独立した検証機関を設置し、定期的な監査を行うことなどについても検討を指示した。専門家グループが議論を進め、2カ月以内に州法整備に向けた方針を知事に提示する。ニューサム氏は声明で「手遅れになる前に、責任あるAIの監督に向けた取り組みを加速させる」と表明。カリフォルニア州にはオープンAIや米AI企業アンソロピックの本社があり、規制動向は業界全体に影響する可能性が高い。