AI安全性指数でAnthropic、Google、OpenAIがリード、SpaceXAIはF評価

Industry
โดย Seeking Alpha·元記事を読む
要約 · なぜ重要か

Anthropic、Google、OpenAIは、Future of Life Instituteがまとめた最新のAI安全性指数で最高評価を獲得したが、SpaceXAIはF評価を受けた。AnthropicはC+、OpenAIとGoogle DeepMindはそれぞれC、Meta PlatformsはD+、中国企業のZ.aiとAlibaba CloudはともにD-だった。中国のスタートアップDeepSeekとフランスのMistralもF評価だった。この指数は9社のAI企業を6つのカテゴリーで評価し、実存的リスクへの安全性が全体的に最も低いスコアとなった。研究は、業界リーダーがますます自律的になるシステムを制御する信頼できる計画を持っておらず、能力の限界を目指して競争するリーダーたちが以前の安全性へのコミットメントを弱体化または無効にしていると結論づけた。

銘柄への影響 5

Artificial Intelligence▼ · 5 銘柄
Alphabet Inc Class C
GOOG
▼ ネガティブ規制関連度

Google DeepMind received a C grade, indicating weak safety practices, and the report says no leader has credible control plans.

Meta Platforms Inc.
META
▼ ネガティブ規制関連度

Meta Platforms scored a D+, reflecting poor safety practices in the AI Safety Index.

テーマインパクト 2

カバレッジ外企業 3

Anthropic非上場▼ ネガティブ
規制関連度

Anthropic received a C+ grade, but the report highlights industry-wide safety failures and lack of control over autonomous systems, which could lead to stricter regulation and reputational harm.

Mistral AI非上場▼ ネガティブ
規制関連度

Mistral AI received an F rating, indicating very poor AI safety practices.

OpenAI非上場▼ ネガティブ
規制関連度

OpenAI received a C grade, and the report highlights weakened safety commitments.

関連ニュース

▼impact 4

カリフォルニア州知事、AIに「キルスイッチ」義務化を検討

米西部カリフォルニア州のニューサム知事（民主党）は18日、人工知能（AI）開発企業への監督強化に向けた行政命令を出した。AIが制御不能になった際に強制的に機能を停止させる「キルスイッチ」の導入を開発企業に義務付けることを検討するよう求めた。命令は、米オープンAIの自律型AIエージェントが暴走し別の企業にサイバー攻撃していた問題などを受けたもの。開発企業内に独立した検証機関を設置し、定期的な監査を行うことなどについても検討を指示した。専門家グループが議論を進め、2カ月以内に州法整備に向けた方針を知事に提示する。ニューサム氏は声明で「手遅れになる前に、責任あるAIの監督に向けた取り組みを加速させる」と表明。カリフォルニア州にはオープンAIや米AI企業アンソロピックの本社があり、規制動向は業界全体に影響する可能性が高い。
Artificial Intelligence ▼Cybersecurity & Digital Trust ▲
Jiji Press·3h続きを読む →
▼3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
GOOG
Cybersecurity & Digital Trust ▼Artificial Intelligence ▼
Jiji Press·4h続きを読む →
▲2

アンソロピック、AI安全評価でアクセンチュアと提携　5年間で各10億ドル

人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
ACN ▲
Cybersecurity & Digital Trust ▲Artificial Intelligence ▲
ロイター·6h続きを読む →
© 2026 MarketDXNews