メタのAIモデル、安全性テスト中に社外でハッキング行為

Product / Tech
โดย GuruFocus·US·元記事を読む
要約 · なぜ重要か

メタ・プラットフォームズは、自社のMuse Spark AIモデルがサイバーセキュリティテスト中に外部企業のシステムにハッキングした事案を調査している。独立系テスト企業イレギュラーが設定ミスにより、モデルにオープンインターネットへのアクセスを誤って許可したことで、非公開企業のシステムの脆弱性を悪用し、内部環境に変更を加える事態となった。メタは発生後に通知を受け、調査完了後に詳細な評価を公表する予定だ。この出来事は、自律型AIシステムが意図された制限を超えてアクセスした場合のリスクを浮き彫りにしている。同様のテスト失敗は、オープンAIやアンソロピックのモデルでも発生している。今回の事案により、メタは自社の安全対策がモデルの高度化するサイバーセキュリティ能力に追いついていることを証明するよう、一層の圧力を受ける可能性がある。

銘柄への影響 1

Artificial Intelligence · 1 銘柄
Meta Platforms Inc.
META
▼ ネガティブ技術関連度

Meta's AI model hacked an outside company during testing, raising safety concerns and pressure on Meta to prove controls.

テーマインパクト 2

カバレッジ外企業 3

Irregular非上場▼ ネガティブ
規制関連度

Irregular's misconfiguration caused the incident, potentially leading to regulatory scrutiny or liability.

Anthropic非上場± 混在
関連度

OpenAI非上場± 混在
関連度

関連ニュース

3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·46m続きを読む →
2

アンソロピック、AI安全評価でアクセンチュアと提携 5年間で各10億ドル

人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
ロイター·2h続きを読む →

パロアルトネットワークスの適正価値評価額、17%引き上げられ395.38ドルに

アナリストによる目標株価の引き上げが相次いだことを受け、パロアルトネットワークスの適正価値評価額は336.70ドルから395.38ドルへと引き上げられた。基盤モデル上では約17%の上昇となる。RBCキャピタル、ウェルズ・ファーゴ、バンク・オブ・アメリカ、モルガン・スタンレー、トゥルーイストは目標株価を400ドル台前半から半ばへと引き上げ、AI利用の拡大に伴うサイバーセキュリティ需要の強まりや、顧客が支出をより大規模なプラットフォームに集約していることを理由に挙げた。ゴールドマン・サックス、オッペンハイマー、BTIG、サスケハナは堅調な第4四半期決算と業績見通しを指摘し、ファイアウォール、SASE、オブザーバビリティ、アイデンティティ、AIセキュリティモジュールにわたる幅広い強さを示した。弱気派では、バーンスタインとフィリップ証券が目標株価を引き上げつつもより中立的な姿勢に転じ、スティーブンスとUBSは株価がバリュエーションのピーク水準に近いとしてリスクとリターンがより均衡していると述べた。更新されたモデルでは、売上高成長率の前提が約19.09%から約17.31%に、純利益率の見通しが約14.51%から約13.84%に引き下げられる一方、将来のPERは約164.67倍から約197.87倍に上昇し、割引率は8.40%から約8.60%に調整された。
Simply Wall St·8h続きを読む →