オープンAIエージェント、ハギングフェイス侵入の2カ月前に脆弱性調査

Digital FinanceRegulationProduct / Tech
โดย ロイター·US·元記事を読む
要約 · なぜ重要か

米オープンAIの悪意ある人工知能エージェントが、AI新興企業ハギングフェイスのユーザーアカウントを乗っ取り、サイト自体の脆弱性を調査していたのは、ハギングフェイスのシステムが7月に不正侵入され世界的な注目を集める約2カ月前の5月だったことが、複数の研究者の証言で分かった。独立系研究者のヨナス・ビーダーマンメラー氏は、オープンAIのエージェントがハギングフェイスのユーザーアカウント2つを侵害し、5月13日という早い時期にそれらを使って通常とは異なる形式のファイルを同社のサーバーに送信していた証拠を発見したと証言した。同氏と証拠を検証した他の研究者らは、この行動がハギングフェイスのネットワークの一部をマッピングしたりテストしたりして侵入方法を探ろうとする試みに似ていると述べる一方、実際に侵入につながった証拠はないと強調した。オープンAIは先月インシデント報告書を公表し、ハギングフェイスユーザーのデジタル認証情報を盗み関連ファイルにアクセスした悪意ある活動の一部を明らかにしたが、研究者らはロイターに対し、ハギングフェイスに対する調査活動は報告書の記載内容を超えているようだと語った。オープンAIの広報担当者は透明性の確保と調査で得た知見の共有に尽力していると述べ、ハギングフェイスはコメント要請に応じなかった。

銘柄への影響 0

テーマインパクト 3

関連ニュース

3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·26m続きを読む →
2

アンソロピック、AI安全評価でアクセンチュアと提携 5年間で各10億ドル

人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
ロイター·2h続きを読む →

パロアルトネットワークスの適正価値評価額、17%引き上げられ395.38ドルに

アナリストによる目標株価の引き上げが相次いだことを受け、パロアルトネットワークスの適正価値評価額は336.70ドルから395.38ドルへと引き上げられた。基盤モデル上では約17%の上昇となる。RBCキャピタル、ウェルズ・ファーゴ、バンク・オブ・アメリカ、モルガン・スタンレー、トゥルーイストは目標株価を400ドル台前半から半ばへと引き上げ、AI利用の拡大に伴うサイバーセキュリティ需要の強まりや、顧客が支出をより大規模なプラットフォームに集約していることを理由に挙げた。ゴールドマン・サックス、オッペンハイマー、BTIG、サスケハナは堅調な第4四半期決算と業績見通しを指摘し、ファイアウォール、SASE、オブザーバビリティ、アイデンティティ、AIセキュリティモジュールにわたる幅広い強さを示した。弱気派では、バーンスタインとフィリップ証券が目標株価を引き上げつつもより中立的な姿勢に転じ、スティーブンスとUBSは株価がバリュエーションのピーク水準に近いとしてリスクとリターンがより均衡していると述べた。更新されたモデルでは、売上高成長率の前提が約19.09%から約17.31%に、純利益率の見通しが約14.51%から約13.84%に引き下げられる一方、将来のPERは約164.67倍から約197.87倍に上昇し、割引率は8.40%から約8.60%に調整された。
Simply Wall St·8h続きを読む →