中国、AIが安全保障に影響を与え、インフラ攻撃の世論工作に悪用されるリスクがあると警告

RegulationGeopolitics
โดย InfoQuest·CN·元記事を読む
要約 · なぜ重要か

中国国家安全省の陳一新大臣は、急速に進歩する人工知能(AI)の開発が中国の政治安定と重要インフラにとって脅威となり得ると警告した。9月13日(日)に雑誌「China Cyberspace」に掲載された論文で、敵対勢力によるAIの悪用が中国の政治的安全保障、制度的安定、イデオロギー的安全保障を直接脅かす可能性があると指摘した。さらに、AIはシステムの脆弱性を発見し、その脆弱性を悪用するマルウェアやソフトウェアを作成する能力を高めていると警告した。中国政府はまた、敵対勢力がAIを利用して、AIが生成したテキストや画像、ソーシャルメディア上のボット、ディープフェイクを通じて世論戦や認知戦を行い、政治的噂を流し、有害な情報を拡散し、社会の分断を煽る可能性を懸念している。同時に、AIを活用したウェブクローラー、データマイニングシステム、プロファイリングシステムは、外国の情報機関が政府情報、営業秘密、個人データなどの機密情報を収集する能力を高める可能性がある。また、AIで優位に立つ国々が国家安全保障を理由に技術管理措置を課し、業界標準を独占し、閉鎖的なエコシステムを構築する可能性がある。この警告は、米国の主要テクノロジー企業の経営陣がAIのより慎重な開発を求めている時期に出された。アンソロピックの共同創業者であるダリオ・アモデイ氏は9月12日(土)のブログ投稿で、AIの能力がリスク防止策よりも速く進歩していると述べ、米国や他の民主主義国の企業が協力することを提案した。しかし、陳氏の論文は、最先端AIモデルの開発を遅らせるよう求めるアンソロピックやオープンAIの主張には触れておらず、両者の発言が調整されている兆候もない。陳氏はAIのリスクを、政治的統制、技術主権、外国からの脅威、戦略的競争という観点から捉えている。

銘柄への影響 0

テーマインパクト 4

カバレッジ外企業 1

OpenAI非上場± 混在
関連度

関連ニュース

3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·47m続きを読む →
2

アンソロピック、AI安全評価でアクセンチュアと提携 5年間で各10億ドル

人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
ロイター·2h続きを読む →

パロアルトネットワークスの適正価値評価額、17%引き上げられ395.38ドルに

アナリストによる目標株価の引き上げが相次いだことを受け、パロアルトネットワークスの適正価値評価額は336.70ドルから395.38ドルへと引き上げられた。基盤モデル上では約17%の上昇となる。RBCキャピタル、ウェルズ・ファーゴ、バンク・オブ・アメリカ、モルガン・スタンレー、トゥルーイストは目標株価を400ドル台前半から半ばへと引き上げ、AI利用の拡大に伴うサイバーセキュリティ需要の強まりや、顧客が支出をより大規模なプラットフォームに集約していることを理由に挙げた。ゴールドマン・サックス、オッペンハイマー、BTIG、サスケハナは堅調な第4四半期決算と業績見通しを指摘し、ファイアウォール、SASE、オブザーバビリティ、アイデンティティ、AIセキュリティモジュールにわたる幅広い強さを示した。弱気派では、バーンスタインとフィリップ証券が目標株価を引き上げつつもより中立的な姿勢に転じ、スティーブンスとUBSは株価がバリュエーションのピーク水準に近いとしてリスクとリターンがより均衡していると述べた。更新されたモデルでは、売上高成長率の前提が約19.09%から約17.31%に、純利益率の見通しが約14.51%から約13.84%に引き下げられる一方、将来のPERは約164.67倍から約197.87倍に上昇し、割引率は8.40%から約8.60%に調整された。
Simply Wall St·8h続きを読む →