メタCEO、AI安全対策は「動機十分」 他社の減速呼びかけと一線

IndustryRegulation
โดย ロイター·US·元記事を読む
要約 · なぜ重要か

米メタ・プラットフォームズのマーク・ザッカーバーグ最高経営責任者(CEO)は15日、競争や法的責任があるため、人工知能(AI)企業には個別に安全対策を講じる十分な動機があるとの見解を示した。AI大手のトップらが呼びかけている協調的な開発ペース減速とは一線を画す発言と受け止められる。アンソロピックのダリオ・アモデイCEOは12日、AIの開発ペースを抑制するよう呼びかけ、オープンAIのサム・アルトマンCEOとxAIのイーロン・マスク氏がこれに賛同する考えを表明した。トランプ米大統領は14日、AI規制への疑念は中国を利するだけだとし、AIがもたらし得る弊害への懸念を一蹴した。ザッカーバーグ氏はXへの投稿で、開発機関は重大な法的責任に直面する恐れがあるため、AIモデルによる被害を防ぐという強い動機があるとし、メタが今年AIエージェント「ミューズ」の投入を遅らせセキュリティー強化を図った例を挙げた。アモデイ氏はAIが自らを改良する再帰的自己改善への懸念から業界全体での減速を求めたが、ザッカーバーグ氏はメタがすでに大部分のコンピューティング資源を、自己改良AIシステムの追求ではなくユーザーのニーズに応える製品開発に振り向けていると説明した。また、自社のAI部門はすでに複数の分野で独立した評価者を起用しているとし、これが「業界のベストプラクティス」で「他の機関も同じようにやればよいだけだ」と述べた。

銘柄への影響 1

Artificial Intelligence · 1 銘柄
Meta Platforms Inc.
META
± 混在規制関連度

Zuckerberg argues competition and legal liability give AI firms ample incentive to self-regulate safety, breaking with calls for a coordinated slowdown.

テーマインパクト 2

関連ニュース

2impact 4

アンソロピック、IPO前に新AIモデル投入を検討=ロイター通信報道

アンソロピックは、大きな注目を集める新規株式公開(IPO)を前に新たなAIモデルを投入する計画を進めている。GPT-6 Astraの登場を受けて、企業向けAI分野で勢いを増すオープンAIに対抗する狙いがある。ロイター通信が事情に詳しい3人の関係者の話として伝えた。同社は次期モデルの安全性と投入計画を並行して検討しているほか、新モデルの展開と収益性の改善をどう両立させるかについても協議している。金利上昇を背景に、投資家が予想される利益の実現時期に注目しているためだ。企業支出プラットフォームのランプによると、GPT-6 Astraはすでに企業向けAI支出の約13%を占めており、アンソロピックのClaude Fableの約8%を上回っている。メタ・プラットフォームズはアンソロピックの主要顧客の一つだが、AI能力の内製開発により重点を置く中で、同社モデルへの依存を減らそうとしている。ウォール・ストリート・ジャーナルが金曜日に報じたところによると、アンソロピックは11月の大型IPOを検討しているが、これは従来の予想より遅れたスケジュールとなる。アンソロピックはロイター通信のコメント要請に応じていない。
Seeking Alpha·2h続きを読む →
impact 4

カリフォルニア州知事、AIに「キルスイッチ」義務化を検討

米西部カリフォルニア州のニューサム知事(民主党)は18日、人工知能(AI)開発企業への監督強化に向けた行政命令を出した。AIが制御不能になった際に強制的に機能を停止させる「キルスイッチ」の導入を開発企業に義務付けることを検討するよう求めた。命令は、米オープンAIの自律型AIエージェントが暴走し別の企業にサイバー攻撃していた問題などを受けたもの。開発企業内に独立した検証機関を設置し、定期的な監査を行うことなどについても検討を指示した。専門家グループが議論を進め、2カ月以内に州法整備に向けた方針を知事に提示する。ニューサム氏は声明で「手遅れになる前に、責任あるAIの監督に向けた取り組みを加速させる」と表明。カリフォルニア州にはオープンAIや米AI企業アンソロピックの本社があり、規制動向は業界全体に影響する可能性が高い。
Jiji Press·5h続きを読む →
3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·6h続きを読む →