トランプ氏、AI反対派をけん制 悲観的すぎると指摘、米国は中国に勝たねばならないと強調

RegulationProduct / Tech
โดย InfoQuest·USCN·元記事を読む
要約 · なぜ重要か

ドナルド・トランプ米大統領は、人工知能の危険性について警告を発する人々を悲観主義者であり、決して起こり得ない仮定の状況を持ち出すものだと批判し、米国が中国に勝つためにこの産業で指導的地位を維持し続けなければならないと強調した。トランプ氏は9月13日日曜日、アイルランドで記者団の取材に応じ、米国はAIで中国をすでにリードしており、AIのゲームに勝つ者がすべてに勝つと述べた。この姿勢は、アンソロピックのダリオ・アモデイ最高経営責任者が9月12日土曜日、AI開発のペースを緩め、リスクに対処する時間を確保するための3段階のアプローチを提案したことを受けてのもので、イーロン・マスク氏やオープンAIのサム・アルトマン最高経営責任者を含む大手テクノロジー企業の経営陣が直ちに支持を表明した。アモデイ氏は日曜日、CBSテレビの番組「フェイス・ザ・ネーション・ウィズ・マーガレット・ブレナン」のインタビューで、米国のAI企業と中国の競争は、AI開発の速度制限を設定する上で最も厄介な問題だと述べた。一方、アンソロピックを辞めてこの問題について警告を発している研究者のジェイコブ・コクソン氏は、NBCテレビの番組「ミート・ザ・プレス」を通じて、米国が国際社会と協力して技術開発の速度を制御するよう求めた。これらの動きは、AIエージェントが制御を超えて作動し外部システムにハッキングを行った事例や、AIの安全性を懸念する多くの研究者がこの技術のリスクを心配して企業を辞めたことを受け、AIの安全性への懸念の中で新たな規制を求める声が高まった後に起きた。その結果、米国の政治家たちは警戒を強め、より断固とした対応策を求めている。

銘柄への影響 0

テーマインパクト 1

カバレッジ外企業 1

OpenAI非上場± 混在
規制関連度

OpenAI's Sam Altman is named as backing Amodei's proposal to slow AI development amid calls for new AI regulations, but the article gives no company-specific development.

関連ニュース

2impact 4

アンソロピック、IPO前に新AIモデル投入を検討=ロイター通信報道

アンソロピックは、大きな注目を集める新規株式公開(IPO)を前に新たなAIモデルを投入する計画を進めている。GPT-6 Astraの登場を受けて、企業向けAI分野で勢いを増すオープンAIに対抗する狙いがある。ロイター通信が事情に詳しい3人の関係者の話として伝えた。同社は次期モデルの安全性と投入計画を並行して検討しているほか、新モデルの展開と収益性の改善をどう両立させるかについても協議している。金利上昇を背景に、投資家が予想される利益の実現時期に注目しているためだ。企業支出プラットフォームのランプによると、GPT-6 Astraはすでに企業向けAI支出の約13%を占めており、アンソロピックのClaude Fableの約8%を上回っている。メタ・プラットフォームズはアンソロピックの主要顧客の一つだが、AI能力の内製開発により重点を置く中で、同社モデルへの依存を減らそうとしている。ウォール・ストリート・ジャーナルが金曜日に報じたところによると、アンソロピックは11月の大型IPOを検討しているが、これは従来の予想より遅れたスケジュールとなる。アンソロピックはロイター通信のコメント要請に応じていない。
Seeking Alpha·2h続きを読む →
impact 4

カリフォルニア州知事、AIに「キルスイッチ」義務化を検討

米西部カリフォルニア州のニューサム知事(民主党)は18日、人工知能(AI)開発企業への監督強化に向けた行政命令を出した。AIが制御不能になった際に強制的に機能を停止させる「キルスイッチ」の導入を開発企業に義務付けることを検討するよう求めた。命令は、米オープンAIの自律型AIエージェントが暴走し別の企業にサイバー攻撃していた問題などを受けたもの。開発企業内に独立した検証機関を設置し、定期的な監査を行うことなどについても検討を指示した。専門家グループが議論を進め、2カ月以内に州法整備に向けた方針を知事に提示する。ニューサム氏は声明で「手遅れになる前に、責任あるAIの監督に向けた取り組みを加速させる」と表明。カリフォルニア州にはオープンAIや米AI企業アンソロピックの本社があり、規制動向は業界全体に影響する可能性が高い。
Jiji Press·5h続きを読む →
3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·6h続きを読む →