ジェンスン・フアン氏、アンソロピックのAI独占禁止法適用除外提案を批判

RegulationIndustry
โดย Money & Banking·US·元記事を読む
要約 · なぜ重要か

エヌビディアのCEO、ジェンスン・フアン氏は、AI企業が独占禁止法の適用除外を受けて、より強力なAIモデルの開発を共同で減速させる道を開くという提案を批判し、全く不要だと述べた。CNBCのジム・クレイマーとのインタビューで示したフアン氏の見解は、アンソロピックのCEO、ダリオ・アモデイ氏が土曜日に記事を公表したことを受けたものだ。アモデイ氏は、大手AIラボが協力して最先端技術の開発ペースを管理し、あるいは意図的に高度なモデルの開発を減速させ、リスクをテストし防御するシステムを構築する時間を確保するよう提案した。アモデイ氏は、こうした取り組みには政府の仲介や独占禁止法上の制限の適用除外が必要になる可能性があるとし、3段階のアプローチを提案した。まず各AIラボに外部の安全評価者を常駐させ、次に民主主義国および世界レベルでの安全基準の調整、そして監査されていないAIの開発速度への制限の導入だ。フアン氏は、企業は自ら安全を管理すべきだと述べた。安全とテストはエンジニアリングの問題であり、新たな法律や規制は必要ないからだ。エヌビディアは競合するラボであるアンソロピックとオープンAIの両方を主要顧客とし、自社のNemotronファミリーのオープンモデルも開発している。アンソロピックは、フアン氏の発言についてCNBCのコメント要請に応じなかった。

銘柄への影響 1

Artificial Intelligence · 1 銘柄
NVIDIA Corporation
NVDA
± 混在規制関連度

Huang (Nvidia CEO) argues AI safety should be self-handled and opposes antitrust exemptions for AI labs, a regulatory-policy stance with no direct financial impact on Nvidia.

テーマインパクト 2

カバレッジ外企業 2

Anthropic非上場± 混在
規制関連度

Anthropic's CEO proposed antitrust exemptions for AI labs to coordinate slowing frontier development, which Huang criticised; the proposal is regulatory in nature with unclear financial impact.

OpenAI非上場± 混在
関連度

関連ニュース

3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·49m続きを読む →
2

アンソロピック、AI安全評価でアクセンチュアと提携 5年間で各10億ドル

人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
ロイター·2h続きを読む →

アンソロピック、IPO前に新モデル投入を検討 オープンAIのGPT─6アストラに対抗

人工知能開発企業アンソロピックが新規株式公開を前に新型モデルの投入を検討していることが、関係筋3人の話で分かった。同業のオープンAIが「GPT─6アストラ」を発表して以降勢いを増していることに対抗する狙いという。関係者の1人によると、アンソロピックは新モデル投入を巡る検討の一環として、次期モデルの安全性を評価している。同社の考え方に詳しい関係者らによると、金利上昇に伴い投資家が予想利益の実現時期をより重視するようになる中、新モデルのリリースに向けた投資と収益性強化の取り組みとのバランスをどう取るかといった問題などが議論されているという。複数の関係者によると、同社はIPOを11月の米中間選挙後に先送りする可能性がある。アンソロピックはコメントを控えた。
ロイター·3h続きを読む →