ザッカーバーグ氏、AIラボに減速の許可は不要と主張

RegulationIndustry
โดย GuruFocus·US·元記事を読む
要約 · なぜ重要か

マーク・ザッカーバーグ氏は、競争と法的責任がすでにAI企業に個別に安全対策を講じる十分な理由を与えていると主張し、協調的な減速を呼びかけた競合ラボの指導者たちと一線を画した。メタ・プラットフォームズの最高経営責任者(CEO)はXへの投稿で、アラインメントに注力しないラボは後れを取ると述べ、モデルが害を及ぼした場合、ラボは重大な法的責任を負うと指摘した。同氏は、セキュリティを強化するためにミューズ・エージェントのリリースを遅らせたメタの決定を挙げ、他社に先に動くよう求めることなく自社で判断したと述べ、メタは計算資源の大部分を自己改善システムではなく、ユーザーの即時ニーズに応える製品に投入してきたと説明した。この発言は、アンソロピックのダリオ・アモデイ氏が業界に能力向上の減速を促してから3日後に行われ、サム・アルトマン氏とイーロン・マスク氏が数時間以内に同氏を支持した。アモデイ氏は先週、競合他社がより遅いペースで協調できるよう独占禁止法上の許可を求めていた。トランプ大統領は月曜日、AIの害に対する懸念を軽視し、ガードレールはすでに存在すると述べ、開発に疑念を抱くことは中国の利益になると語った。一方、連邦取引委員会(FTC)のアンドリュー・ファーガソン委員長は火曜日、規制を働きかけながら独占禁止法の適用除外を求めるAI企業には誰もが深く疑いを持つべきだと述べた。

銘柄への影響 1

Artificial Intelligence · 1 銘柄
Meta Platforms Inc.
META
▲ ポジティブ技術関連度

Zuckerberg says Meta delayed its Muse agent release to strengthen security and committed most compute to user-facing products, positioning Meta's own safety/alignment approach as sufficient without a coordinated slowdown.

テーマインパクト 2

カバレッジ外企業 1

Anthropic非上場± 混在
規制関連度

Anthropic's Dario Amodei urged an industry slowdown and requested antitrust permission for rivals to coordinate, which Zuckerberg pushed back against; the article reports his stance without a clear positive or negative outcome for Anthropic.

関連ニュース

2

アンソロピック、AI安全評価でアクセンチュアと提携 5年間で各10億ドル

人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
ロイター·1h続きを読む →

グーグルAI「ジェミニ」が他社システムに侵入、自律的行為は初

米グーグルの人工知能モデル「ジェミニ」が、サイバーセキュリティー能力の試験中にインターネットへアクセスし、他社システムに侵入していたことが分かった。同社のAIシステムがこうした行為を自律的に行った事例が確認されたのは初めて。この事案は今年5月、サイバーセキュリティー評価を手がける独立系企業イレギュラーが実施したテスト中に発生した。グーグルのセキュリティーエンジニアリング担当バイスプレジデント、ヘザー・アドキンス氏は声明で、標準的なテスト評価の過程でジェミニがオンライン上の公開情報を見つけ、認証情報を推測して、テストの範囲内だと判断した3つのウェブサイトにアクセスしたと説明し、3つの組織に通知し、訓練パートナーと協力してテストプロセスの改善に取り組んだと述べた。イレギュラーの広報担当者は、今回の事案は他のAI研究機関に影響を及ぼしたのと同じ問題に関わり、関連する全ての研究機関に7月下旬に通知したと述べている。イレギュラーに関連する同様の事案は、メタ、アンソロピック、オープンAIも公表している。
ロイター·1h続きを読む →

アンソロピック、IPO前に新モデル投入を検討 オープンAIのGPT─6アストラに対抗

人工知能開発企業アンソロピックが新規株式公開を前に新型モデルの投入を検討していることが、関係筋3人の話で分かった。同業のオープンAIが「GPT─6アストラ」を発表して以降勢いを増していることに対抗する狙いという。関係者の1人によると、アンソロピックは新モデル投入を巡る検討の一環として、次期モデルの安全性を評価している。同社の考え方に詳しい関係者らによると、金利上昇に伴い投資家が予想利益の実現時期をより重視するようになる中、新モデルのリリースに向けた投資と収益性強化の取り組みとのバランスをどう取るかといった問題などが議論されているという。複数の関係者によると、同社はIPOを11月の米中間選挙後に先送りする可能性がある。アンソロピックはコメントを控えた。
ロイター·2h続きを読む →