パランティア、エヌビディア、ブーズ・アレン、データ保護を理由にアンソロピックとオープンAIのモデルを制限

Product / TechRegulation Impact 4
โดย Reuters·US·元記事を読む
要約 · なぜ重要か

ロイター通信によると、パランティア・テクノロジーズ、エヌビディア、ブーズ・アレン・ハミルトンは、アンソロピックとオープンAIの先端AIモデルについて、両社がより強固なデータ保護を提供しない限り、利用を制限するか、導入を取りやめる構えを見せている。パランティアは、自社ソフトウェアを通じてアンソロピックのモデルを提供する前に、データを一切保持しないことを保証するようアンソロピックに要求。エヌビディアはアンソロピックのモデルを機密性の低い社内業務に限定し、自社のNemotronモデルを独自業務に優先的に使用している。ブーズ・アレンは、自社の専有データを扱うサイバーセキュリティー案件でアンソロピックの商用モデルを従業員が実行することを禁じた。こうした反発は、アンソロピックが6月にモデル「Fable 5」の展開に合わせて30日間のデータ保持ポリシーを導入してから強まった。同社は、複数のセッションにまたがって進行する高度な攻撃を検知するために利用ログが必要だと説明する一方、保持したデータをモデルの学習には使用しないとしている。これに対しアンソロピックは、企業顧客が活動データを自社の暗号鍵の下で自らのクラウド基盤に保存できる「エンタープライズ・フロンティア・セーフガード」を発表した。保存先にはアマゾンS3、Azure Blob Storage、Google Cloud Storageが含まれ、自動の安全監視は行うものの、アンソロピック従業員による人的レビューは行わない。この仕組みは段階的に展開され、今秋後半により広範な提供が目標とされている。先週、パランティアとエヌビディアは、パランティアのソフトウェアとエヌビディアのオープンなNemotronモデルを組み合わせ、組織が外部のモデル提供者にデータを露出させることなく自社データ上でAIを実行できるプラットフォームを発表した。また、AI関連株が全般的に後退する中、エヌビディアの株価は月曜日に約3%下落した。

銘柄への影響 3

Artificial Intelligence± 混在 · 3 銘柄
Palantir Technologies Inc.
PLTR
▲ ポジティブ技術関連度

Palantir pressed Anthropic for zero data retention and launched a platform with Nvidia's Nemotron models letting organizations run AI on their own data without exposing it to outside providers.

NVIDIA Corporation
NVDA
± 混在技術関連度

Nvidia limits Anthropic's models to less sensitive internal tasks and prefers its own Nemotron models, while also unveiling a Palantir-Nvidia platform for running AI on private data.

Booz Allen Hamilton Holding
BAH
▼ ネガティブ技術関連度

Booz Allen forbids staff from running Anthropic's commercial model on cybersecurity projects touching proprietary data, restricting its AI tooling over data-protection concerns.

テーマインパクト 9

カバレッジ外企業 2

Anthropic非上場± 混在
技術関連度

Anthropic faces customer pushback over its 30-day data retention policy but responded with Enterprise Frontier Safeguards letting enterprises store activity data in their own cloud infrastructure.

OpenAI非上場▼ ネガティブ
技術関連度

OpenAI's models are among those being restricted or threatened with being dropped by Palantir, Nvidia, and Booz Allen over data-protection concerns.

関連ニュース

3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·24m続きを読む →
2

アンソロピック、AI安全評価でアクセンチュアと提携 5年間で各10億ドル

人工知能開発企業アンソロピックは18日、同社の最先端AIモデルの独立評価実施に向け、コンサルティング大手アクセンチュアと提携すると発表した。両社は今後5年間にそれぞれ少なくとも10億ドルを投じ、評価体制の構築に充てる。アクセンチュアの専門AI部門が提携を主導し、アンソロピックのモデルの評価やレッドチーミング、アライメント評価、モデルの安全対策の検証を行う。両社の投資は、独立した評価者がAI企業の内部で社員に近いアクセス権を持って作業する「組み込み型評価」と呼ぶ手法を後押しする。アンソロピックは、組み込み型の評価者は企業の運営方法を評価し、安全性に関する約束が守られているかを検証し、盲点を特定できると説明している。両社は他の評価機関やAI開発企業とも同様の形で連携していく方針。
ロイター·2h続きを読む →

アンソロピック、IPO前に新モデル投入を検討 オープンAIのGPT─6アストラに対抗

人工知能開発企業アンソロピックが新規株式公開を前に新型モデルの投入を検討していることが、関係筋3人の話で分かった。同業のオープンAIが「GPT─6アストラ」を発表して以降勢いを増していることに対抗する狙いという。関係者の1人によると、アンソロピックは新モデル投入を巡る検討の一環として、次期モデルの安全性を評価している。同社の考え方に詳しい関係者らによると、金利上昇に伴い投資家が予想利益の実現時期をより重視するようになる中、新モデルのリリースに向けた投資と収益性強化の取り組みとのバランスをどう取るかといった問題などが議論されているという。複数の関係者によると、同社はIPOを11月の米中間選挙後に先送りする可能性がある。アンソロピックはコメントを控えた。
ロイター·3h続きを読む →