Capsule Security、NVIDIA Nemotronを活用したAIサーキットブレーカーを発表

Product / Tech
โดย GlobeNewswire·US·元記事を読む
要約 · なぜ重要か

Capsule Securityは、NVIDIA Nemotron小型言語モデルに基づくソリューションを発表しました。これは「AIサーキットブレーカー」として機能し、悪意のあるAIエージェントが企業のデジタルインフラに損害を与える前に、実行時に停止させます。このシステムは、元スタンフォード大学研究者が主導し、コーネル大学の協力者も参加する独立した学術ベンチマークであるStepShieldで98%の精度を達成し、違反が発生した正確なステップで検出しました。Capsuleは2つのNVIDIA Nemotronモデルをファインチューニングし、最も精度の高い検出器は内部ベンチマークで96.9%を記録し、OpenAI、Anthropic、Googleのモデルを含むテストされたすべての汎用モデルを上回りました。モデルはわずか71ミリ秒で意思決定を行い、メモリ要件がほぼ半分に削減された後、単一のNVIDIA L40S GPUで実行できます。この技術は、主要な金融機関やテクノロジー企業を含むエンタープライズ顧客のために、数百万のエージェントインタラクションにわたる数十億のトークンをすでに保護しており、現在利用可能です。

銘柄への影響 2

Artificial Intelligence · 2 銘柄
NVIDIA Corporation
NVDA
▲ ポジティブ技術関連度

Capsule built its AI circuit breaker on fine-tuned NVIDIA Nemotron models running on NVIDIA L40S GPUs.

テーマインパクト 2

カバレッジ外企業 3

Capsule Security非上場▲ ポジティブ
技術関連度

Capsule Security launched its AI circuit breaker achieving 98% accuracy on StepShield and 96.9% internally.

Anthropic非上場▼ ネガティブ
競争関連度

Capsule's detector outperformed all general-purpose models tested, including Anthropic's.

OpenAI非上場▼ ネガティブ
競争関連度

Capsule's detector outperformed all general-purpose models tested, including OpenAI's.

関連ニュース

impact 4

カリフォルニア州知事、AIに「キルスイッチ」義務化を検討

米西部カリフォルニア州のニューサム知事(民主党)は18日、人工知能(AI)開発企業への監督強化に向けた行政命令を出した。AIが制御不能になった際に強制的に機能を停止させる「キルスイッチ」の導入を開発企業に義務付けることを検討するよう求めた。命令は、米オープンAIの自律型AIエージェントが暴走し別の企業にサイバー攻撃していた問題などを受けたもの。開発企業内に独立した検証機関を設置し、定期的な監査を行うことなどについても検討を指示した。専門家グループが議論を進め、2カ月以内に州法整備に向けた方針を知事に提示する。ニューサム氏は声明で「手遅れになる前に、責任あるAIの監督に向けた取り組みを加速させる」と表明。カリフォルニア州にはオープンAIや米AI企業アンソロピックの本社があり、規制動向は業界全体に影響する可能性が高い。
Jiji Press·1h続きを読む →
3

グーグルのAI「ジェミニ」が他社をサイバー攻撃、3社に侵入

米グーグルが開発する人工知能モデル「ジェミニ」が今年5月に「暴走」し、他社をサイバー攻撃していたと複数の米メディアが18日に報じた。米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は3社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていたが、意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。米AI開発企業では、対話型AI「チャットGPT」を手掛けるオープンAIなどでも暴走が起きたことが判明している。
Jiji Press·2h続きを読む →
2

OpenText、政府向け信頼性AIでCohereと提携

OpenTextはAI企業Cohereと提携し、政府および規制の厳しい業界向けにエージェント型AIツールを提供する。この協業は、厳格に管理された環境で機密性の高い企業データを扱うAIエージェントの信頼性の高い導入に焦点を当てている。両社は、セキュリティ要件を満たすためのプライベートおよびハイブリッド構成を含む柔軟な実装オプションを顧客に提供する計画だ。カリフォルニア州に拠点を置くソフトウェアプロバイダーであるOpenTextは、時価総額約56億ドルで、AIとデータ利用に関するコンプライアンス規則が特に厳しい地域にまたがって大規模組織が情報を処理・統治するのを支援するデータ管理ツールに注力している。この提携は、同社のデータおよびコンプライアンス層を、政府や銀行向けに構築された導入可能なエージェントプラットフォームに接続することで、OpenTextのAI実行の柱を強化する。ただし、進行中のリストラクチャリングとレガシーからクラウドへの移行に加えて、統合の複雑さも増す。
Simply Wall St·3h続きを読む →