Telus CorpTELUS is the named partner in the PoC for sovereign AI inferencing, showcasing its network capabilities.
Arrcusは、TELUSとの概念実証を発表しました。これは、Arrcus Inference Network Fabricをネットワーキング基盤として活用し、カナダ全土にわたる国家規模でソブリンかつ分散型のAI推論を提供する可能性を探るものです。この概念実証は、公共安全、緊急対応、企業および政府サービスといったミッションクリティカルなアプリケーション向けに、機密データをカナダ国内に留めながら、安全で低遅延のAIを実現することを目指しています。AINFファブリックは、ラインレート暗号化のためのNVIDIA BlueField-3 DPUやNVIDIA Spectrum-4イーサネットスイッチと統合され、サイトローカルな負荷分散のためにNVIDIA Dynamoフレームワークと連携します。Arrcusによると、インテリジェントでポリシーを意識したネットワーキングにより、最初のトークン生成までの時間を60%以上短縮し、スループットを15%向上させ、エンドツーエンドの遅延を40%削減し、推論あたりのコストを最大30%削減できるとしています。このソリューションは現在利用可能です。
Telus CorpTELUS is the named partner in the PoC for sovereign AI inferencing, showcasing its network capabilities.
NVIDIA CorporationArrcus PoC uses NVIDIA BlueField-3 DPUs and Spectrum-4 switches, driving demand for NVIDIA networking products.
Arrcus announces a PoC for its Inference Network Fabric, a new product development.