Advanced Micro Devices IncAMD's MI350 GPUs are the core of the reference architecture, showcasing performance advantages and driving adoption in AI clusters.
DriveNetsとAMDは、AMD Instinct MI350シリーズGPUとDriveNets AIファブリックを使用した高性能AIインフラを構築するための検証済み設計図を提供する、エンドツーエンドのリファレンスアーキテクチャを公開しました。この設計図は、コンピュートとネットワークの設計に加え、AMD ROCmソフトウェアエコシステム、RCCL集合通信、ネットワークプラグイン、NIC、サーバー、システムレベルのオーケストレーションを含むフルスタックの最適化をカバーしています。AMD Instinct MI355X GPUクラスターでのベンチマーク結果によると、DriveNetsのAIファブリックは、公開されている業界結果と比較して約5%高いスループットと、最初のトークンまでの時間を10~15%短縮し、マルチノード規模で20ミリ秒未満のトークン間レイテンシと、ユーザーあたり毎秒最低50出力トークンを達成しています。この協業は、オープンでマルチベンダーなAIインフラに対する共通のビジョンを反映しており、AMDは最近、DriveNetsの4億1000万ドルのシリーズD資金調達ラウンドに戦略的投資家として参加しました。両社はまた、顧客が自身のワークロードを使用して概念実証テストを実行できるようにする共同ラボを設立しました。
Advanced Micro Devices IncAMD's MI350 GPUs are the core of the reference architecture, showcasing performance advantages and driving adoption in AI clusters.
DriveNets' AI Fabric is validated with AMD GPUs, demonstrating superior throughput and latency, and the company received strategic investment from AMD.