NVIDIA CorporationNVDA
▲ ポジティブ需要関連度
ScitiX's platform uses NVIDIA B200, H200, and H100 GPUs, indicating demand for NVIDIA hardware.
ScitiXは、大規模にAIを運用する企業向けに設計された本番推論プラットフォームを発表し、推論を現代のAIスタックにおける運用の中核と位置づけました。このプラットフォームはScitiXが保有するNVIDIA B200、H200、H100のインフラ上で稼働し、現在1日あたり1兆トークン以上を処理しており、平均初回トークン生成時間は約1秒、キャッシュヒット率は90%超、稼働率は99.9%です。インテリジェントなモデルルーティング、セッションを意識したコンテキスト再利用、耐障害性のある実行、プライベート展開環境、ゼロリテンションポリシー、フルスタックの可観測性を提供します。このプラットフォームは、SGLangを支える商用チームであるRadixArkの本番ワークロードをすでにサポートしています。ScitiXの社内評価フレームワークであるSiEvalは、評価中心のパイプラインで最大10.5倍の高速化、大規模リーダーボードワークフロー全体で7.22倍のエンドツーエンド高速化を実証しました。このプラットフォームは現在、エンタープライズ顧客向けに提供されています。
NVIDIA CorporationScitiX's platform uses NVIDIA B200, H200, and H100 GPUs, indicating demand for NVIDIA hardware.
ScitiX launches a production-ready inference platform with performance improvements.
RadixArk's SGLang is supported on the platform, indicating adoption and demand.