NVIDIA CorporationNVIDIA's DSX OS is integrated into Saturn Cloud's platform, expanding its adoption in AI cloud services.
Saturn CloudはNVIDIA DSX OSを自社プラットフォームに統合し、ネオクラウド事業者がNVIDIAインフラをトークン課金型サービスとして販売できるようにした。今回の統合により、推論サービング、スケジューリング、フリート運用を提供するNVIDIA DSX OSと、Saturn Cloud独自のテナント管理、課金、請求レイヤーが一体となり、ネオクラウド事業者はスタックを自前で組み立てることなく、NVIDIAインフラ上で本番用の推論サービスを運用できる。統合プラットフォームは現在、AIクラウド事業者が評価できる状態で提供されている。Saturn Cloudは分散推論・サービングレイヤーとしてNVIDIA Dynamoを稼働させ、プリフィルとデコードを分離し、NVIDIA Groveがマルチノードのワークロードを統括する。スケジューリングはNVIDIA KAI Scheduler上で実行され、GPUを認識したワークロード配置、フラクショナルGPUの割り当て、テナント間のクォータ適用を行い、NVIDIA Fleet IntelligenceとNVSentinelがフリート全体のヘルスモニタリングと障害検知を担う。これらすべての上に、Saturn Cloudがトークン単位の課金、クォータ、テナント別請求を追加することで、事業者はNVIDIAのツール群で構築されたサービングスタックと、その成果物を販売する手段を単一のプラットフォームで手に入れる。
NVIDIA CorporationNVIDIA's DSX OS is integrated into Saturn Cloud's platform, expanding its adoption in AI cloud services.
Saturn Cloud integrates NVIDIA DSX OS, enhancing its platform with advanced inference and fleet management capabilities.