Amazon.com IncAMZN
言及
Stackletは、クラウドAIのコストガバナンスを定義する検証済みのコントロール群「Cloud AI FinOps Benchmark」を発表した。このベンチマークは、Amazon Web Services、Google Cloud、Microsoft Azureにまたがり、クラウドAIコストのあらゆる層を網羅している。コントロールはGPU、基盤モデル、カスタムモデル、ストレージ、トークン使用量のしきい値をカバーし、検証済みポリシーのすぐに実行できるパックとして提供され、継続的に拡張され、各チームのワークフローに合わせて調整できる。Stackletのコントロールプレーンに組み込まれることで、チームの態勢を評価するのと同じコントロールがそれを是正する。アイドル状態のエンドポイントを廃止し、停滞したトレーニングジョブを一時停止し、未承認のモデルをブロックし、トークン使用量がしきい値を超えたときに警告する。ランタイムとシフトレフトのカバレッジにより、デプロイ前にTerraformとインフラストラクチャ・アズ・コードをチェックする。このベンチマークは現在利用可能で、Stackletによれば、100億ドルを超えるクラウド支出を管理する企業に信頼されており、コストを最大50%削減し、ガバナンスに費やす時間を80%削減する。
Stacklet launched its Cloud AI FinOps Benchmark with tested governance controls and remediation packs, a new product offering.