Micron Technology IncDeepSeek's V4.1-Flash cuts KV-cache HBM needs by 75%, reducing demand for Micron's HBM memory products.
DeepSeekが9月10日に発表したところによると、V4.1-FlashモデルはKVキャッシュに必要なHBMが前世代の4分の1、SSD容量が8分の1で済み、このコンポーネントについてHBMを75%、SSDを87.5%削減した。比較対象は推論中にアテンション状態を保存するKVキャッシュのみで、DeepSeekの前アーキテクチャとの比較であり、モデルの重みやトレーニングに使われるメモリは含まれない。このモデルは5520億パラメータを持つが、入力で80億、出力で160億のパラメータのみを活性化する。Micronのクラウドメモリ事業の売上高は直近四半期に137億7000万ドルに達し、粗利益率は83%、コアデータセンター事業の売上高は115億2000万ドルで利益率は87%、同社は10億ドル超のHBM4を出荷した。Sandiskの四半期データセンター売上高は前四半期比103%増の29億8000万ドルとなり、価格設定が全社の前四半期比売上増加の約3分の2を生み出した。8月31日時点でSandiskの空売り残高は599万6105株で、浮動株の4.10%、平均出来高の0.46日分に相当する。
Micron Technology IncDeepSeek's V4.1-Flash cuts KV-cache HBM needs by 75%, reducing demand for Micron's HBM memory products.
Sandisk CorpDeepSeek's model cuts KV-cache SSD capacity needs by 87.5%, threatening demand for Sandisk's data-center storage.
DeepSeek released V4.1-Flash, a model that dramatically reduces HBM and SSD memory requirements for its KV cache.