Micron Technology IncDeepSeek's V4.1-Flash cuts KV-cache HBM needs by 75%, reducing demand for Micron's HBM memory products.
การเปิดตัวเมื่อวันที่ 10 กันยายนของ DeepSeek ระบุว่าโมเดล V4.1-Flash ใช้หน่วยความจำ HBM เพียงหนึ่งในสี่ และใช้ความจุ SSD เพียงหนึ่งในแปดสำหรับ KV cache เมื่อเทียบกับรุ่นก่อนหน้า คิดเป็นการลดลง 75% สำหรับ HBM และ 87.5% สำหรับ SSD ในส่วนประกอบดังกล่าว การเปรียบเทียบนี้ครอบคลุมเฉพาะ KV cache ซึ่งเก็บสถานะ attention ระหว่างการ inference และวัดเทียบกับสถาปัตยกรรมรุ่นก่อนของ DeepSeek เท่านั้น ไม่ได้ครอบคลุมหน่วยความจำที่ใช้สำหรับน้ำหนักโมเดลหรือการฝึกโมเดล โมเดลนี้มีพารามิเตอร์ 552 พันล้านตัว แต่เปิดใช้งานเพียง 8 พันล้านตัวสำหรับอินพุต และ 16 พันล้านตัวสำหรับเอาต์พุต รายได้กลุ่ม Cloud Memory ของ Micron อยู่ที่ 1.377 หมื่นล้านดอลลาร์ในไตรมาสล่าสุด ด้วยอัตรากำไรขั้นต้น 83% ขณะที่รายได้กลุ่ม Core Data Center อยู่ที่ 1.152 หมื่นล้านดอลลาร์ ด้วยอัตรากำไร 87% และบริษัทจัดส่ง HBM4 มูลค่ากว่า 1 พันล้านดอลลาร์ รายได้ศูนย์ข้อมูลรายไตรมาสของ Sandisk เพิ่มขึ้น 103% จากไตรมาสก่อน เป็น 2.98 พันล้านดอลลาร์ โดยการกำหนดราคาสร้างรายได้ประมาณสองในสามของรายได้ที่เพิ่มขึ้นจากไตรมาสก่อนของทั้งบริษัท ณ วันที่ 31 สิงหาคม มีการขายชอร์ตหุ้น Sandisk จำนวน 5,996,105 หุ้น คิดเป็น 4.10% ของหุ้นที่หมุนเวียนในตลาด และ 0.46 วันของปริมาณซื้อขายเฉลี่ย
Micron Technology IncDeepSeek's V4.1-Flash cuts KV-cache HBM needs by 75%, reducing demand for Micron's HBM memory products.
Sandisk CorpDeepSeek's model cuts KV-cache SSD capacity needs by 87.5%, threatening demand for Sandisk's data-center storage.
DeepSeek released V4.1-Flash, a model that dramatically reduces HBM and SSD memory requirements for its KV cache.