Tencent Holdings LtdHy4 model release with sparse activation and strong benchmark results

เทนเซ็นต์ โฮลดิ้งส์ เปิดเผยน้ำหนักตัวอย่างของโมเดล AI Hy4 เมื่อวันศุกร์ โดยเผยให้เห็นโครงสร้างหลักที่มีพารามิเตอร์ 770 พันล้าน ซึ่งเปิดใช้งานเพียง 49 พันล้านพารามิเตอร์ต่อโทเคน หรือคิดเป็น 6.4% ของเครือข่ายทั้งหมด โมเดลดังกล่าวรองรับหน้าต่างบริบท 1 ล้านโทเคน และจะขับเคลื่อนผลิตภัณฑ์ CodeBuddy และ WorkBuddy ของเทนเซ็นต์ ในการทดสอบภายในกับงานวิศวกรรม 203 งาน Hy4 ได้คะแนน 2.99 จาก 4 คะแนน เอาชนะ GLM 5.3 และ Kimi K3 อย่างหวุดหวิดด้วยอัตรา 2.4% และ 1.7% ตามลำดับ หุ้นของเทนเซ็นต์ซึ่งซื้อขายที่ 58.01 ดอลลาร์ อยู่ต่ำกว่าค่าประมาณ GF Value ที่ 67.28 ดอลลาร์ถึง 13.78% ซึ่งบ่งชี้ว่านักลงทุนยังไม่ได้จ่ายในราคาเต็มสำหรับความทะเยอทะยานด้าน AI ของบริษัท ขณะนี้บริษัทต้องเผชิญกับความท้าทายในการเปลี่ยนความได้เปรียบทางเทคนิคของ Hy4 ให้เป็นความสำเร็จในเชิงพาณิชย์
Tencent Holdings LtdHy4 model release with sparse activation and strong benchmark results
NVIDIA Corporation