Apple Inc.Apple's iPhone 17 Pro can run PrismML's Bonsai 27B locally, showcasing its neural accelerators and potentially boosting device sales.
PrismML เปิดตัว Bonsai 27B ซึ่งเป็นโมเดล AI แบบโอเพนเวทที่ผ่านการบีบอัด สามารถรันบน Apple iPhone 17 Pro ได้ในเครื่อง โดยคงประสิทธิภาพไว้ประมาณ 90 เปอร์เซ็นต์ของโมเดลต้นฉบับ โมเดลขนาด 3.9 กิกะไบต์นี้สร้างขึ้นบน Qwen3.6 ของ Alibaba และพอดีกับหน่วยความจำที่ใช้งานได้ของโทรศัพท์ นับเป็นความก้าวหน้าที่หลีกเลี่ยงปัญหาประสิทธิภาพลดลงซึ่งพบในความพยายามบีบอัดก่อนหน้านี้ ชิป A19 และ A19 Pro ของ Apple มีตัวเร่งประสาทที่ออกแบบมาสำหรับ AI บนอุปกรณ์ และมีรายงานว่าบริษัทกำลังหารือเบื้องต้นกับ PrismML เกี่ยวกับเทคโนโลยีนี้ การพัฒนานี้อาจเร่งให้ผู้บริโภคเข้าถึง AI ที่มีความสามารถและใช้งานแบบออฟไลน์ได้โดยไม่ต้องเสียค่าบริการรายเดือน ในขณะที่โมเดลธุรกิจของ Apple ได้ประโยชน์จากการขายอุปกรณ์ที่มีหน่วยความจำและความจุมากขึ้น
Apple Inc.Apple's iPhone 17 Pro can run PrismML's Bonsai 27B locally, showcasing its neural accelerators and potentially boosting device sales.
Alibaba Group Holding LtdBonsai 27B is built on Alibaba's Qwen3.6, highlighting Alibaba's model as a foundation for advanced on-device AI.
Astera Labs, Inc.PrismML released Bonsai 27B, a breakthrough compressed model that runs locally on iPhone 17 Pro with minimal performance loss.