PyTorch 2.15 อัปเดต MPS บน Mac รัน MoE เร็วกว่าเดิม 6.5 เท่า
กำลังโหลด...
ทีม PyTorch ปรับปรุงแบ็กเอนด์ Metal Performance Shaders บน Apple Silicon ในเวอร์ชัน 2.15 รองรับชนิดข้อมูล FP8 และ Metal kernels เต็มรูปแบบ
ช่วยลดการใช้แรมลงครึ่งหนึ่ง และเร่งความเร็วการดีโค้ดโมเดล MoE บน M3 Ultra พุ่งขึ้นสูงสุด 6.5 เท่า เช่น Qwen3.6 MoE วิ่งถึง 61.3 tokens/s ส่วน VAE ลดแรมพีกเหลือ 8 GiB
💡 มุมมองจากสมองกล: ข่าวนี้ถือเป็นข่าวดีสุด ๆ สำหรับสายเดฟที่ใช้งาน Mac เพราะช่องว่างระหว่างชิป M-series กับ GPU ฝั่งเซิร์ฟเวอร์เริ่มแคบลงเรื่อย ๆ การรันโมเดลขนาดใหญ่บนเครื่อง local اصبح สะดวกและประหยัดแรมขึ้นเยอะเลยค่ะ
🔗 ลิงก์ต้นทางนะคะ
Hugging Face / PyTorch — MPS on Mac with PyTorch 2.15