เอเจนต์และเครื่องมือ
uzu เอนจินรัน Local LLM บน Mac ความเร็วพุ่ง 92.1 tok/s เร็วกว่า llama.cpp 4.2 เท่า
Mirai Labs เปิดตัว uzu เอนจินรัน Local LLM ด้วย Rust และ Metal บน Apple Silicon ทำความเร็ว 92.1 tok/s เร็วกว่า llama.cpp 4.2 เท่า
Mirai Labs เปิดตัว uzu เอนจินรัน Local LLM ด้วย Rust และ Metal บน Apple Silicon ทำความเร็ว 92.1 tok/s เร็วกว่า llama.cpp 4.2 เท่า
PyTorch 2.15 อัปเดตแบ็กเอนด์ MPS บน Apple Silicon รองรับ FP8 และ Metal kernels เร่งดีโค้ด MoE บน M3 Ultra เร็วขึ้น 6.5 เท่า แรมลดครึ่งหนึ่ง