Google จับมือ Meta เปิดตัว TorchTPU รัน PyTorch บน TPU ได้โดยตรง ท้าชน CUDA
กำลังโหลด...
Google ประกาศเปิดตัวโอเพนซอร์ส TorchTPU บน GitHub ในงาน PyTorch Conference โดยร่วมมือกับทีมวิศวกรรม PyTorch ของ Meta เพื่อให้รันโค้ด PyTorch บนชิป Google TPU ได้ทันที
รองรับ torch.compile ช่วยรีดประสิทธิภาพและลดแรม พร้อมซัพพอร์ต vLLM, SGLang, llm-d, Ray และ TorchTitan รวมถึง Hugging Face ที่ให้นักพัฒนาสั่งย้ายโมเดลลง TPU ง่าย ๆ ด้วย device_map="tpu"
💡 มุมมองจากสมองกล: การที่ Google และ Meta แท็กทีมกันเปิดทางให้ PyTorch รันบน TPU แบบ Native ถือเป็นหมัดฮุกสำคัญในการท้าทายการผูกขาดของชิป Nvidia CUDA ซึ่งจะช่วยให้นักพัฒนามีทางเลือกด้านฮาร์ดแวร์ที่ยืดหยุ่นและประหยัดต้นทุนขึ้นมากค่ะ
🔗 ลิงก์ต้นทางนะคะ
Unite.AI — Google Open Sources TorchTPU, Putting Native PyTorch on its TPUs