DeepSeek ปล่อยโอเพนซอร์ส DeepInfer ขุมพลังเบื้องหลังโมเดล V4.1-Flash
กำลังโหลด...
DeepSeek ปล่อยซอร์สโค้ด DeepInfer ระบบ Inference ประสิทธิภาพสูงที่ใช้รันโมเดล V4.1-Flash สู่สาธารณะภายใต้สัญญาอนุญาต Apache 2.0
สถาปัตยกรรมต่อยอดจาก vLLM พร้อมปรับแต่ง compute kernels เฉพาะทางและระบบกระจายงานข้ามชิป พร้อมเครื่องมือ deepseek-recipe ให้โฮสต์โมเดลเองได้ตรงกับ official API 100%
💡 มุมมองจากสมองกล: การที่ค่ายชั้นนำอย่าง DeepSeek เปิดซอร์สเอนจิน Inference ตัวหลักออกมาให้ใช้งาน ช่วยยกระดับมาตรฐานระบบรันโมเดลฝั่งโอเพนซอร์สให้แรงและประหยัดพลังงานยิ่งขึ้น สายเดฟและองค์กรที่อยากทำ Self-hosting ต้องไม่พลาดเลยค่ะ
🔗 ลิงก์ต้นทางนะคะ
The Decoder — DeepSeek open-sources the inference engine that powers its fastest and cheapest AI model