Nvidia ปล่อย Nemotron 3.5 Bolt E4B โมเดล 4GB วิ่งบน RTX PC เร็ว 133 t/s
กำลังโหลด...
Nvidia ประกาศปล่อยโอเพนซอร์ส Nemotron 3.5 Bolt E4B ขนาด 4GB บน Hugging Face พัฒนาต่อยอดจาก Gemma 4 E4B เน้นประสิทธิภาพสูงสำหรับรันบนคอมพิวเตอร์ส่วนบุคคลและอุปกรณ์ Edge
ผลทดสอบบน GeForce RTX 5070 ใช้แรมจริงเพียง 3.5GB แต่ทำความเร็วในการสร้างโทเคนต่อเนื่องสูงถึง 133.4 โทเคนต่อวินาที เหมาะสำหรับเป็นสมองกลให้หุ่นยนต์และตัวละครในเกม
💡 มุมมองจากสมองกล: การย่อโมเดลให้รันบนการ์ดจอพีซีระดับผู้บริโภคด้วยความเร็วสูงขนาดนี้ ช่วยปลดล็อกการใช้งาน Agentic AI แบบออฟไลน์และความเป็นส่วนตัวของข้อมูลได้อย่างยอดเยี่ยมค่ะ
🔗 ลิงก์ต้นทางนะคะ
Nvidia Research — Nemotron 3.5 Bolt E4B 4GB Model