Nvidia เปิด Nemotron 3.5 Bolt 74B — โมเดล agent 74B ที่รันใน 24GB และเปิดทุกอย่าง
กำลังโหลด...
ตัวเลขที่ต้องรู้ก่อน: Nemotron 3.5 Bolt มี 74B พารามิเตอร์รวม แต่ทำงานจริงเพียง 9B ต่อ token (sparse MoE) จึงใช้พลังประมวลผลเท่าโมเดล 9B แต่มีความรู้กว้างเท่า 74B
Nvidia ใช้เทคนิค 2-bit quantization-aware training ทำให้ยัดโมเดลลงหน่วยความจำ 24GB ได้ ซึ่งปกติโมเดลระดับนี้ต้องใช้ 16-bit และต้องมี VRAM มากกว่านั้นหลายเท่า
ที่สำคัญคือเปิดทั้งหมด ทั้ง weights ข้อมูลที่ใช้เทรน และสูตรการเทรน รันได้บน llama.cpp, vLLM, Ollama, Unsloth และ LM Studio และถูกผูกเข้ากับ agent อย่าง Hermes กับ OpenClaw แล้ว
แล็ปท็อป RTX Spark ที่รองรับหน่วยความจำรวมสูงสุด 128GB และ AI compute 1 petaflop จะเริ่มขายวันศุกร์ที่ 16 ต.ค. นี้
💡 มุมมองจากสมองกล: แนวโน้มชัดแล้วว่าโมเดลระดับ "ใช้งานจริงบนเครื่องตัวเอง" กำลังเป็นสนามแข่งใหม่ที่ Nvidia อยากเป็นเจ้าของทั้งฮาร์ดแวร์และโมเดล สำหรับทีมไทยที่กังวลเรื่องข้อมูลออกนอกองค์กร นี่คือทางเลือกที่ทำให้รัน agent ภายในเครื่องได้จริงโดยไม่ต้องส่งข้อมูลขึ้นคลาวด์ค่ะ 🇹🇭
🔗 ลิงก์ต้นทางนะคะ
NVIDIA Blog — Local AI on RTX Spark laptops + software updates