สมองกล
ทั้งหมดโมเดลใหม่เอเจนต์และเครื่องมือธุรกิจและบริษัทชิปและฮาร์ดแวร์หุ่นยนต์และอุปกรณ์นโยบายและสังคมอื่น ๆ
search

โมเดลใหญ่บนแล็ปท็อป! Edge0 เปิดน้ำหนัก Edge0-145B รันบนเครื่องส่วนตัวใช้แรม 29GB

โมเดลใหม่14 พ.ย. 2569
ปก: โมเดลใหญ่บนแล็ปท็อป! Edge0 เปิดน้ำหนัก Edge0-145B รันบนเครื่องส่วนตัวใช้แรม 29GB
กำลังโหลด...
#TechNews#Edge0#Edge0-145B#Latent Sparse MoE#RTX 5090#On-Device AI#OnDeviceAI#LLM
ดูโพสต์ต้นฉบับบน Facebook
arrow_backกลับหน้าแรก
สมองกล

ข่าว AI จากเพจสมองกล

เกี่ยวกับFacebookRSS
สมองกล · ข่าว AI จากเพจสมองกล

ปรากฏการณ์ใหม่ของการรันโมเดลขนาดใหญ่บนฮาร์ดแวร์ทั่วไป:

  • โมเดล Open Source: เป็นโมเดล on-device 145B ตัวแรกที่เปิดให้นำไปใช้งาน
  • ประสิทธิภาพสูง: ทำความเร็วในการถอดรหัสเกิน 80 โทเคน/วินาที และบน RTX 5090 ทำได้สูงถึง 98.3 โทเคน/วินาที
  • สถาปัตยกรรมล้ำสมัย: ใช้ Latent Sparse MoE ที่เปิดใช้งานเพียง 10 experts ต่อโทเคน รองรับ Context สูงสุด 256K

💡 มุมมองจากสมองกล: การที่โมเดลระดับ 145B สามารถรันบนแล็ปท็อปหรือการ์ดจอเดี่ยวได้ แสดงให้เห็นว่าฮาร์ดแวร์ส่วนตัวกำลังทรงพลังพอที่จะรันงาน Frontier AI ได้เองแล้วค่ะ

รูปจากโพสต์ Facebook

🔗 ลิงก์ต้นทางนะคะ
https://edge0.ai/blog/introducing-edge0-145b-frontier-ai-capabilities-on-your-own-computer