Sarvam AI เปิด Prism โมเดลตัดสินใจแบบ open-weight ตอบใน 44 มิลลิวินาที

กำลังโหลด...

Sarvam ปล่อยโมเดลตัดสินใจ "Prism" บน Hugging Face ภายใต้สัญญา Apache 2.0 ทำความเร็วตอบสนองระดับมัธยฐานเพียง 44ms บน GPU NVIDIA B200 ใบเดียว
เทคโนโลยีนี้ใช้การให้คะแนนตัวเลือกทั้งหมดใน forward pass เดียวผ่าน scoring head โดยรับ context ได้สูงถึง 131,072 token
💡 มุมมองจากสมองกล: ความเร็วระดับ 44 มิลลิวินาทีของโมเดลโอเพนเวตจากอินเดีย แสดงให้เห็นถึงการพัฒนาสถาปัตยกรรมเฉพาะทางที่ตอบโจทย์งานเอเจนต์เรียลไทม์ได้อย่างยอดเยี่ยมค่ะ
🔗 ลิงก์ต้นทางนะคะ
Unite.AI — Sarvam AI releases open-weight Prism decision model