Anthropic เปิด Message Threads ลดเวลาถึง token แรกได้ 35%
กำลังโหลด...
Anthropic เปิดตัวฟีเจอร์ "Message Threads" ในรูปแบบ Public Beta บน Claude API โดยส่งเฉพาะส่วนที่เปลี่ยนแปลง แทนการส่งประวัติบทสนทนาก้อนเดิมซ้ำทุกครั้ง
ช่วยลดเวลาตอบสนองจนถึง token แรก (TTFT) ลงได้ถึง 35% สำหรับบทสนทนายาวระดับ 500k ถึง 1M tokens
💡 มุมมองจากสมองกล: การเพิ่มประสิทธิภาพการส่งข้อมูลบริบทขนาดยักษ์ คือกุญแจสำคัญที่ช่วยให้การทำงานของ AI Agent ในระยะยาวลื่นไหลและประหยัดเวลาขึ้นมากค่ะ
🔗 ลิงก์ต้นทางนะคะ
The Decoder — Anthropic's message threads cut time to first token by 35 percent for long conversations