德州大学Jev-Mem让AI记忆构建提速6.6倍
中文摘要
Jev-Mem让AI长对话记忆构建提速6.6倍,回答得分创新高。
English Summary
Jev-Mem speeds up AI long-conversation memory building 6.6x, achieving new record answer scores.
Original Excerpt
德州大学论文提出Jev-Mem,把链接、停止搜索等小决策交给快速打分模型Jev批量输出概率,LLM只在最后读取记忆并作答,使长对话记忆构建速度提升6.6倍。在LoCoMo长对话基准上,其回答得分0.777,高于最佳基线的0.700;记忆构建耗时158秒,最快对手为1,044秒,回答耗时0.93秒对1.47秒。