斯坦福开源Memorilla：16个记忆token替代整库文档
斯坦福SNAP团队开源194M参数记忆模块Memorilla，为冻结LLM仅输出16个记忆token。FactKG上Qwen3-8B得84.33%，高于全上下文80.43%，文档token减少108倍。
要点
- 记忆模块194M参数，编码器Qwen3-Embedding-4B与解码器Qwen3-8B均保持冻结
- FactKG准确率84.33%，全上下文为80.43%，文档token少108倍
- 8个基准平均49.68分，其中5个基准得分最高
- PersonaMem-v2准确率44.60%，全上下文为27.92%
- 弱点在PubMedQA：59.00%，低于LLMLingua-2的69.00%
阅读原文这里是中文要点整理，数字与细节以原文为准。
评论
还没有评论，来写第一条。