Meta如何给RAG做Context Engineering，让模型上下文增加16倍

Meta 如何给 RAG 做 Context Engineering，让模型上下文增加 16 倍

摘要

Meta超级智能实验室提出的REFRAG框架，通过智能压缩上下文，解决了RAG与Agent长上下文处理中的高内存成本和冗余计算问题。该框架采用分块压缩、选择性扩展和高效推理策略，显著提升了首token生成速度和上下文处理长度，特别适用于RAG、多轮对话和长文档摘要等高吞吐量场景。