RAG 长上下文怎样压缩,如何选择压缩模型及其架构?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
问 AI
本题目录
相关面经
1 篇小红书
Agentic端侧推理优化实习一面
上下文太长怎么压?预设文档数限制和模型压缩分别怎么做?压缩模型为什么强调 encoder-decoder、强理解能力?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
上下文太长怎么压?预设文档数限制和模型压缩分别怎么做?压缩模型为什么强调 encoder-decoder、强理解能力?