如何设计 Prompt 提高缓存命中率并降低调用成本?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
问 AI
本题目录
相关面经
6 篇公司未注明
Agent 开发实习生实习
多轮对话是否考虑固定 Prompt 前缀?
公司未注明
AI 应用开发工程师一面
为什么工具放前面
上海沐润天海文化科技
Agent 开发一面
稳定前缀冻结命中 cache 与「工具按问题装配子集」会不会打架
想向着陆
全栈开发校招秋招一面
你的项目有没有做前上下文缓存,前缀缓存这些的?你的agnet工作执行时间有没有测过,比如说一个query要执行多久?
快手
后端开发实习生实习二面
在写提示词时,怎么能更好的命中缓存
展开剩余 1 篇面经
字节跳动
后端开发工程师一面
如何设计 Prompt 才能提高缓存命中率、降低调用成本?

