如何设计 Prompt 提高缓存命中率并降低调用成本?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

6 篇

公司未注明

Agent 开发实习生
实习
查看原面经 →
多轮对话是否考虑固定 Prompt 前缀?

公司未注明

AI 应用开发工程师
一面
查看原面经 →
为什么工具放前面

上海沐润天海文化科技

Agent 开发
一面
查看原面经 →
稳定前缀冻结命中 cache 与「工具按问题装配子集」会不会打架

想向着陆

全栈开发
校招秋招一面
查看原面经 →
你的项目有没有做前上下文缓存,前缀缓存这些的?你的agnet工作执行时间有没有测过,比如说一个query要执行多久?

快手

后端开发实习生
实习二面
查看原面经 →
在写提示词时,怎么能更好的命中缓存
展开剩余 1 篇面经

字节跳动

后端开发工程师
一面
查看原面经 →
追问
如何设计 Prompt 才能提高缓存命中率、降低调用成本?

相关题目

4 题