模型请求结束后才知道实际 Token 消耗,超出用户限额时怎么办?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
问 AI
本题目录
相关面经
1 篇公司未注明
Agent全栈实习实习
你说预估消耗,那我们只有在一个请求结束了之后才知道这个请求花了多少 token,这个时候超出了我们的限制该怎么办?
Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~
你说预估消耗,那我们只有在一个请求结束了之后才知道这个请求花了多少 token,这个时候超出了我们的限制该怎么办?