模型 RPC 耗时长时,如何设计同步与异步链路?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

2 篇

阿里巴巴

AI 全栈开发工程师
社招二面
查看原面经 →
模型调用 RPC 耗时长是怎么办?同步/异步链路怎么设计?异步用啥框架?

小红书

全栈开发
社招一面
查看原面经 →
如何解决大模型几十秒的延迟导致的线程阻塞问题?

收录题集

1 个来源,共1 份题集

AI 基础设施

AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题

查看题集 →

相关题目

4 题