字节跳动

大模型应用算法工程师面经

完整信息

18 条问法 · 18 道题

本篇目录
发一下问题给大家参考,攒攒人品! 1.实习拷打 2.拷打项目:针对长短期记忆,讲讲你是如何设计记忆的提取、压缩与冲突更新机制的?如果检测到用户存在极端情绪,你的Agent如何在不中断对话流的前提下进行干预? 3.讲一下稠密向量与稀疏向量的区别,分别适合处理什么样的搜索需求? 4.在向量化之前,为什么要对长文档进行切片?如果不切片会有什么后果? 5.切片时设置重叠区域的作用是什么?这个比例你通常怎么来确定? 6.余弦相似度和欧氏距离在衡量文本相似性时,各自的优缺点是什么? 7.向量库检索出的Top-K结果,如果K值设置得过大,对后续的生成质量有哪些负面影响? 8.为什么在初筛召回之后,还要加一个Rerank模型?它能解决向量搜索的哪些局限? 9.如果文档发生了局部更新,如何通过增量索引来避免全量重新向量化? 10.在RAG的生成阶段,如何在Prompt中设定边界条件来防止模型在没搜到内容时产生幻觉? 11.调用大模型API时,为什么要使用asyncio异步编程?它在处理高并发请求时有何优势? 12.了解HyDE吗?介绍一下原理,它在处理模糊提问时有哪些优势? 14.你了解哪些大模型推理框架?SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势? 15.手撕:第k大元素
本篇目录
  1. 01
  2. 02
    针对长短期记忆,讲讲你是如何设计记忆的提取、压缩与冲突更新机制的?
  3. 03
    延伸问题
    针对长短期记忆,讲讲你是如何设计记忆的提取、压缩与冲突更新机制的?
  4. 04
  5. 05
  6. 06
  7. 07
  8. 08
  9. 09
  10. 10
  11. 11
  12. 12
  13. 13
  14. 14
  15. 15
  16. 16
  17. 17
  18. 18

相关公司