真面经，好答案。面试之前，先来面栈。

模型与 Agent 编程

题集来源：Alireza Dirafzoon（alirezadir）收录项目：AIMLInterviews查看原题集 反馈（在 GitHub 新标签页打开）

原文作者
Matthew Lamm 其中第 42 题来自 Matthew Lamm 编写的 CS224N Word Window Classification Notebook 练习。

题目目录

43 道原题

  1. Uniform, weighted, and stratified sampling

    原题
    关联题目实现可复现的均匀、加权和分层抽样。模型基础与推理 / 机器学习与推荐系统代码题进阶0篇相关面经

  2. Sample-weighted losses and streaming metrics

    原题
    关联题目实现可更新、合并和重置的流式指标累加器。AI 应用工程与治理 / 评测体系与实验设计代码题进阶0篇相关面经

  3. TF-IDF

    原题
    关联题目从零实现 TF-IDF 文本特征。RAG 与知识系统 / 召回策略与检索代码题进阶0篇相关面经

  4. Scaled dot-product attention

    原题
    关联题目手写 Self-Attention。模型基础与推理 / Transformer 与注意力代码题进阶1篇相关面经

  5. Learn and apply byte-pair encoding

    原题
    关联题目用 Python 从零实现 BPE 的训练与编码。模型基础与推理 / Tokenizer 与位置编码代码题进阶0篇相关面经

  6. Build a causal attention mask

    原题
    关联题目实现结合因果约束与 Padding 的注意力掩码。模型基础与推理 / Transformer 与注意力代码题进阶0篇相关面经

  7. Sinusoidal positional encoding

    原题
    关联题目手写 Transformer 的正弦余弦绝对位置编码。模型基础与推理 / Tokenizer 与位置编码代码题进阶1篇相关面经

  8. Temperature, top-k, and top-p sampling

    原题
    关联题目用 Python 实现 Top-K 和 Top-P 采样。模型基础与推理 / 推理与解码代码题进阶0篇相关面经

  9. Append-only KV cache

    原题
    关联题目用 Python 和 PyTorch 实现自回归生成的 KV Cache。模型基础与推理 / 推理优化与模型压缩代码题深入0篇相关面经

  10. Pad variable-length token batches

    原题
    关联题目实现变长序列的批次填充与有效位置掩码。模型基础与推理 / 模型架构与表示代码题进阶0篇相关面经