VLM 训练中的 Sequence Packing 如何处理视觉 Token 和多模态边界?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

1 篇

字节跳动

大模型算法
实习一面
查看原面经 →
追问
那你们在处理 VLM 视觉特征时的具体 Packing 细节是怎么样的?因为视觉 Tokens 的处理逻辑肯定比纯文本要更复杂一些

相关题目

4 题