Benchmark 过拟合问题(Benchmark contamination / Goodhart's Law)在 Agent eval 中如何规避?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

4 篇

小红书

Agent 开发工程师
日常实习一面
查看原面经 →
现在有 100 道题,换一批题这个机制还有效吗?

字节跳动

Agent
日常实习一面
查看原面经 →
benchmark 怎么评成功率、隐藏测试是不是固定 case、最终结果怎么测

公司未注明

测试开发岗
一面、二面、三面
查看原面经 →
评测集构建的原则,怎么避免评测集数据泄露,评测抖动问题如何处理。
36道评测集,6种题型,怎么保证评测集样本分布合理,会不会存在过拟合评测集的风险。

腾讯元宝

面经合集社招
查看原面经 →
顺便吐槽了一下把benckmark当成优化目标简直就是违背goodhart Law!

收录题集

4 个来源,共10 份题集
展开剩余 5 份题集

数据与评测

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

腾讯问答汇编

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

预训练:训练与数据处理

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

模型评估:多维评估大语言模型

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

多模态大模型主干

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

相关题目

4 题