如何设计高危命令检测,处理规则未覆盖与模型漏检的情况?

未标记

Sorry o(╥﹏╥)o,暂无参考答案。带这道题,问问AI吧~

问 AI
本题目录

相关面经

3 篇

深信服

AI开发实习
实习一面、二面
查看原面经 →
5️⃣ 你说用大模型过滤高危命令,那你是怎么判断高危的
追问
6️⃣ 我理解你说有一个高危命令参考文档,那如果不在这个文档里面的呢?
追问
9️⃣ 那你们执行是怎么做的?如果漏检了高危命令,怎么办呢?

唯品会

后端开发实习生
实习一面、二面
查看原面经 →
运维Agent具备机器/容器/服务重启等高危操作能力,有哪些校验手段管控危险操作

虾皮

Java 后端开发实习生
暑期实习一面
查看原面经 →
项目中的 MCP 工具调用如何防止注入恶意命令?
纯规则拦截存在覆盖不到的漏判场景,是否有更完善的方案?

相关题目

4 题