AI 应用工程与治理

本分类共 10 个专题 · 1193 道题

已筛选

共 1193 道题

排序:

4580
Agent 安全攻击检测为什么不能只依赖 LLM,规则、专用模型与 LLM 应如何分工?
AI 应用工程与治理安全、权限与人工介入
方案设计
进阶
4597
什么是大模型推理时延,为什么它对应用重要?
AI 应用工程与治理性能、时延与成本
概念解释
基础
4639
大模型 API 调用的端到端链路包括哪些环节?
AI 应用工程与治理AI 应用架构与接口
原理机制
基础
4641
为什么需要为大模型 API 调用设计幂等控制?
AI 应用工程与治理AI 应用架构与接口
原理机制
进阶
4643
AI 应用的模型调用日志至少应记录哪些字段?
AI 应用工程与治理可观测性、稳定性与故障诊断
方案设计
进阶
4653
LLM Gateway 与 LLM Router 有什么区别?
AI 应用工程与治理AI 应用架构与接口
比较选型
进阶
4654
LLM Gateway 的延迟开销如何衡量,哪些处理应放在请求关键路径?
AI 应用工程与治理性能、时延与成本
方案设计
进阶
4658
为什么 RAG、Agent 和结构化输出需要不同的评测指标?
AI 应用工程与治理评测体系与实验设计
比较选型
进阶
4661
ASR、LLM、TTS 和 VAD 在实时语音系统中各负责什么?
AI 应用工程与治理AI 应用架构与接口
概念解释
进阶
4664
实时语音会话如何管理 listening、thinking、speaking 和 interrupted 状态?
AI 应用工程与治理AI 应用架构与接口
系统设计
进阶