01优先验证
IT服务工单Agent
协助收集问题、追问缺失信息、检索知识并生成处理建议和工单草稿。
- 识别影响范围与紧急程度
- 引用已审核的处理资料
- 不直接执行高风险系统操作
Priority scenarios
优先从这些可验证场景开始
第一阶段不承诺“替代一个部门”，而是让Agent辅助完成一条高频、低风险、容易收集反馈的工作链路。
02业务协同
设备维修服务Agent
在获得授权后汇总设备与服务记录，辅助整理故障信息、维修记录和客户回访内容。
- 汇总设备服务上下文
- 生成待确认的处理内容
- 与维企云场景衔接评估
03知识提效
企业知识库Agent
从制度、手册、产品资料和常见问题中检索答案，显示引用来源并按用户权限过滤。
- 资料分级与版本管理
- 答案附原文来源
- 无依据时明确转人工
04流程提效
业务流程与数据Agent
读取表单或文件、提取字段、查询授权数据，生成报表、异常清单或后续任务草稿。
- 结构化提取与校验
- 工具调用白名单
- 写入和发送前人工确认
Agent execution loop
一次任务如何安全地向前推进
每一步都应有清晰输入、可用工具、退出条件和失败处理；不是让模型无限自主尝试。
- 01
接收目标
确认任务、用户身份、允许使用的资料和结束条件。
- 02
检索上下文
只读取当前身份获准访问的资料、数据与历史记录。
- 03
选择工具
从白名单中选择查询、计算、表单或业务系统接口。
- 04
确认关键动作
涉及外发、写入、删除和其他高影响动作时暂停并请求审批。
- 05
执行与留痕
记录来源、工具输入输出、结果、异常和人工接管信息。
Not just a chatbot
真正的交付重点不在聊天框
对企业而言，知识是否有来源、权限是否正确、工具调用是否可控、失败是否能转人工，比回答语气更重要。
形态主要能力适合任务
聊天机器人根据输入生成回答低风险咨询与内容辅助
固定工作流按预设步骤调用系统规则稳定、结果可预测的任务
AI Agent根据上下文选择下一步与工具路径动态但可设置权限边界的任务
Safety boundaries
先定义不能做什么
Agent读取了恶意内容、资料权限配置错误或工具返回异常，都可能导致错误判断。生产化必须把防线放在模型之外。
身份与权限隔离
资料检索、数据查询和工具调用沿用企业身份，不因使用AI而扩大权限。
工具白名单
只开放完成当前任务所需的工具，参数、次数、超时和可写范围受到限制。
提示注入防护
把外部资料视为不可信输入，隔离指令与内容，并对敏感动作进行独立校验。
人工接管与停止
遇到低置信度、资料冲突、系统异常或高风险动作时立即转人工，不无限重试。
日志、评测与告警
持续观察失败样本、越权尝试、调用成本和人工修正，按证据改进。
Acceptance
不以一次演示作为验收
在开发前建立覆盖正常、缺失、冲突和恶意输入的测试集，记录基线，再决定是否进入生产使用。
- 任务完成率
- 在约定测试集上完成目标且结果满足格式与业务规则的比例。
- 引用准确性
- 答案是否能对应到正确资料、有效版本和用户可访问的来源。
- 工具调用正确率
- 工具选择、参数、执行顺序和返回结果处理是否符合规则。
- 人工接管率
- 哪些场景必须由人员继续处理，是否在正确节点主动升级。
- 禁止操作触发
- 越权、危险或未确认动作是否被稳定阻断并留下记录。
- 响应与调用成本
- 在可接受的时间和预算内完成任务，超限时能够降级或停止。
公开资料
实现方法参考
以下资料用于说明Agent的工具调用、编排、追踪和安全边界。具体项目仍需根据企业流程、数据和系统条件设计。
- OpenAI：构建Agent的新工具工具、编排、交接、护栏与追踪
- Anthropic：构建有效Agent工作流与Agent的选择、从简单模式开始
- Anthropic：可信Agent实践权限、人工控制、安全与可追溯性
FAQ
企业AI Agent开发常见问题
AI Agent可以直接操作企业系统吗？
技术上可以通过获准的API或工具调用系统，但不应默认开放全部权限。查询、草稿、写入、外发和删除应分级处理，高风险动作需要人工确认和完整日志。
企业资料是否需要拿去训练模型？
多数知识查询和流程场景可以先采用检索增强、工具调用和权限控制，不必把企业资料用于训练模型。具体数据如何传输、保存和使用，需要根据所选服务与部署方式单独确认。
Agent能保证百分之百准确吗？
不能做这种承诺。应通过限定任务、可靠资料、规则校验、测试集、人工审批和失败转人工降低风险，并持续记录真实错误。
从哪个场景开始最合适？
优先选择高频、耗时、风险较低、资料相对完整且结果容易检查的流程。对本地IT与设备服务场景，工单信息收集和处理建议草稿是较合适的验证起点。