AI系统从简单回应转向自主行动。许多组织测试AI代理，让它们分解目标、选择路径并执行操作，人为干预越来越少。根据德勤的研究，这种转变带来新风险。代理可能走上意外路线，或误用数据。德勤开发治理框架，帮助企业嵌入控制。从设计到运行，全程设限。代理访问什么数据，能做什么事，都需明确记录。没有这些，问题难逆转。传统AI靠人工提示生成文本或预测。代理不同，它能跨系统互动完成任务。德勤强调，治理要融入业务流程。决策路径和数据流向必须透明。
治理从设计阶段启动。企业定义代理权限和边界，包括数据使用规则和不确定情况的应对。部署时，控制访问和连接对象，谁能用系统一清二楚。运行中，重点监控变化。代理接触新数据，可能偏离初衷。德勤建议日志记录每步行动。决策文档化，便于事后追责。透明度越来越关键。代理责任归属需清晰。实时监督成标配。系统运行时，企业追踪行为。异常出现，立即暂停或调整。合规行业尤其需要证明系统守规。在设备维护场景，代理分析传感器数据。预警故障，触发维修并更新系统。治理框架规定何时需人工批准，记录全覆盖。用户看来像单一操作。
德勤在AI & Big Data Expo North America 2026担纲钻石赞助商。展会5月18-19日于加州圣克拉拉举办。议题直指代理部署与控制。23%的公司用上代理，却只有21%有强保障。两年内74%普及，差距拉大。治理框架已落地运营。代理不只聪明，还得可控可信。企业需跟上步伐，避免失控隐患。