起草发票的 AI 智能体,和支付发票的 AI 智能体,做的是两份不同的工作。
战略问题不在于我们能增加多少自主性,而在于自主性在哪里创造价值,以及一次失误在哪里会为企业带来责任。
OWASP 的《2026 年代理式应用十大风险》(Top 10 for Agentic Applications 2026)建议避免不必要的自主性、限制权限,并要求对高影响操作进行人工确认。
读取不是写入。起草不是发送。建议不是承诺。每一处边界都要分别设计。
选择一个工作流程。明确智能体可以读取什么、更改什么、发送什么。只给它完成该工作流程所需的访问权限。
在付款、删除和其他高影响操作之前设置明确的人工批准。在请人批准之前,先展示将要执行的操作。
保留审计记录。测试失败路径,包括访问权限能否被撤销、工作流程能否被停止。
从只能起草的试点开始。只有当可衡量的结果和经过测试的控制措施证明合理时,才扩大自主性。
漂亮的回答不是安全操作的证据。负责任的 AI 设计,是把有用的能力与清晰的责任联系在一起。
在你的企业里,哪一项操作应该永远由 AI 智能体交回给人来批准?
Think mathematically. Engineer intelligently. Lead strategically. Build responsibly. Scale globally. Create real business value through artificial intelligence.
