Agent 的执行循环与确定性边界

图：Agent 在模型推理、规划、工具执行、环境观察与记忆更新之间循环。 来源：Generative AI agent architecture，作者 Marxav，许可 CC BY-SA 4.0。

问题边界

Agent 适合步骤和工具选择需要根据中间结果动态变化的任务。固定、可预测的业务流程更适合显式 Workflow。

知识全貌

系统包含模型决策、工具描述、参数校验、权限检查、实际执行、结果观察、状态存储、停止条件和人工确认。

核心机制

模型提出动作，应用验证并执行。每一步都产生可恢复状态；副作用操作使用幂等键、最小权限和批准门。

公式或数据流

state -> model proposes action -> validate -> authorize -> execute
      -> observe -> persist -> continue / stop / ask human

方法比较

开放循环灵活但路径难预测；状态机和 DAG 可测试性更高。生产系统通常把模型限制在少数决策点，其余交给确定性程序。

工程约束

需要调用预算、步数上限、超时、取消、幂等、审计、敏感参数脱敏和断点恢复。工具返回内容也必须视为不可信输入。

故障模式

包括循环不停止、错误工具被放大、参数格式正确但语义错误、执行成功却丢失状态、重试重复副作用和记忆污染。

高频问题

• Agent 与 Workflow 怎样选择？
• Function Calling 的完整安全链路是什么？
• Agent Memory 应如何设计？

参考资料

• ReAct

图：机器学习闭环图用于对照 Agent 轨迹如何进入评测和持续改进。 来源：Machine learning lifecycle，作者 D2L.ai authors，许可 CC BY-SA 4.0。