智能体工作流的资源预算

智能体工作流的资源预算做资源预算时先区分固定支出与随请求变化的支出。模型调用、检索、存储和人工复核属于不同成本项不能只看一个总数。预算表应该回答的问题每一项支出由什么触发谁能调整它超过预期后系统如何收缩。比如长上下文可以设上限低价值任务可以转为批处理敏感任务则保留人工确认。弹性不是无限扩容并发限制、队列长度和超时值需要根据可承受的等待时间设定。先在小范围观测输入分布再决定是否增加资源没有对照数据时不把估算写成节省成果。