这篇博客文章是名为“代理优化经济学”的四部分系列文章中的第三篇，该系列文章分享了策略、功能和证明要点，以帮助您优化代理成本，并将人工智能作为Microsoft Foundry上的托管投资系统运行。第一篇文章列出了系统所依赖的三个决策。第二个POST在运行时接收了请求。这篇文章需要下一篇：随着时间的推移，让每位客服代表了解哪些方法有效，从而更便宜。
每个智能体都有一个机制来确定其模型在每次转弯时看到的内容。在许多生产系统中，这种选择是在原型设计过程中设定的，从未被重新审视过，尽管它通常会导致运营成本的最大份额，并导致令人失望的答案。这也是客服代表可以自行改进的部分。该模型的功能与您选择它时相同，并且只有当有人重写它们时，说明才会更改。
但是，代理知道、可以访问和记住的内容随着它的运行而增长，使其成为提高性能同时随着时间的推移降低成本的关键。管理该流程称为上下文工程。为什么上下文窗口设置代理成本模型没有自己的内存。在每次转弯时，其上下文窗口都会提供它可以使用的一切：说明、可用工具、检索到的文档和对话历史记录。
当回合结束时，该上下文消失，必须在下一个回合再次发送。对于回答一个问题的聊天机器人来说，这笔费用是可控的。对于跨多个转折点工作的客服代表来说，这往往是最大的开支。由于上下文窗口按每轮付费，因此不必要的内容会重复计费。不太明显的成本是质量。
更多的上下文并不能保证更好的答案：埋藏在40页的相关事实更难使用，而冗长的工具列表更可能导致错误的选择。每一个错误都会增加更多的回合，也会增加更多的成本。这使得背景值得领导者的关注。大多数成本降低都需要权衡：更便宜的模型可能会降低质量，更短的指令可能会削弱答案。