Microsoft Foundry模型、成本和质量管理开发人员指南

Microsoft Foundry帮助团队超越模型访问,在整个生命周期中大规模操作AI ,选择、评估、优化和管理模型。《A Developer's Guide to Managing Models, Cost and Quality in Microsoft Foundry》一文首次出现在Microsoft Azure博客上。

当今构建人工智能系统最困难的部分不再是无法访问有能力的模型。它知道如何在真实应用程序的整个生命周期中选择、验证、优化和操作正确的模型。采用基于检索增强生成(RAG)的客户支持副驾驶或工具调用代理,帮助员工完成业务工作流程。

在原型中,选择一个强大的模型,连接几个数据源并获得有用的响应可能就足够了。在生产中,系统需要检索正确的上下文,调用正确的工具,满足质量和安全阈值,保持在延迟目标范围内,并以业务可以承受的成本运行。模型不断发展,成本不断变化,生产要求通常在第一个版本已经工作之后才到达。

成功与否与其说取决于选择最强大的模型,不如说取决于围绕应用程序构建有纪律的操作方法。这就是Microsoft Foundry的用武之地:在生产规模上选择、评估、优化、操作和不断改进AI应用的统一平台。Microsoft Foundry继续为构建生产AI系统的开发人员扩展模型生态系统和操作面。

Microsoft Foundry上的Fireworks AI现已全面推出,开发人员可以通过单个Azure端点、企业服务级别协议(SLA)和零设置引导访问生产级开放模型推断。Foundry还在各种模式中添加新的模型系列和功能,包括Microsoft AI模型、合作伙伴模型、开源模型、自定义模型和后期训练变体。

Microsoft Azure Blog发布了与云服务、AI、企业数字化相关的技术动态,反映出企业级技术应用正在围绕效率、安全和可落地场景持续演进。