GitHub是世界上最好的开发者体验,也是唯一一个将安全性融入每一步的人工智能平台,因此您可以自信地进行创新。为开发人员提供手头任务的最佳模型一直是我们的目标。今年早些时候,我们推出了自动模型选择功能,该功能会审核您的任务,并将其与最适合该任务的模型进行匹配。
今天,我们将推出HydraFusion项目,这是一个通过运行时编排提供前沿智能的研究预览。它创建了一个完整的执行计划,从多个提供商的模型中进行选择,以起草、批评和修改,或级联到更强大的模型来完成您的任务。HydraFusion在我们的整体战略中发挥着关键作用,在本地、云和复合模型之间提供自动语义路由。
对于开发人员来说,这种复杂性隐藏在幕后:您像选择任何其他模型一样选择HydraFusion,它会选择一个平衡每个任务的性能、成本和延迟的工作流。HydraFusion现已作为研究预览版提供给所有GitHub Copilot计划的用户,通过/在GitHub Copilot CLI中进行实验。使用量基于HydraFusion使用的型号使用的代币,按每个型号的标准费率定价。
要在Copilot CLI中尝试HydraFusion:运行/更新以安装最新版本在Run/model上运行/experimental,然后选择HydraFusion (研究预览)请在GitHub社区中发布反馈。HydraFusion将工作流程选择视为一个优化问题。它使用功能信号进行推理、代码生成、调试和工具使用,以选择最有效的执行模式来满足质量标准。
对于每个请求, HydraFusion当前选择三种执行模式之一: Single。一个选定的模型直接解决任务。级联。有效的模型起草解决方案,质量门决定是接受还是升级到更强大的模型。批评。