(资料图片)
7月22日消息,据《The Information》报道,Meta正在内部孵化一款名为Switchboard的模型路由工具,计划根据任务难度,把简单请求交给更小、更便宜的模型,较难任务再调用能力更强、价格更高的模型。这一项目仍处于早期阶段,可能不会正式发布,Meta拒绝对此置评。
Switchboard来自隶属于Meta应用AI工程团队的AAI Labs,这是Meta今年3月成立的应用AI工程团队(Applied AI Engineering)下设的内部孵化器。报道援引一份7月内部备忘录称,AAI Labs目前约有200个获批项目,覆盖消费产品、开发工具和内部基础设施。员工可以通过这个孵化器提出面向内部使用的AI产品和服务,其中一些项目未来也可能向公众开放。
项目提案直接点出了痛点:Meta目前让同一个模型处理所有编码请求,简单任务也要支付顶级模型的价格;如果统一改用便宜模型,复杂任务的效果又可能受影响。项目团队希望先给任务难度打分,再决定调用哪一个模型。
按照内部设想,Meta可以先把Switchboard用于公司内部,降低员工使用AI编程工具的成本;如果测试有效,未来也可能面向大规模运行编程智能体的机构开放。
路由工具背后的动机之一是控制成本。Meta 4月把2026年资本开支指引从1150亿—1350亿美元提高到1250亿—1450亿美元,原因包括组件价格上涨,以及为扩充未来产能而新增的数据中心建设支出。与此同时,据《The Information》报道,Meta还在建设追踪AI支出、执行token预算的平台。
项目文件把推理成本称为Meta扩大部署智能体的主要障碍。提案认为,多数编码智能体任务可由小模型处理,只有少数任务需要能力更强、价格更高的前沿模型。
OpenRouter已经把类似思路做成了公开产品。该公司6月披露每月路由量达100万亿token,并完成1.13亿美元B轮融资。其Pareto Code Router允许用户设定编码质量门槛,再从符合要求的模型中选择当前最便宜的一款;企业还可以为成员和密钥设置支出上限。
模型路由也已进入头部AI产品。OpenAI在GPT-5系统卡中介绍,GPT-5由实时路由器根据对话类型、任务复杂度、工具需求和用户意图,在快速模型与深度推理模型之间切换。(易句)
(本文由AI翻译,网易编辑负责校对)