美国企业拥抱更便宜的“开放式”AI模型

{"text":[[{"start":10.14,"text":"随着不断飙升的IT支出促使高管寻找Anthropic和OpenAI前沿系统的替代产品，美国企业界正转向成本更低的“开放式”AI模型。"}],[{"start":21.46,"text":"所谓的开放权重模型可由用户定制，并在自有硬件上运行，因此企业使用这类模型的成本可能远低于付费使用ChatGPT或Claude等最先进模型。"}],[{"start":33.15,"text":"研究平台AlphaSense的数据显示，在8月和9月的财报电话会议和投资者会议上，企业高管提及“开放权重”或“开源”模型的次数较去年同期的两个月激增了六倍。"}],[{"start":45.96,"text":"虽然这一转变在科技公司中最为明显，但包括PNC Financial Services、物流集团CH Robinson和工业巨头西门子(Siemens)在内的多个行业的企业近几周也讨论了使用开放权重模型。"}],[{"start":59.230000000000004,"text":"开放权重AI市场已由中国企业主导，但法国的Mistral以及美国的英伟达(Nvidia)、Reflection AI和Thinking Machines Lab也在开发以同样宽松条款发布的高性能模型。"}],[{"start":null,"text":"

"}],[{"start":70.97,"text":"公开市场投资者正密切关注企业客户如何在前沿模型与开放权重竞品之间分配AI支出。"}],[{"start":79.57,"text":"这些成本更低的AI系统今年的快速改进，可能会威胁Anthropic的营收增长。Anthropic正准备首次公开募股，预计估值将达到或超过2万亿美元；OpenAI正就一轮私募融资进行初步磋商，估值为1.2万亿美元，此前该公司已将自身的首次公开募股推迟至2027年。"}],[{"start":101.22999999999999,"text":"目前，两家前沿AI实验室占据了AI支出的绝大部分，而它们对算力的巨大需求支撑了提振美国经济的数据中心建设热潮。"}],[{"start":111.82,"text":"但来自人工智能供应链中各家机构的使用数据显示，这种转变并不仅仅停留在口头上。 今年8月，在通过Vercel AI Gateway 处理的所有Token中，开放权重模型占到了 56%，而去年12月这一比例仅为7%。OpenRouter上也出现了类似的趋势，在按Token处理量排名的前10位中，来自中国实验室的开放权重模型占据了主导地位。"}],[{"start":139.76999999999998,"text":"Match Group旗下交友应用Tinder的首席技术官维奈•库鲁维拉(Vinay Kuruvila)表示，随着该应用努力控制不断上升的AI成本，公司已开始将非技术用户提出的部分查询转交给开放权重模型处理。"}],[{"start":153.2,"text":"“1月份，我们的支出速度相当于每年100万美元；到7月份，这一数字已攀升至1000万美元……我不希望再增加10倍，”他说，“像OpenAI的Astra和Claude Fable这样的前沿模型，已经有足够的智能应对我们试图完成的90%的任务。如果开放权重模型追上来，我可能就不再需要使用它们了。”"}],[{"start":null,"text":" "}],[{"start":175.82,"text":"开放模型通常能够提供与Anthropic和OpenAI出售的闭源系统相媲美的输出结果。区别在于，开放模型的决定AI模型如何响应查询的底层参数是公开披露的。"}],[{"start":190.29,"text":"这使公司能够下载、托管并微调这些模型，而无需向AI模型开发商支付按Token计费的费用。用户还可以直接向开放权重模型提供商购买Token，价格通常远低于OpenAI和Anthropic收取的费用；这正是中国领先开放权重模型实验室深度求索(DeepSeek)和智谱(Zhipu)等公司创收的方式。"}],[{"start":211.95999999999998,"text":"Anthropic和OpenAI的核心商业产品是严密保护的模型，而开发开放权重工具的竞争对手可能会免费分发这些工具，以便将用户锁定在特定硬件上，或通过销售广告获利。随着与中国竞争对手的价格战不断升级，这两家美国公司上周都推出了旗舰模型的低价版本。"}],[{"start":234.24999999999997,"text":"转向开放权重模型的趋势远不仅限于硅谷企业。电信集团AT&T首席数据与AI官安迪•马库斯(Andy Markus)表示，目前该集团约40%的AI工作负载运行在开放模型上，并计划在一年内将这一比例提升至70%。"}],[{"start":252.46999999999997,"text":"马库斯说：“我们每天处理450亿个Token。达到这个规模后，成本就变得极其重要。如果我们能把这些流量从成本极高的闭源模型转移到开放模型上，而且通常只需花费一小部分成本，同时还能保持准确性，那我们就会这么做。”"}],[{"start":270.79999999999995,"text":"马库斯表示，AT&T采用开放模型，并利用公司的专有数据对其进行调优，使这些模型在特定任务上的表现达到或优于闭源替代方案。他说：“开放模型正变得越来越好。这让我们的选择更加丰富。”"}],[{"start":287.84999999999997,"text":"对一些公司而言，成本只是考量因素之一。数据中心运营商Digital Realty的全球解决方案架构高级总监斯科特•华莱士(Scott Wallace)表示，主权和安全同样是推动公司采用部署在私有基础设施上的开放模型的重要因素。"}],[{"start":304.59999999999997,"text":"华莱士表示，Digital Realty已经构建了自己的内部聊天界面，运行于开放权重模型之上，并根据任务的敏感性和复杂程度，混合使用开放式系统和专有系统。"}],[{"start":316.7,"text":"华莱士说：“我们会把专有数据输入这个私有模型，但我不会把这些数据输入前沿模型。任何客户数据都绝不会、绝不会、绝不会进入前沿模型。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1790562871_3746.mp3"}