AI token价格通缩究竟是怎么回事？

{"text":[[{"start":7.78,"text":"你可能已经见过这张图表好几次了，但它究竟意味着什么？"}],[{"start":null,"text":"

"}],[{"start":12.190000000000001,"text":"Silicon Data的token支出指数是一项以美元计价、衡量100万token成本的综合基准。该指数从5月下旬2.0651美元的历史高点至今已下跌52.4%。"}],[{"start":25.82,"text":"人们常说，token价格下跌对生产token的公司不利。合成智能单元市场正走向商品化，因为凡是能够大规模生产的东西，最终都会被大规模生产。大多数企业仍处于探索AI的阶段，而相关服务的价格已经降至原来的一半以下。"}],[{"start":44.370000000000005,"text":"token支出指数并不反映token支出总额。它衡量的是按估算使用量加权、并根据token用于输入还是输出进行标准化处理后的平均价格。（大型语言模型实验室通常对输出token收取约为输入token五倍的费用，因为它们希望鼓励用户提出大量复杂问题，然后通过提供答案把钱赚回来。）"}],[{"start":66.97,"text":"Syz集团首席投资官夏尔-亨利•蒙绍(Charles-Henry Monchau)在领英上发布了一篇颇具领英风格的解读文章，解释为什么近期观测到的价格大幅下跌，是因为token工厂的效率越来越高，同时企业一直在把优先级较低的请求转给价格更低的开放权重大型语言模型，从而引发了一场小规模价格战："}],[{"start":87.37,"text":"技术性通缩会扩大利润率，对整个生态系统显然是利好。结构性通缩对总支出没有影响，但会侵蚀前沿实验室的定价能力。竞争性价格通缩则是一场利润率之战。该指数将三者混合成一个数字，却无法告诉你其中的构成。任何人若不先拆解这一指数，就把这张图表当作方向性信号，都是在根据噪声进行交易。"}],[{"start":113.96000000000001,"text":"Seaport Research Partners的科技行业分析师杰伊•戈德堡(Jay Goldberg)试图打造一款更好的“捕鼠器”。戈德堡最为人所知的是，他一直对英伟达维持非主流的“卖出”评级。"}],[{"start":126.49000000000001,"text":"他收集的数据呈现出与Silicon Data指数相似的趋势：前沿大型语言模型的token价格从2023年末每百万token 50美元暴跌至目前约6美元。更值得注意的是，他发现，随着大型语言模型市场竞争加剧，自2024年年中以来，token价格中位数一直相当稳定，维持在每百万token略低于1美元的水平。约0.11美元的最低价格几乎没有变化——这基本上就是电力成本。"}],[{"start":155.54000000000002,"text":"最高价格也是如此。即便将样本范围缩小至最昂贵的旗舰模型，自2023年末以来，价格也几乎没有变化。前沿模型价格的通缩，主要只是因为推出的模型越来越多，从而拉低了平均价格。"}],[{"start":171.13000000000002,"text":"如果不同时估算生成一个token的成本，定价数据的参考价值就十分有限。戈德堡根据看起来相当典型的投入条件估算认为，生产成本的下降速度远快于市场价格："}],[{"start":null,"text":" "}],[{"start":185.20000000000002,"text":"（很抱歉，我们不会展示这张图表的全部计算过程。假设的正常运行时间、租赁费率和折旧等因素容易引发激烈争论，这些内容更适合在行业媒体而非市场博客上讨论。戈德堡表示，他的成本假设是合理的，而我们也没有看到提出异议的理由。还需注意，关于2027年和2028年硬件成本上涨的预测，是根据发布前规格表中能够推算出的信息进行的机械估算，可能无法反映实际表现。）"}],[{"start":216.26000000000002,"text":"由此呈现出的是一个两级市场。在（全部位于美国的）前沿模型领域，毛利率约为70%。与此同时，（主要位于中国的）开放权重大型语言模型公司，毛利率约为20%。当然，不同运营商之间的利润率差距可能会被打破，但过去三年间似乎一直相当稳定。"}],[{"start":238.00000000000003,"text":"训练才是DCF估值中真正的大象。token只涉及推理。模型训练所需的资本则完全是另一场熊熊燃烧的垃圾桶大火："}],[{"start":null,"text":" "}],[{"start":249.01000000000002,"text":"所有这些最终都让我们回到两个相当简单的观察。"}],[{"start":253.3,"text":"如果未来我们有机会看到Anthropic和OpenAI的S-1上市文件，这些文件应该会展示一些相当不错的运营指标。当企业的业务增长如火如荼时，毛利率还能年复一年稳定在70%左右，确实有很多值得看好的地方。"}],[{"start":270.77,"text":"但要让它们成为合理的投资标的，它们就必须继续守住竞争优势，同时还要设法让开放模型之间的性能军备竞赛停火。也许，围绕安全问题制造恐慌，以及在各国境内组建保护主义卡特尔，能够达到这一目的；也许并不能。"}],[{"start":288.72999999999996,"text":"坦率地说，大多数潜在投资者可能已经得出了这样的判断。只是看到一些能够印证许多既有判断的新数据，还是挺不错的。"}]],"url":"https://audio.ftcn.net.cn/album/a_1791187198_8585.mp3"}