DeepSeek将价格降幅75%。100x的问题依然存在 笔记

DeepSeek将价格降幅75%。100x的问题依然存在

DeepSeek决定将其V4-Pro模型的价格下调75%,但对企业AI厂商和开发者来说并非完全有利,因为更便宜的模型并不自动转化为更健康的利润率。原因在于代理系统消耗代币的速度快于价格下跌,导致供应商成本上升。这被称为100倍问题,即同一用户可见请求作为代理工作流的成本远高于作为聊天机器人或检索增强生成响应。问题的规模从模型提供商对开发者关系的定价方式中显而易见,OpenAI提出的项目是向每个Y Combinator初创公司提供200万美元的API信用额度,这实际上承认了运营一家AI原生公司的实际成本。令牌放大是一个重大问题,单一用户消息可能产生数百甚至数千个模型调用,导致厂商成本高昂。企业人工智能的定价趋势一直是基于座位的SaaS,但代币放大打破了这一假设,导致供应商的毛利率为负。现在有几家厂商私下报告重度用户的负毛利率,这些明显的症状开始渗透到公众报道中。其战略意义在于,大多数AI原生公司计划所采用的主导商业模式,无法承受与代理性工作负载的接触。为了生存,公司需要让推理成本成为一流的指标,像媒体采购员一样精准预算,将路由器视为核心基础设施,每季度审计提示,并尽早谈判销量承诺。未来24个月对企业来说至关重要,必须适应AI基础设施定价的新现实,而那些幸存下来的企业,将是那些智能代理聪明且清楚思考成本的企业。
CdXz5zHNQW_wTuyCQnDfO.png