全链网:推理市场并非万能芯片,而是解决方案组合

作者:技术拾光时间:2026-07-19 10:28:28浏览:646

大模型迭代每两个月一次,中国模型因算力受限而提升效率,具备性价比优势。推理市场不存在万能芯片,碎片化严重,核心是解决方案组合,未来将涌现大量ISP公司提供定制化服务。

大模型赛道竞争加速,推理市场迎来新机遇

大模型赛道的竞争节奏有多快?摩尔线程联合创始人王东给出了一组直观数据:头部厂商平均每两个月就要完成一次前沿基础模型的版本迭代。这在几年前简直难以想象。更值得关注的是,在模型调用成本这一维度上,中国前沿基础模型已经展现出明显的性价比优势——同等智力水平下,成本远低于国外同类产品。

这背后其实藏着门道。王东直言,中国模型公司之所以能做到“更优性价比”,恰恰是因为在有限算力的约束下,被逼着在效率上做足了功夫——无论是训练成本、价格效率还是推理效率,都经历了反复打磨。换句话说,算力的“紧日子”反而催生了技术创新。

不过,真正有意思的观察来自他对推理市场的判断。王东认为,这个市场里不存在所谓的“万能芯片”。推理场景技术门槛相对较低,但碎片化程度极高,“没有任何一家公司能够垄断所有细分应用场景”。这就好比工具箱里不可能只有一把锤子——每个模型、每个场景,都需要找到最适合它的硬件组合,才能实现成本与性能的最佳平衡。

所以,推理市场的核心逻辑不是“拼芯片”,而是“拼解决方案”。王东预测,未来市场上会涌现大量ISP(推理服务提供商)公司,它们将为MaaS提供商或终端客户提供更具性价比、更灵活的定制化推理服务。这才是真正的“软硬协同”——没有绝对完美的单一硬件,但每个模型都能找到它的最佳拍档。

全链网:推理市场并非万能芯片,而是解决方案组合