WAIC深度洞察|PPIO姚欣:软件创新将引领token成本大幅下降
2026-07-25 16:00:22未知 作者:徽声在线
在“2026世界人工智能大会”举办期间,派想未来集团(简称PPIO)特别组织了一场媒体沟通会。会上,PPIO联合创始人兼首席执行官姚欣深入剖析了Agent(智能体)时代的核心公式,他指出,Agent的生产力可以通过Token智能密度与Agent Loop(智能体循环)时长的乘积来衡量。
姚欣进一步阐释,Token智能密度是决定Agent每一步决策质量上限的关键因素,而Agent Loop时长则关乎Agent能够持续运行的时间长度以及所能完成任务的复杂程度。
针对token(词元)的消耗情况,姚欣分享道:“在今年二三月之际,token消耗呈现出极为陡峭的增长态势,这主要归因于大量尝鲜式应用的涌现。然而,在尝鲜热潮逐渐退去后,如今token消耗已步入稳健增长阶段,每月大约保持10%至20%的持续增长速度,全年预计增幅将达到三四倍,且token已切实转化为推动生产力的工具。”
姚欣还特别强调,PPIO的token消耗曲线与企业实际付费曲线高度一致。鉴于PPIO是一家面向企业的公司,其平台上的所有token均为付费使用,这并非消费者端用户免费尝鲜所形成的曲线,而是真实反映企业付费意愿与能力的曲线。
回顾过去,token成本的降低在很大程度上得益于硬件性能的持续提升,例如英伟达从A100、H100到B100的迭代更新,每一代产品的性能都实现了显著提升。
然而,姚欣也敏锐地指出,当前硬件侧的发展速度正在逐渐放缓,而软件领域的创新与发展却仍在加速推进。在芯片领域,AI芯片的发展路径已从制程微缩转向堆叠技术;同时,为提升单台机器的算力密度,业界开始探索超节点以及Scale out(横向拓展)等解决方案。
姚欣分析认为:“未来三年内,硬件性能的提升速度将逐渐放缓,而软件性能的提升速度则将继续保持快速增长。对于公司而言,当前最重要的优化方向以及在推理侧的主要成本支出,已不再是GPU(图形处理器),而是内存和硬盘。这是因为智能体的使用需要追求记忆功能,导致上下文信息变得极为冗长,这些大量上下文信息需要被妥善保存,首先会存放在显存中,显存不足则转存至内存,内存再不足则存入固态硬盘。”
那么,如何有效解决存储问题呢?姚欣提出:“除了依赖硬件性能的提升外,系统架构的优化同样能够实现存储性能的指数级飞跃。未来三五年内,系统架构领域将迎来极为广阔的发展空间。”
综上所述,未来硬件性能的提升速度将逐渐放缓,而软件性能的提升将成为推动token成本快速下滑的关键因素。
