WAIC深度洞察|PPIO姚欣:软件创新将引领token成本大幅下降
2026-07-22 08:54:34未知 作者:徽声在线
在2026年世界人工智能大会的举办期间,派想未来集团(简称PPIO)精心策划了一场媒体沟通会。会上,PPIO的联合创始人兼首席执行官姚欣,深入剖析了Agent(智能体)时代的核心驱动力,并提出了一个具有前瞻性的公式:Agent生产力=Token智能密度×Agent Loop(智能体循环)时长。这一公式揭示了智能体生产力的两大关键要素。
具体而言,Token智能密度是衡量Agent决策质量的重要指标,它决定了Agent在每一步决策中能够达到的质量上限。而Agent Loop时长,则反映了Agent的持续运行能力和任务复杂度,决定了Agent能够持续运行多久,以及能够完成多复杂的任务。
针对token(词元)的消耗情况,姚欣给出了独到的见解。他指出,在今年二三月的时候,由于大量尝鲜式应用的涌现,token消耗的增长曲线呈现出陡峭的上升态势。然而,随着尝鲜热潮的退去,token消耗现在已步入稳健增长阶段,每月大约保持10%到20%的持续增长,全年增幅预计将达到三四倍,且token已逐渐成为推动生产力的关键工具。
姚欣进一步补充道,PPIO的token消耗曲线与企业实际付费曲线高度一致。由于PPIO主要面向企业客户,平台上的所有token均为付费使用,这不同于C端用户的免费尝鲜行为,而是真实反映了企业对于token的需求和付费意愿。
回顾过去,token成本的下降在很大程度上得益于硬件性能的不断提升。从英伟达A100到H100,再到B100,每一代硬件的更新都带来了性能的大幅提升,从而降低了token的使用成本。
然而,姚欣认为,当前硬件侧的发展速度正在逐渐放缓,而软件领域的创新则呈现出蓬勃发展的态势。在芯片领域,AI芯片的发展路径正从制程微缩转向堆叠技术;同时,为了提升单台机器的算力密度,超节点和Scale out(横向拓展)技术也逐渐得到应用。
姚欣强调:“未来三年,硬件的提升速度将逐渐放缓,但软件的提升速度将继续保持快速发展。对于公司而言,当前最重要的优化方向以及在推理侧的主要成本支出,并非GPU(图形处理器),而是内存和硬盘。因为智能体的使用需要追求记忆能力,导致上下文信息变得非常长。这些大量的上下文信息需要被保存,首先会存放在显存中,如果显存不够则存放在内存中,如果内存还不够则会存放在固态硬盘中。”
那么,如何解决存储问题呢?姚欣认为,除了硬件层面的提升外,系统架构的优化也是实现存储性能指数级飞跃的关键。他预测,未来三五年内,系统架构领域将迎来巨大的发展空间和创新机遇。
综上所述,未来硬件的提升速度将逐渐放缓,而软件领域的创新和发展将成为推动token成本快速下滑的主要动力。
