WAIC深度洞察 | PPIO姚欣:软件创新将引领token成本大幅下降
2026-07-22 18:04:30未知 作者:徽声在线
在2026年世界人工智能大会的热烈氛围中,派想未来集团(简称PPIO)精心策划了一场媒体沟通会。会上,PPIO的联合创始人兼CEO姚欣,深入剖析了Agent(智能体)时代的核心驱动力,他提出了一个引人深思的公式:Agent生产力=Token智能密度×Agent Loop(智能体循环)时长。这一公式揭示了智能体生产力的两大关键要素。
姚欣进一步阐释,Token智能密度是衡量Agent决策质量上限的重要指标,它决定了Agent在每一步行动中能够汲取的智慧深度。而Agent Loop时长,则关乎Agent的持久力与任务复杂度,它决定了Agent能够持续运行多久,以及能够应对何种级别的挑战。
针对token(词元)的消耗趋势,姚欣给出了独到的见解。他指出,在今年二三月间,由于大量尝鲜式应用的涌现,token消耗呈现出迅猛的增长态势。然而,随着市场的逐渐成熟,这种增长已经趋于稳健,每月保持着约10%至20%的持续增长速度,全年预计将达到三四倍的增幅。更重要的是,token已经从尝鲜工具转变为真正的生产力工具,为企业带来了实实在在的效益。
姚欣还透露,PPIO的token消耗曲线与企业付费的真实情况高度一致。作为一家to B(面向企业)的公司,PPIO平台上的所有token都是企业付费使用的,这反映了企业对于智能体技术的真实需求与投入,而非C端(消费者端)用户的免费尝鲜行为。
回顾过去,token成本的下降在很大程度上得益于硬件性能的持续提升。从英伟达A100到H100,再到B100,每一代芯片的更新都带来了性能的飞跃式提升。
然而,姚欣也敏锐地察觉到,硬件侧的变化正在逐渐放缓。相比之下,软件领域的提升却仍在如火如荼地进行中。在芯片领域,AI芯片的发展路径已经从制程微缩转向了堆叠技术;当一台机器的算力密度无法满足需求时,人们开始探索超节点以及Scale out(横向拓展)等解决方案。
姚欣强调:“在未来三年内,硬件的提升速度将会逐渐放缓,而软件的提升速度则将继续保持快速发展。对于公司而言,当下最重要的优化方向以及在推理侧的主要成本支出,并非GPU(图形处理器),而是内存和硬盘。因为智能体的使用需要追求记忆能力,导致上下文信息变得异常庞大。这些上下文信息需要被妥善保存,首先存放在显存中,显存不足则转存至内存,内存再不足则使用固态硬盘进行存储。”
那么,如何解决这一存储难题呢?姚欣认为:“除了依赖硬件的提升外,系统架构的创新也是实现存储能力指数级飞跃的关键。在未来三五年内,系统架构领域将会迎来巨大的发展空间和突破机会。”
综上所述,姚欣的观点清晰而明确:未来硬件的提升速度将逐渐放缓,而软件的提升将成为推动token成本快速下滑的主要动力。
