腾讯混元发布Hy4 preview轻量版，模型压缩技术再升级

在9月1日这个具有里程碑意义的日子里，腾讯混元研发团队正式对外发布了Hy4 preview的轻量版本模型。这一创新举措标志着腾讯在模型压缩技术领域取得了重大突破，他们成功地将Hy4 preview模型的权重规模从庞大的1.5TB大幅缩减至约214GB。据腾讯混元团队详细介绍，经过精心优化与压缩后的这款轻量版模型，在长文理解能力方面展现出了惊人的稳定性，几乎与原始模型不相上下。同时，在多轮长上下文检索任务中，其表现也与原版模型维持在同一高水平线上。尽管在数学能力方面略有下降，但整体降幅微小，完全在可接受的范围之内。更为值得一提的是，这款轻量版模型在日常应用场景中表现出色，无论是编码辅助、工具调用，还是长文档处理以及常规问答，它都能游刃有余地应对。