腾讯Hy4 preview大模型发布，参数规模与上下文长度创新高

据每日经济新闻AI快讯报道，8月28日，腾讯正式对外发布并开源了其新一代大语言模型——Hy4 preview。这款模型拥有总计7700亿（770B）的参数规模，其中激活参数达到490亿（49B），尤为引人注目的是，其上下文长度成功突破100万（1M）字符大关，在处理代码编写、办公自动化以及科学计算等实际生产力任务时，展现出了非凡的能力与效率。Hy4 preview不仅在模型尺寸上实现了显著增长，上下文长度的拓展也为其带来了更强的理解和生成能力，同时，数据规模的扩大以及预训练和后训练技术的双重优化，共同推动了模型智能水平的又一次飞跃式提升。