腾讯混元Hy3 preview正式开源：重建后首个大模型亮相

据徽声在线最新消息，4月23日，腾讯正式对外发布了混元Hy3 preview语言模型，并同步开源了相关代码。这款模型创新性地采用了快慢思考融合架构，属于混合专家模型（MoE）体系，其总参数规模高达2950亿，其中激活参数为210亿，支持最大256K的上下文窗口长度。作为混元大模型体系重建后的首个里程碑式成果，该模型在复杂逻辑推理、多轮指令响应、长文本理解、代码生成以及智能体交互等核心能力上均实现了显著突破，推理效率较前代产品提升超过40%。