美团LongCat-2.0：万亿参数大模型震撼开源

在6月30日这个具有里程碑意义的日子里，美团正式揭晓了其最新研发成果——新一代万亿参数大模型LongCat-2.0，并宣布将这一创新成果对外开源，以推动行业技术的共同进步。LongCat-2.0是在一个由五万张国产算力卡构建的强大集群上，历经全流程精心训练与高效推理打造而成的。该模型总参数规模高达1.6T，平均激活参数约为48B，动态参数范围则在33B至56B之间灵活调整，展现了其卓越的灵活性与强大的处理能力。尤为值得一提的是，LongCat-2.0的预训练数据量惊人，超过了30T tokens，这些数据不仅涵盖了中文、英文，还涉及多语言以及代码等多种类型，使得模型能够原生支持长达1M的超长上下文处理，为复杂场景下的应用提供了有力支撑。