面壁智能与清华携手，开源中国首款昇腾训练1.58-bit端侧大模型BitCPM-CANN

每经AI快讯，5月25日，面壁智能通过其官方微信公众号对外宣布了一项重要进展：该公司携手清华大学，成功开源了国内首个依托昇腾平台训练的低比特端侧大模型——BitCPM-CANN。这一创新成果标志着从量化算子的精细设计、训练算法的优化，到全链路框架的构建，均是在华为昇腾的强大支持下原生实现的。在推理应用阶段，BitCPM-CANN模型展现出了卓越的性能，不仅释放了大约6倍的显存资源，有效降低了硬件需求，还确保了模型能力的保留率稳定在90%至97.2%的高水平，为端侧AI应用提供了更为高效、可靠的解决方案。