摩尔线程宣布性能新突破：国产千卡智算集群助力国产大模型训推

发布日期：2024-06-15 16:02    点击次数：194

摩尔线程宣布与智谱AI合作，在2024年5月开展了新的GPU大模型适配及性能测试，包括大模型推理以及基于夸娥（KUAE）千卡智算集群的大模型预训练，相关大模型来自于智谱AI基座大模型及其开源版本。

测试结果表明，在推理方面，摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090，在全部测试用例中优于RTX 3090，在多batch下优于RTX 4090；在训练方面，摩尔线程夸娥千卡智算集群训练精度与A100集群误差在1%以内，夸娥千卡智算集群性能扩展系数超过90%，模型算力利用率（MFU）与A100集群相当。

摩尔线程表示，这次的测试结果对更好地建设中国大模型产品技术生态具有重要意义：

首先，是技术自主新突破，标志着摩尔线程全功能GPU算力底座有能力支撑行业领先的大模型全链条研发，在满足信息安全的前提下服务于千行百业；

其次，是助力打破算力瓶颈，表明国产GPU算力底座有能力助力中国人工智能技术发展；再次是开拓创新空间，算法、算力、数据是AGI技术的核心要素，双方的合作有利于推动实现软硬件的深度融合与协同创新；

再次，是开拓创新空间，算法、算力、数据是AGI技术的核心要素，摩尔线程与智谱AI卓有成效的适配与测试合作，有利于推动实现软硬件的深度融合与协同创新；

最后，是降低运营成本，摩尔线程自研国产全功能GPU不仅能够兼容适配全球主流AI软件生态，节约软件迁移成本，而且在单位算力总体拥有成本上拥有较为明显优势，能够有效降低大模型产品研发成本。

以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量，随着对算力需求的日益高涨，人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分。未来摩尔线程会与智谱AI在内的合作伙伴携手，共同推动大模型产业生态的建设和发展。