摩尔线程以夸娥智算集群为美好世界加速

4月25日至29日,由科技部、国家发改委、工业和信息化部、国资委、中国科学院、中国工程院、中国科协和北京市共同主办的2024中关村论坛年会在北京召开。本届论坛以“创新:建设更加美好的世界”为主题,呈现前沿探索、成果共享与开放合作,来自100多个国家和地区的嘉宾、150余家外国政府部门和国际组织机构参会,一系列人工智能新技术、新应用、新模式在论坛期间展示与发布。

论坛期间,中关村国际技术交易大会开幕式暨全球技术交易生态伙伴大会举办,发布《百项新技术新产品榜单》。摩尔线程夸娥(KUAE)智算中心全栈解决方案获得该榜单重点发布推介。凭借高兼容性、高稳定性、高扩展性及高算力利用率等优势,摩尔线程夸娥智算集群可为千亿参数级别大模型训练提供高性能算力支持。

同期,在中关村国际技术交易大会高精尖技术产品首发会人工智能与高端芯片专场活动上,摩尔线程联合无问芯穹重磅宣布,双方正在推进基于夸娥千卡智算集群的“MT-infini-3B”合作大模型实训,目前性能已在同规模模型中跻身前列。摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司。无问芯穹联合创始人兼CEO夏立雪表示:“经无问芯穹Infini-AI平台实训与联合优化工作验证,摩尔线程夸娥千卡智算集群在精度、性能、易用性和算力利用率上均有优异表现,且在实训中实现了长时间稳定训练不中断,已可以为千亿参数级别大模型训练提供持续高效的高性能算力支持。之后我们会把这一合作模型在Infini-AI上开放给大家使用。”

图注:无问芯穹联合创始人兼CEO夏立雪,宣布双方基于夸娥千卡智算集群的“MT-infini-3B”合作大模型实训成果

论坛首日,在北京银行新质生产力与组合金融发展大会上,摩尔线程创始人兼CEO张建中发表以《构建AGI时代的金融科技新质生产力》为题的主旨演讲,阐述了人工智能作为新质生产力的创新引擎将在金融行业中发挥关键作用。他表示,人工智能将通过个性化服务产品、智能化投资决策、自动化风险管理、安全化合规监管、便捷化降本增效等多种途径有效解决金融科技领域面临的挑战。在当前的大模型时代,每一个金融企业都应该拥有自己的大模型和训练基础设施,其中安全普惠的国产化算力是金融行业必备。摩尔线程基于全功能GPU,构建了从芯片到智算中心的先进算力基础设施,以及从软件加速库到大模型分布式训练系统的全栈软件服务,可以为我国金融行业的数智化转型提供算力加速。

图注:摩尔线程创始人兼CEO张建中发表主旨演讲

在中关村国际技术交易大会高精尖技术产品首发会人工智能与高端芯片专场活动上,摩尔线程联合创始人、执行总裁王东以《摩尔线程夸娥(KUAE)提升新质生产力》为题,在演讲中重点介绍了专为大模型打造的夸娥(KUAE)智算中心全栈解决方案的优势和价值。该方案包括以夸娥(KUAE)计算集群为核心的基础设施、KUAE Platform集群管理平台以及KUAE ModelStudio模型服务,旨在一体化解决大规模GPU算力建设和运营管理难题,实现开箱即用。在大模型训练方面,摩尔线程现已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言等数十家主流大模型的训练与微调。在实际运用中,使用摩尔线程夸娥(KUAE)千卡集群进行70B至130B参数规模的大模型训练时,线性加速比可达到91%,并且算力利用率保持稳定。

图注:摩尔线程联合创始人、执行总裁王东发表主旨演讲

中关村论坛是中国面向全球科技创新交流合作的国家级平台,已成功举办14届。摩尔线程作为中关村独角兽芯片企业与北京市“专精特新”企业,受邀在中关村展示中心常设展面向国家重大需求的人工智能集群展区和集成电路集群展区进行成果展示。依托全功能GPU的多元计算优势,摩尔线程已建立了以夸娥智算集群为核心的全栈AI产品线,旨在成为大模型和通用人工智能的先进算力基础设施。面向未来,我们将继续以AI为核心,以技术创新为驱动力,不断探索和拓展加速计算的边界,为构建一个更加美好的数智世界贡献力量。


夕夕海 » 摩尔线程以夸娥智算集群为美好世界加速

发表回复