寒武纪思元加速卡与百川智能完成大模型适配
集微网消息 近日,寒武纪思元(MLU)系列云端智能加速卡与百川智能旗下的大模型Baichuan2-53B、Baichuan2-13B、Baichuan2-7B等已完成全面适配,寒武纪思元系列产品性能均达到国际主流产品的水平。
思元云端智能加速卡具有多种数据位宽、超大内存容量和高速内存带宽等产品优势,加上寒武纪自研的BangTransformer算法加速库,硬件和基础软件平台充分协同,适配过程中,满足了百川大模型对加速卡计算、通信和能效等多方面需求,显著加速了大模型从训练到部署的全部流程。
针对快速发展的大模型领域,2023年,寒武纪从底层硬件架构指令集的设计到基础软件迭代都针对大模型的应用场景进行相应的优化,思元(MLU)系列产品在大语言模型、视觉大模型等领域的性能进一步提升。
百川智能是国内大模型的独角兽公司,成立以来已发布六款大模型,包括四款开源大模型Baichuan-7B/13B、Baichuan2-7B/13B,以及两款闭源大模型Baichuan-53B、Baichuan2-53B。未来双方还会通过整合技术和资源,形成优势互补,一起来探索和推动生成式AI大模型在更多的行业和场景落地。