云天励飞:AI推理芯片及大模型标准化硬件将迎来重大发展机遇
近日,云天励飞在接受机构调研时表示,随着人工智能技术演进的加快,基于大模型的各类应用快速涌现,带来了算力需求的急速提升;同时,推理应用也逐步向边缘及端侧迁移,AI推理芯片及预装大模型的标准化硬件将迎来重大发展机遇。
目前云天励飞主推的芯片Deep Edge10搭载了公司自研的神经网络处理器NNP400T,已在智慧交通、清洁机器人等领域进行应用;依托自研芯片Deep Edge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。
据介绍,云天励飞于2023年逐步开启AI运营商业化路径,其中包括智能计算中心运营,目前公司已搭建包括华为昇腾、云天自研大模型推理服务器在内的超大规模异构高性能算力集群,在核心城市建设算力节点,实现算力统一调度管理以及异构千卡集群的高效运行,赋能互联网、AI企业、政府单位、高校及科研单位等行业大模型训练及推理落地,打通了AI运营商业化之路。
今年3月,云天励飞又发布了面向于中小企业客户的“深目”AI模盒,同月还发布了关于收购深圳市岍丞技术有限公司股权暨开展新业务的公告,并于4月完成了第一期交割,目前公司持有深圳市岍丞技术有限公司51%的股权,通过与岍丞技术的协同,将拓展面向C端的智能可穿戴设备新业务。未来,以上业务板块将有力支撑公司收入增长。
除了为有大模型训练推理需求企业提供高性能异构算力服务外,云天励飞同时还提供从算力基础设施到大模型的深度协同。智算中心内置公司自研千亿级大模型“云天天书”、算法开发平台、算法仓等应用供客户调用。
(校对/邓秋贤)