版主信息与通信 2024-07-11

加速拥抱AI与大模型边缘AI芯片渐入佳境

百模大战之下，AI大模型从模型为王走向价值为王，持续向边缘侧和端侧渗透，AI处理重心正加速从云侧向端侧转移。基于成本、可靠性、安全等考量，端侧AI能力已成为赋能混合AI并让生成式AI实现规模化扩展的关键。

尤其是生成式AI模型通过多种“瘦身”方式正在变小，同时端侧AI处理能力持续提升，双向“合力”让端侧AI落地的软硬件基础逐步夯实。业界分析，AI大模型的压缩和端侧推理框架的轻量化，加上边缘算力的跃升，AI与智能终端融合的核心技术条件已然就绪。

数据或可彰显这一趋势：受边缘计算及AI端侧应用落地驱动，Gartner预计2026年全球边缘AI芯片市场规模达到688亿美元，2022—2026年CAGR将达到16.9%。

在前不久举办的WAIC大会上，众多公司各展神通，呈现AI计算在汽车、智能手机、PC、音箱以及其他可穿戴新型终端“运行”落地的繁盛图景。作为国内领先的半导体设计企业，国科微电子股份有限公司亦携全系边端AI芯片精彩亮相。其中，大算力AI边缘计算芯片、车载SerDes芯片首次正式亮相，以充沛的算力、卓越的性能构建边缘AI坚实的“芯”引擎。

端侧AI芯片打造三大优势

端侧AI要承担大模型应用落地关键的重任，需要在AI芯片算力增强、模型优化、软件适配以及终端落地应用层面形成正反馈的闭环。

对于半导体设计厂商而言，AI芯片的算力和模型优化能力成为决定应用落地的关键环节。众所周知，生成式AI的多样化要求带来了计算的多样性，异构计算架构成为不约而同的选择。尤其是在AI计算当中，神经网络处理器NPU扮演了重要角色，在以低功耗实现持续稳定的高峰值性能应用中NPU可发挥其最大优势。

着眼于这一需求，在半导体设计领域深耕15年之久的国科微，依托在视频编解码、固态存储主控、物联网芯片等领域的丰厚积淀，以及在底层算力和工具链等方面的深厚积累，致力于将AI技术与大规模集成电路设计技术结合，通过自主研发成功推出了NPU，实现了低中高算力的全场景布局，打造全系边端AI芯片标配NPU技术，赋能多元化智能应用场景落地。

据工作人员介绍，国科微AI边缘计算芯片拥有三大优势：一是拥有充沛的算力，整数精度达到20TOPS（INT8），半精度达到10TFLOPS (FP16)；二是具有超强的编解码能力，可实现40*1080P@30FPS解码、20*1080P@30FPS编码；三是支持训推一体，支持轻量级LLM语言大模型、AIGC生成式模型、CV大模型以及多模态大模型等，支持主流计算框架和开发工具。

凭借上述“全武行”优势，国科微AI芯片为促进端侧AI落地打开了大门。国科微介绍，其AI边缘计算芯片可使用在AI相机、AI模组、AI加速卡、AI智能终端以及边缘服务器等多种形态的边缘AI产品上，在智能制造、智能驾驶、机器人、工业视觉等领域广泛应用。

这也表明，国科微AI边缘计算芯片在大算力NPU领域取得了阶段性的突破。

全矩阵产品助阵智能网联落地

促进AI大模型在端侧加速落地，还要着眼于场景的具体需求，提供针对性的解决方案。围绕蓬勃发展的智能网联市场，国科微也在集结发力。

尤其是近日五部门联合发布“车路云一体化”应用试点城市名单，我国20个城市入选智能网联汽车“车路云一体化”应用试点，将进一步加快智能网联应用和商业化进程。预计2030年中国智能网联汽车市场规模有望突破5万亿元，“车路云一体化”相关市场规模超14万亿元。

国科微AI首席科学家邢国良教授在WAIC大会发表《下一代自动驾驶技术：从嵌入式视觉到车路协同》的演讲中也指出，从国内外自动驾驶技术发展来看自动驾驶仍主要集中在低自动化水平，与最初发展预期有着较大落差，且自动驾驶市场增速已呈现放缓趋势。在这一背景下，智能网联正成为全球范围内自动驾驶技术研究的新趋势，特别是车载平台与基础设施的互联和协同将会大幅提升自动驾驶的性能和安全性。

实现基于智能网联的下一代自动驾驶技术，邢国良表示，这需要在嵌入式视觉和车路协同两个方向进行突破。其中，在车端和路侧，需要高性能的多模态传感器和感知算法支持，而在车路协同层面，需要全新的分布式算法来扩展车辆感知范围，提高感知精度。相应地，前者带来庞大数据量、高计算负载挑战，而后者则对高通信带宽需求、实时性、感知融合精度提出高要求。

基于对市场趋势的深刻洞察和累积的技术基石，国科微三路并举：以AI边缘计算芯片赋能车路协同路侧边缘计算单元、智慧视觉芯片赋能车路协同路侧多维数据采集、SerDes和车载摄像头芯片赋能车路协同车辆智能驾驶，全面助力下一代自动驾驶加速落地。

国科微着力打造安全智驾全系芯片，推出的车载AI摄像头芯片采用自研AI-ISP，具备8M@45fps视频采集处理能力，支持多目，并满足AEC-Q100、ISO26262 ASIL B认证要求。

随着智能座舱和智能驾驶技术的发展，传感器接入到控制器的数据量越来越大，低延迟需求越来越高，针对这一市场需求，国科微成功研制车载SerDes芯片，并在WAIC2024首次公开亮相。其车载SerDes芯片实现了三项全能：正向传输速率达6.4Gbps，传输距离可达15米，满足大数据量、高速率、远距离、低延迟传输需求；支持多信号传输协议设计，为汽车数据传输带来完整的解决方案；满足AEC-Q100 Grade 2及ISO26262 ASIL B要求，保障安全与智能的驾乘体验。