NPU是嵌入式神经网络处理器,以深度学习相关处理为主要应用方向,属于数字多媒体芯片技术的一类实现。NPU可采用不同于传统冯诺依曼架构的设计,用于在设备端执行神经网络相关任务。它既可作为独立产品出现,也可作为专用处理单元集成于其他芯片或设备平台中。
NPU通过面向神经网络处理需求的专用架构执行深度学习任务。与以传统冯诺依曼架构为基础的通用处理方式相比,这类处理器可采用不同的架构设计。具体产品的构成方式并不固定,可与其他功能模块进行系统级集成。
2016年3月,中星微“数字多媒体芯片技术”国家重点实验室量产“星光智能一号”。该产品被称为全国首款NPU产品,采用不同于冯诺依曼架构的设计,并实现视频编码器与NPU的系统级集成。其处理流程结合视频编码与深度学习技术,面向安防监控中的人脸识别任务;相关资料记录的人脸识别准确率为98%。截至2016年6月,该处理器初期产量突破一万片,并用于符合SVAC国家标准的智能安防设备。
NPU的应用从智能安防设备扩展至智能汽车、无人机和可穿戴设备。不同场景会把NPU与相应设备平台或芯片中的其他模块结合,用于承载深度学习相关处理。
2025年后,多家厂商推出采用新架构的NPU产品,以支持端侧AI大模型运行。相关产品包括安谋科技发布的“周易”X3 NPU IP、三星电子Exynos 2600芯片,以及AMD锐龙AI Max+处理器中集成的XDNA 2架构NPU。这些实例反映出NPU既可作为可供芯片设计采用的IP,也可直接集成在处理器或系统芯片中。
2026年,NPU在AI智能眼镜等可穿戴设备中的应用进一步受到重视。高通发布集成专用Hexagon NPU的骁龙可穿戴平台,使神经网络处理单元成为可穿戴平台的组成部分。NPU由此覆盖安防监控、智能汽车、无人机、AI智能眼镜及其他可穿戴设备,并承担相应设备上的深度学习处理任务。
NPU的发展路径包括专用架构设计、与视频编码器等模块的系统级集成,以及向处理器、系统芯片、NPU IP和可穿戴平台扩展。早期量产产品主要面向智能安防,后续产品的应用范围逐步延伸至智能汽车、无人机和端侧AI设备。随着端侧AI大模型成为新的处理对象,厂商继续通过新架构和专用NPU模块提升设备端的AI处理能力。