Arm中国正在考虑将其“周易”NPU驱动升级到Linux内核中
Arm中国正在考虑通过最近创建的加速器“加速”子系统将他们的“周易”NPU驱动程序上传到Linux内核中。目前形式的Arm中国神经处理单元(NPU)驱动程序既有开源内核,也有用户空间堆栈。
三年前,一名百度工程师正在研究用于Linux内核的周易人工智能加速器驱动程序,但那只是一个开源的内核驱动程序,当时缺乏开源的用户空间软件堆栈。从那时起,Arm中国一直致力于这个完全开放的用户/内核驱动堆栈。Arm中国NPU可以在Allwinner R329等一些soc中找到。
Arm中国的一位工程师今天宣布,希望将他们的NPU驱动程序上传到加速器子系统中。目前,至少开放的用户模式驱动和内核驱动是通过Arm-China在GitHub上的Compass NPU驱动开发的。
这个开源AI加速器驱动程序栈依赖于通过ArmChina的神经网络图编译器将TensorFlow Lite和ONNX模型转换为可执行库。然后,应用程序将该可执行文件加载到用户模式驱动程序中,将二进制文件提交给内核驱动程序,内核驱动程序随后将其分派给受支持的soc上的NPU硬件。
有一些开发板可以通过速卖通和类似的方式获得Arm中国NPU支持。
So far the mailing list thread is just laying out the interest and figuring out the requirements for getting this Arm China NPU driver potentially upstreamed into the mainline Linux kernel. It will still be a matter of upstream DRM/accel maintainers reviewing the code, ensuring it fits within the appropriate interfaces, etc, so there's still a long road ahead but at least nice to see Arm China now having a fully open-source NPU driver stack for Linux.