2022/9/27 10:56:35
来源：意法半导体博客
意法半导体近期发布的 STM32Cube.AI v7.2 带来了对深度量化神经网络的支持功能，从而可以在现有微控制器上运行更准确的机器学习应用软件。STM32Cube.AI 于 2019 年推出，用于把神经网络转换为适合STM32 MCU 的代码。该解决方案依附于 STM32CubeMX，这是一个帮助开发人员初始化STM32芯片的图形界面软件。同时，STM32Cube.AI 还用到 X-CUBE-AI软件包，其中包含用于转换训练好的神经网络的程序库。开发人员可以参照我们的入门指南，从STM32CubeMX内部开始使用 X-CUBE-AI并体验新功能。 目前，新增加的深度量化神经网络支持已经出现在我们与施耐德电气合作开发的人数统计应用软件中。
STM32Cube.AI: 从研究到实际软件
神经网络是什么？
最简单的神经网络就是一系列网络层。在神经网络中有一个输入层和一个输出层，以及介于两者之间的一个或多个隐藏层。因此，深度学习是指三层以上的神经网络，其中“深度”这个词表示有多个中间层。每一层都包含多个节点，每个节点都连接到下层的一个或多个节点。简而言之，信息通过输入层进入神经网络，穿过隐藏层，然后，从一个输出节点出来。
量化神经网络和二值化神经网络分别是什么？
开发人员在节点内使用权重和偏差两种参数来决定信息在神经网络上的传播方式。在数据通过网络时，这两个参数将会影响数据。权重是系数。当权重越复杂，网络输出越准确，但算量也随即增大。每个节点还用激活函数来确定如何转换输入值。因此，为了提高网络性能，开发人员可以使用权重精度较低的量化神经网络。最高效的量化神经网络是权重值和激活函数值只用+1 和 -1两个数值的二值化神经网络 (BNN)。因此，BNN神经网络对算力的要求非常低，然而准确度也最差。
为什深度量化神经网络很重要？
业界面临的挑战是找到一种简化神经网络的方法，以便在微控制器上运行推理运算，同时又不把准确度降到让神经网络毫无用处的程度。为了解决这个问题，意法半导体和意大利萨勒诺大学的研究人员在深度量化神经网络DQNN上展开合作。DQNN网络只用较小的权重值（1 位到 8 位），并且可以包含混合结构，即只有一部分层是二值化，而另一部分层则用位宽更高的浮点量化器。意法半导体和该大学的研究人员发表的研究论文论述了哪种混合结构可以产生最佳的结果，同时RAM 和 ROM的存储占用空间最低。
STM32Cube.AI 的新版本是这些研究活动的直接成果。7.2 版确实支持深度量化神经网络，充分利用二值化层的高效，同时不会丧失运算准确性。开发人员可以先用 QKeras 或 Larq 等开发框架训练神经网络模型，然后再通过 X-CUBE-AI处理训练好的神经网络。改用DQNN网络有助于节省内存占用空间，让工程师能够选用成本效益更好的芯片，或用一个微控制器代替多个元器件设计整个系统。因此，STM32Cube.AI 继续为边缘计算平台带来更强大的推理能力。
从演示软件到市场趋势
如何开发人数统计演示软件？
意法半导体和施耐德电气最近推出了双方合作利用 DQNN开发的一个人数统计演示软件。该系统通过处理热传感器图像数据，在 STM32H7 上运行推理算法，来确定是否有人越过一条假想线，以及是从哪个方向进出的。元器件的选择非常引人注目，因为它宣扬物料成本相对较低。施耐德没有选用更昂贵的处理器，而是使用深度量化神经网络来大幅降低内存和 CPU 的占用，从而缩减了应用系统面积，并为成本效益更高的解决方案打开大门。两家公司都在 2022 年 3 月的 TinyML 展会期间展示了该演示软件。
如何克服边缘机器学习的炒作问题？
意法半导体是第一家提供类似STM32Cube.AI 解决方案的 MCU厂商，根据 MLCommons 基准测试，我们的工具的性能继续名列前茅。从学术论文到软件发布，最新的发展历程表明，意法半导体之所以表现出色，是因为我们优先考虑有意义的影响实际应用的研究活动。我们关心的是让 AI 变得实用且可用，而不只是一个时髦术语。Gartner的市场分析师预计，嵌入式 AI 开发企业将很快经历“幻灭低谷期”。通过争做业界龙头，以研究为动力，专注实际应用和精心优化，意法半导体克服了这一问题。
参考文献
1. D. Pau, M. Lattuada, F. Loro, A. De Vita and G. Domenico Licciardo. “Comparing Industry Frameworks with Deeply Quantized Neural Networks on Microcontrollers”. 2021. IEEE International Conference on Consumer Electronics (ICCE)pp. 1-6, https://doi.org/10.1109/ICCE50685.2021.9427638.
2. “5 Trends Drive the Gartner Hype Cycle for Emerging Technologies, 2020.” www.gartner.com.
直播会议
10月13日14:00晶芯研讨会将以《大数据时代的半导体存储与数据安全》为题，邀请垂直存储产业链重量级企业分享DRAM、NAND FLASH等半导体存储技术，并为大家带来宝贵经验和案例分享！
学贵有恒，欢迎点击链接参会：
深圳会议
2022年11月15日，CHIP China晶芯研讨会|深圳国际会展中心希尔顿酒店，将共联华南各大半导体产业链企业，并邀请封测专家齐聚鹏城 深探与“芯片国产化”相关的Chiplet、CWLP、SiP、堆叠封装、异质集成等热门话题。了解详情：
关于我们
《半导体芯科技》（Silicon Semiconductor China, SiSC）是面向中国半导体行业的专业媒体，已获得全球知名杂志《Silicon Semiconductor》的独家授权；本刊针对中国半导体市场特点遴选相关优秀文章翻译，并汇集编辑征稿、国内外半导体行业新闻、深度分析和权威评论、产品聚焦等多方面内容。由雅时国际商讯（ACT International）以简体中文出版、双月刊发行一年6期。每期纸质书12,235册，电子书发行15,749，内容覆盖半导体制造工艺技术、封装、设备、材料、测试、MEMS、IC设计、制造等。每年主办线上/线下 CHIP China晶芯研讨会，搭建业界技术的有效交流平台。独立运营相关网站，更多详情可点击官网链接：杂志免费订阅链接：
声明：本网站部分文章转载自网络，转发仅为更大范围传播。 转载文章版权归原作者所有，如有异议，请联系我们修改或删除。联系邮箱：viviz@actintl.com.hk， 电话：0755-25988573
