嵌入式系统技术BTS6510B的革命性发展和人工智能及机器学习应用的突破正在经历一个转型时期。
根据设计，机器学习模型使用了大量的资源，需要强大的计算机基础设施。因此，它们通常是资源较多的操作设备，如PC或者云服务器，其中数据处理效率很高。机器学习应用程序，ML由于机器学习和先进算法的最新发展，框架和处理器的计算能力现在可以直接部署在嵌入式设备上。这被称为嵌入式机器学习（E-ML）。
通过使用嵌入式机器学习技术收集数据，处理过程被移动到更接近边缘的地方。这有助于消除带宽和连接问题，以及通过互联网传输数据和使用数据传输功率的安全漏洞。此外，它还支持使用神经网络和其他机器学习框架，以及信号处理服务、模型构建、手势识别等。根据最大化市场研究小组的报告，全球嵌入式公司将于2021年至2026年进入AI预计复合年增长率将达到5.4%，达到38.7亿美元左右。
嵌入式机器学习的基本概念
如今，物联网和嵌入式计算系统正从可穿戴健康监测系统迅速扩展到人类企业的各个领域（IoT）网络系统、家用自动智能家电到汽车防抱死制动系统，都得到了实际应用。
嵌入式平台常用ML技术包括SVM(支持向量机)，CNN(卷积神经网络)，DNN(深度神经网络)，k-NN（K最近的邻居）和简单的贝叶斯。使用这些技术进行有效的培训和推理需要大量的处理和内存资源。一般来说，即使有深度缓存结构、多核改进等，CPU不能满足深度学习模型的高计算要求。这些限制可以通过使用来实现。GPU和TPU处理器和其他资源可以克服它们。这主要是由于矩阵和向量运算等复杂的线性代数计算，这是非凡深度学习应用的一部分。深度学习算法可以GPU和TPU顶部运行非常有效和快速，使其成为理想的计算平台。
在嵌入式硬件上运行机器学习模型称为嵌入式机器学习。后者遵循以下基本规则：虽然模型执行和推理过程发生在嵌入式设备上，但神经网络等ML模型训练发生在计算集群或云中。事实证明，深度学习矩阵操作可能与一般观点相反CPU在微型16/32位微控制器上可有效执行功能有限的硬件。使用极小硬件(如超低功耗微控制器)ML嵌入式机器学习模型称为嵌入式机器学习模型TinyML。
机器学习方法可分为三类：强化学习、无监督学习和监督学习。在监督学习中，可以学习标记数据；在无监督学习中，可以在无标记数据中找到隐藏模式；在强化学习中，系统可以通过试错法从其直接环境中学习。学习过程称为模型“训练阶段”它经常使用具有大量处理能力的计算机架构(如多个计算机架构)GPU）继续。然后将训练有素的模型应用到新数据中，以便在学习后做出明智的决定。实现的推理阶段称为此过程。物联网、移动计算设备等处理资源有限的用户设备通常用于推理。
机器学习技术
嵌入式机器学习的应用领域
智能传感器系统
机器学习技术在嵌入式传感器网络系统中的有效应用引起了极大的兴趣。GMM(高斯混合模型)，SVM和DNN许多机器学习算法都在移动自组织网络、智能可穿戴系统、智能传感器网络等重要领域寻找实际应用。
异构计算系统
包含各种处理核心的计算机系统称为异构计算系统。从严格的任务中提出计算要求，使用大多数异构计算系统作为加速单元CPU转移和加速系统。异构多核架构是一个应用领域，中间件平台将加速昂贵的计算机学习技术GPU基于现有的加速器集成CPU从而提高架构ML处理数据模型集的效率。
嵌入式FPGA
由于其成本低、性能优异、能源经济性和灵活性，FPGA计算机工业越来越受欢迎。它们常用于预实现。ASIC设计加速单元。FPGA和基于OpenCL的FPGA加速硬件CNN优化是使用FPGA架构加速机器学习模型应用领域的实现。
好处
高效的网络带宽和功耗
嵌入式硬件上运行的机器学习模型可以直接从数据源中提取特征和意见。因此，为了节省带宽和系统资源，不再需要将相关数据传输到边缘或云服务器。微控制器是许多高能嵌入式系统之一，可以长时间运行而不充电。与移动计算系统执行的机器学习应用程序相比，TinyML提高嵌入式平台机学习应用程序的电源自主性。
全面的隐私
嵌入式机器学习消除了在云服务器上传输和存储数据的需求。这减少了敏感数据（如个人信息、医疗数据、知识产权等）的处理（IP）信息和机密信息的应用非常重要。
低延迟
嵌入式ML它支持低延迟操作，因为它消除了向云传输大量数据的需要。因此，嵌入式机器学习是实现各种工业场景实时实施和控制的好选择。
嵌入式机器学习应用程序是通过使用方法和工具构建的。这些方法和工具可以在资源有限的节点上创建和部署机器学习模型。它们为企业提供了大量的创新机会，以最大化其数据价值。它还有助于优化机器学习应用程序的带宽、空间和延迟。