本文根据ABIresearch 《TinyML:The Next Big Opportunity in Tech》翻译，水平有限，不当之处，敬请指正

两个大的挑战，一个小的解决方案

人工智能（AI）的普及和发展推动了物联网分析的增长。从物联网设备收集的数据，包括图像、视频、传感器数据和时间序列数据，用于训练机器学习模型，从而对物联网整体产生有价值的新见解。然而，这些应用需要强大且昂贵的解决方案，要么在云端，要么在依赖复杂芯片组的本地服务器和网关上，例如图形处理单元（GPU）、中央处理单元（CPU）或现场可编程门阵列（FPGA）。

同时，边缘人工智能芯片组已将人工智能引入到了无数终端，包括移动设备、汽车、智能家居音箱和无线摄像头。然而，这些设备通常由 16 位或 32 位微控制器（MCU）驱动，这些微控制器的算力不足，而无法利用流经这些设备的所有数据。这些设备难以支持高性能计算和高数据吞吐量，从而导致延迟问题，而这正是人工智能失败的原因。

TinyML 旨在解决成本和能效问题。借助专为小型推理工作负载设计的软件，TinyML 能够在低处理能力和小内存的低功耗硬件上进行数据分析。它有可能彻底改变物联网的未来。

什么是TinyML？

TinyML 被广泛定义为一种机器学习技术，它能在低功耗系统专用的硬件和软件上进行数据分析，这些系统功耗通常在毫瓦 (mW) 范围内，使用的算法、网络和模型大小低至 100 kB 及以下。这意味着 TinyML 通常会利用嵌入在模块或设备中的微控制器（MCU）或传感器，从而能够在超低功耗和性能受限的环境中实现人工智能。不过，为配备 TinyML，这些物联网设备或机器必须连接到公共或专用网络，并参与基础水平的自动化和增强任务，且专注于单一任务。

正常情况下，这些设备会将收集到的所有数据发回到网关或云端。如果有了 TinyML 模型，它们就能收集数据并进行数据分析。TinyML模型起到过滤器的作用，忽略超出指定参数或阈值的数据。只有在阈值范围内的数据才会使设备或机器执行动作，无论是触发警报、启动单独的软件，还是发送警报到网关或云端。

TinyML 通常也被称为极边缘人工智能，是边缘人工智能的一个子集。

连接点...和收益机会

TinyML 的增长与物联网设备的爆炸式增长直接相关。ABI Research 预测，全球物联网设备将从 2020 年的 66 亿台增长到 2026 年的 237.2 亿台。每个新设备和连接都代表着人工智能和机器学习的机遇。因此，ABI Research 预测，TinyML 市场的出货量将从 2020 年的 1520 万台增长到 2030 年的 25 亿台。

TinyML有许多潜在的用例：

类别

用例

消费

家庭监

控家庭安全和自动化

人员和宠物跟踪

健康可穿戴设备

工业和制造

资产跟踪

商业楼宇自动

化基于状态的监测

智慧城市

智能停车

智能路灯

运输与物流

售后和原始设备制造商(OEM)远程信息处理

车队管理系统

重型运输车辆和设备

用户定制保险

公用事业

智能电

网智能电表

除了节约成本和功耗需求，TinyML 还可能挽救生命。室内空气污染每年造成 160 万人死亡。具有 TinyML 芯片组的智能家居设备可以根据周围环境的变化向终端用户提供反馈，包括湿度和温度的剧烈波动、光源和特定营养物质的缺失以及有害空气颗粒的突然飙升，而这不会对设备整体功耗产生重大影响。

TinyML 的六大优势

TinyML 的普及将导致边缘人工智能的发展超越传统的重要市场。除将人工智能分析扩展到机器视觉之外， 更多的最终用户可以从基于声波、温度、压力、振动和其他数据源的智能互联传感器和物联网设备中受益。这种增长带来了实实在在的重要好处。

数据隐私：在极边缘进行人工智能处理，可最大限度地减少物联网设备与网关之间的数据流量。只有那些被认为对系统至关重要的数据才会作为执行点发送。大部分数据留在物联网设备中，没有被恶意收集的风险。随着政府和监管机构对数据隐私问题上越来越严格，这一实施方案将有助于物联网供应商遵守重要的政府法规，如欧盟于 2018 年实施的《通用数据保护条例》（GDPR）。

各种组件的高度互联互通：在许多情况下，物联网设备是更广泛生态系统的一部分。物联网设备的数据流经由边缘网关收集，然后在同一网络中多个物联网设备间共享的数据中产生见解。这就形成了一个具有频繁信息交换的高度连接的设备网络。直接在设备上进行数据分析，可以减少通过设备链路传输的不必要的信息负载，减少处理延迟，并对实际环境提供更准确、更及时的反馈。

高能效：随着物联网设备变得越来越复杂，这些设备的性能和功耗要求可能会增加。数据流传输到网关或云端也会导致更高的功耗，因为网络传输比本地计算消耗更多能量。为了在不增加功耗预算的情况下实现更高的性能，物联网解决方案供应商将需要依靠更节能的硬件来执行人工智能工作负载。这也将使以前无法支持始终在线的设备能够持续保持警惕状态，从而显著改善用户体验。

小芯片组封装：以算术方式降低位数，可减少每个处理器所需的板载存储器或静态随机存取内存（SRAM）的大小。这将有助于进一步减小每个单元封装大小，从而开发出更小的智能物联网设备或模块。

功能安全和安全问题：基于硬件的人工智能实现的优势在于增加了计算芯片组的安全和加密。基于软件的解决方案通常更容易损坏和篡改。拥有坚固的硬件可确保人工智能模型的安全性，并防止恶意攻击。

克服网络带宽挑战：虽然新的网络连接协议越来越普及，如下一代蜂窝连接和其他低功耗广域网 (LPWAN) ， 并非所有的物联网设备都能够运行在与公共或专用网络完美连接的环境中。有限的带宽意味着设备无法将所有数据传输到网关或云端，需要设备具有本地人工智能处理能力。TinyML 或极边缘的人工智能减少了要卸载的数据量，并能在各种场景中保持了人工智能性能。

市场预测

策略建议

终端用户

与一般的边缘人工智能相比，非常边缘人工智能所处的环境更加专业化，因此终端用户必须准备好设备、连接基础设施和内部专业知识，以获得极边缘人工智能的真正优势。

供应商

了解用户对 TinyML 的需求和要求，TinyML AI 芯片组供应商需要做以下工作：