在过去的几年中，我们开发出一系列技术，从而使得在上述低功率微控制器中，运行高度优化后的微型机器学习模型成为可能。通过使用机器学习从源头处解释传感器数据，嵌入式应用可以变得更加智能、快捷和节能，从而能够自行做出决定，而不用再将数据流式传输到云端并等待响应。这一概念又称为嵌入式机器学习或 TinyML 。

由于嵌入式工程师掌握深奥的信号处理知识和领域专业知识，他们是设计新一代智能应用的理想人选。然而，嵌入式工程师往往掌握多种高度专业化的技能，与数据科学家和机器学习工程师不同的是，他们使用的开发工具链通常不会包括大量的 Python 堆栈。

期望领域专家经过培训成为数据科学家，或是让数据科学家学习使用微控制器所需的嵌入式开发技能都不合理。相反的是，我们需要新一代的工具，让拥有领域专业知识的人员能够捕捉自身的知识和数据分析来构建机器学习模型，并将这些模型部署到嵌入式设备中。在机器学习专家的帮助下这种方法可行性很高。

TinyML 开发流程类似于传统的机器学习工作流。首先我们要收集、探索和评估数据集。接下来，特征工程会采用复杂的数字信号处理形式，通常使用的是嵌入式工程师早已熟知的算法类型。从数据中提取出特征后，我们就会对机器学习模型进行训练和评估，用批判的眼光观察模型的尺寸，确保其适用于体积小巧的微控制器，同时保证模型的运行速度足够快，以发挥其效用。

训练结束后，我们会对模型的尺寸和效率进行优化。这通常会涉及到量化，通过降低模型权重的精度来占用较少的宝贵内存。模型准备就绪后必须以 C++ 库（大多数嵌入式平台选择使用的语言）的形式部署，库中包括运行模型需要的所有运算符内核。然后嵌入式工程师可以编写和调优应用，通过该应用来解释模型的输出并根据输出制定决策。

在整个过程中，您必须仔细评估模型和应用，以确保其在实际环境中使用时能够达到预期的功用。如果监控和审核环节不到位，则建立的模型可能会在表面上看似准确，可在接触到真实世界的数据时则会失效，同时带来诸多不利影响。

在将深度学习模型部署到嵌入式设备的过程中，最常用的优化方法就是量化。Edge Impulse 使用 TensorFlow 模型优化工具包 来量化模型，从而将模型权重的精度从 float32 降低到 int8，这样对准确性的影响最小。

通过使用 适用于微控制器的 TensorFlow Lite 和模拟软件 Renode，Edge Impulse 能够在将模型部署到目标嵌入式设备后，为开发者提供模型延迟时间和内存用量的准确预估结果。我们可以借此轻松确定优化带来的影响，例如数据集不同切片的量化。

同一模式下 int8 量化后的模型和未优化模型间的对比，表明其性能和结果之间的差异

为在最大程度上获取灵活性及与开发者当前的工作流兼容，训练后的模型可提供多种下载格式。开发者可以将原始模型以 TensorFlow SavedModel 格式导出，也可以用可移植的 TensorFlow Lite FlatBuffer 格式下载其中一个优化后的模型：