IBM 的行业转型蓝图如何利用 AI、5G 和协作
在 55.000 年多一点的时间里，30.000 个项目、30.000 名开发人员、$54M 资金和客户，包括 NASA 等。Edge Impulse 正在乘着边缘机器学习的浪潮
用 Jan Jongboom 自己的话说，他的梦想是拥有能够真正了解周围发生的事情的设备。那是十年前的事了，但直到 2019 年，他才开始真正采取行动。就在那时，Jongboom 和 Zach Shelby 创立了 Edge Impulse ，其使命是使开发人员能够创建下一代智能设备。
今天，Edge Impulse 宣布由 Cotogue 领投的 3400 万美元 B 轮融资，将其 2022 年市场估值和增长预测提高了两倍。Coatue 加入了现有投资者 Canaan Partners、Acrew Capital、Fika Ventures、Momenta Ventures 和 Knollwood Investment Advisory 的行列，为团队所说的“令人难以置信的一年”画上了句号。
自 2019 年推出以来，来自数千家企业的近 30,000 名开发人员使用 Edge Impulse 创建了近 55,000 个自定义机器学习项目，与 Oura、Polycom、Advantech 和 NASA 等客户一起构建了更智能的工业、物流、消费者和健康解决方案。其开发人员基础增长了 4 倍，去年的年度经常性收入增长了 3 倍。
所有这些听起来相当令人印象深刻，也证明了 Gartner 的预测，即“到 2027 年，深度学习形式的机器学习将包含在超过 65% 的边缘用例中，而 2021 年这一比例还不到 10%”。我们采访了 Jongboom 以了解有关 Edge Impulse 的更多信息。
让哑 IoT 设备有用
Jongboom 和 Shelby 的出发点是 IoT 设备很棒，但它们也很愚蠢。他们可以记录来自不同类型传感器的时间序列，例如温度或声音，但他们不知道这意味着什么，也不知道如何从中产生任何有用的东西。
大约三年前，当 Jongboom 在 Arm 遇到 Shelby 时，他们开始讨论他们可以做些什么来让这些设备真正理解世界。他们很快得出结论，机器学习就是答案。
Jongboom 以打击偷猎行为为例。他说，如果你想使用 IoT 设备来检测周围是否有大象，你有两个选择。首先是尝试创建一个程序来描述大象的听觉输入是什么样的。第二种方法是使用大象声音样本，让机器学习模型弄清楚。
Edge Impulse 专注于 IoT 设备的机器学习。这意味着他们需要应用标准的机器学习生命周期：收集数据 -- 训练模型 -- 部署模型 -- 验证模型 -- 重复。让我们看看它们如何适应此过程中的每个步骤。
我们想知道 Edge Impulse 的数据收集部分支持什么样的设备或传感器。Jongboom 提到，他们的合作伙伴生态系统，从微控制器开发人员到用于机器学习的超级专用芯片，都支持“阳光下的任何东西”。
在考虑一家成立于 2019 年的公司如何在 2021 年之前创建这样一个生态系统时，需要考虑几个因素。据 Jongboom 称，Edge Impulse 的创始人本身就是从嵌入式开发人员开始的，Shelby 之前曾将他的物联网初创公司卖给了 Arm，这让他们抢占了先机。他们知道开发人员想要什么，并且知道如何联系硬件供应商。此外，他们还使数据摄取开源且易于使用：
“这是一个非常好的故事，我们可以帮助芯片供应商进入市场，在我们有了芯片可以运行之后。这意味着我们可以共同去找客户，并有一个更好的故事。不是 - 哦，我们有这个了不起的机器学习平台。也就是说，我们拥有这个了不起的机器学习平台，而且我们实际上得到了芯片供应商的支持，他们已经可以在您的棕地设备上运行了。这真是太神奇了“，Jongboom 指出。
收集数据、训练模型、部署模型、验证模型、重复
就该过程的训练机器学习模型部分而言，Edge Impulse 主要使用现成的框架，例如 TensorFlow。那里的想法是尽可能多地抽象，旨在使模型生成对领域专家来说尽可能用户友好。
Jongboom 说，目标是为领域专家提供收集数据的工具，然后分析异常情况或对正在发生的事情进行分类或预测未来。这不仅仅是机器学习，还有信号处理，因为“信号处理真的很好，而且可以解释”。
Edge Impulse 的主力是 TensorFlow，通过 Keras 使用。如果您有数据科学家，那就太好了，您可以随心所欲地编辑模型。如果没有，则不必这样做。因此，它可以是从低代码到完全自由的任何内容。是的，低代码引用意味着这里的图片中有一个 IDE —— Studio 。
Edge Impulse Studio 是一个在线 IDE，也是该过程的验证部分发生的地方。Jongboom 指出，这在机器学习中非常重要，在边缘应用中更是如此。这是因为，如果您将某些内容部署到设备或机器上，则很难纠正作设置中的错误。
Edge Impulse 允许用户上传真实数据以用于验证，它还可以生成合成数据。它还允许他们进行干预并手动更正误报或漏报，具体取决于应用程序的类型。有时，识别某些事件至关重要，即使以误报为代价，有时错过某些内容也没关系。
Jongboom 指出，关键是创建有洞察力的应用程序并激发信心。让某人在机器学习模型的协助下检查数据，可以更轻松地看到薄弱环节。
该过程的最后一步 - 部署 - 目前在 Edge Impulse 中有些超出范围。Edge Impulse 输出源代码。这包括数学模型、归一化代码、信号处理代码、机器学习代码以及模型的所有后处理调整。
Jongboom 说，没有编译的二进制文件，也没有版税。他继续补充道，用户如何将其集成到他们的设备中取决于他们自己。然而，Jongboom 指出，生态系统也参与其中，它可以像两行代码一样简单。这部分也是开源的。
Edge Impulse EON：优化边缘机器学习模型的秘诀
到目前为止我们还没有讨论的部分是 TinyML 部分，它既是 Edge Impulse 的核心，也不是开源的。TensorFlow 或任何其他与此相关的框架可能会生成不适合在边缘设备上部署的模型，因为这些设备在功耗和处理能力方面受到限制。
这就是 Edge Impulse 的 EON（边缘优化神经）发挥作用的地方。这是 Edge Impulse 用来生成适合部署在边缘受限设备中的机器学习模型的技术。它做的第一件事是考虑部署目标的所有参数，并做两件事。
首先，EON 调谐器启动。Jongboom 将其描述为“一个由 1000 种不同模型组成的超广泛搜索基础，我们可以尝试”。EON Tuner 会查看适合部署目标设备的设备，然后选择准确性最高的设备。
然后，EON 编译器将神经网络高效地编译为棕地设备。Jongboom 说，它的工作原理是机器学习模型馈送到解释器中，解释器构建一个图形并运行推理。但是这是一个浪费的嵌入式系统，因为你需要有解释器加上解释器可以构造的所有潜在状态。
EON 编译器只是将图形编译为源代码，然后将其编译进去。这节省了 30% 到 50% 的 RAM，这已经很多了，尤其是在棕地设备中。编译器可供使用，人们生成的模型也是开源的，根据 Apache 2.0 许可证获得许可，因此没有版税。有些人实际上选择与社区共享他们的模型。
Edge Impulse 是一个软件即服务平台。客户每月按项目付费，或按数据管道每月付费。他们还为更多计算、协作功能、大规模数据转换以及与云的集成付费，以提取数据并提取数据。
Edge Impulse 目前有一个 40 人的团队。我们的目标是利用这笔 B 轮融资在明年增加到 80 人，重点是 Solutions Engineering 团队。Jongboom 表示，他们还致力于以同样的方式继续发展社区和支持，并保持他们的有机增长。