采访 NXP Semiconductors 公司的人工智能和机器学习技术总监 Markus Levy
“从中长期来看，我们希望将一定程度的人工智能加速引擎集成到我们的许多组件中。我们甚至还在探索，在低端 MCU 上集成经济高效的特殊硬件模块。” – Markus Levy
提问：“人工智能”和“机器学习”确实是当下的热门话题，还是只是人工智能或机器学习背后的现实炒作？
Markus：当然，“人工智能”和/或“机器学习”这两个流行语确实有炒作成分存在，但相比于五年前围绕物联网的炒作，“人工智能”和/或“机器学习”要真实得多。这样说并没有贬低物联网价值的意思，因为它推进了许多新潮应用领域的开发，但物联网或多或少是一种嵌入式的发展。另一方面，人工智能/机器学习反映了一种“市场细分”，为解决问题提供了一种全新的方式。请记住，机器学习已经以神经网络和经典算法形式存在几十年了。然而，在机器学习框架取得最新进展之前，没有人知道如何实际训练深度神经网络；同时，使用商用硬件也是不切实际的，因此研究在当时仍然处于相对停滞的状态。现在，由于研究数量激增，因此才有了开源和专有选项，可以用来训练、优化和部署机器学习模型。如今，更多的公司在人工智能/机器学习开发上投入资源和资金，我们能看到的只是冰山一角而已。像任何前沿技术一样，一旦有人“嗅”到钱的气息，就会产生赢家和输家。
提问：您如何看待人工智能向主流技术的扩散？
Markus：首先你应该注意到，为了让人工智能/机器学习能够在所有或许多应用领域扩散并成为主流技术，必须将其简化到可以进行模型训练的水平，同时还要可以通过 Python 脚本或下拉菜单来开发和部署推理引擎，而不是让开发人员不得不为其创建复杂的数学算法。用于人工智能/机器学习的编程通常被称为软件 2.0。这里使用的并不是传统的编程方法，而是要利用现有的神经网络和框架以及经典的机器学习库。为了支持这一点，就要在确定权重和参数（例如，通常被称为训练模型）方面耗费更多心血。
关于人工智能的特殊优势，从根本上说，这是一个数据贵如金的领域。换句话说，除非应用程序的开发人员能够收集并随后标记用于训练模型的数据，否则人工智能/机器学习或多或少有点无用。假设应用程序的开发人员能够训练模型，人工智能的优势就在于可以应用到针对视觉、语音和异常检测的各种应用程序中。
提问：NXP 在人工智能/机器学习方面处于何种领导地位？
Markus：NXP 是公认的人工智能环境领导者，因为我们直接从软件和互补硬件角度解决人工智能的应用问题。换句话说，成功部署人工智能的第一个要素是拥有可扩展的硬件平台组合，使开发人员可以在性能、功耗和价格方面有所选择。这就需要能够在低端 MCU 和高端应用处理器上运行机器学习算法，而这一能力是由可接受的推理延迟和存储器空间提供的。软件是部署人工智能所需的第二个要素，为此，NXP 选择了可提供各种开源选项的道路，我们将其称为 eIQ™ 机器学习软件开发环境。很明显，用于部署机器学习的专有解决方案仍然可以提供可行的方法，但它们还必须能够跟上我们通过开源可实现的快速进展。因此，我们的任务是启用开源选项，如 TensorFlow Lite、GLOW、Arm® NN 等，并且能够根据需要，将其应用于特定设备的优化方面，以获得更具竞争力的成果。
提问：NXP 的人工智能/机器学习支持环境涵盖哪些应用？
Markus：正如我之前提到的，我们专注于视觉、语音和异常检测 – 当然这个范围非常广泛，并且在很高的程度上代表了大多数前沿应用。视觉可以细分为人脸识别和物体检测等应用，甚至可以跨越到异常检测领域。语音包含对类似 Alexa™的应用程序的关键字检测，以及有限的自然语言处理（由于边缘设备上的内存容量限制而受限）。异常检测的应用范围很广，如通过多种传感器进行预测性维护和监测，以检测正常和异常情况。
相关文章： “人工智能-机器学习和 Thor96 单板计算机：专为人工智能、IoT、视觉显示等而设计”
提问：NXP 芯片的哪些特性使其特别适合人工智能/机器学习应用？
Markus：可扩展的产品组合将很好地适用于这些人工智能应用程序。这完全取决于需要怎样的性能（也可以说是，推理时间）和可用的内存大小。人们会说，他们想要更好的性能和优质的机器学习加速器，但成本总是他们考虑的首要因素。就此而言，带有集成 DSP 的 NXP 产品将是语音和视觉应用的最佳选择。运用集成 DSP 进行关键字检测，使设备维持在低功耗模式，直到检测到相应的关键字。另一方面，NXP 提供 i.MX 8 和 Layerscape 系列处理器，集成了 GPU、多核 CPU 内核和 DSP 加速器，使应用程序能够并行执行异构计算和多机器学习算法。下一代设备将包括专用的机器学习加速器，能够将性能提升到前所未有的水平。
提问：NXP 的 eIQ 机器学习支持是什么？
Markus：在基础层面，eIQ 是用于部署机器学习应用程序的开源技术集合。这些技术包括运行时引擎（如 TensorFlow 和 TensorFlow Lite）、网络解析器和专用推理引擎（如 Arm NN），以及对库（如 OpenCV）的支持。虽然所有这些技术都可以从 Github 等来源获得，但 NXP 的 eIQ 使这些技术更易于使用，能够提供详细的文档，并将其集成到我们的开发环境中（MCUXpresso 可用于微控制器，Yocto/Linux® 可用于 i.MX 应用处理器）。
提问：为支持人工智能/机器学习应用程序，NXP 硬件的下一步计划是什么？
Markus：中期和长期目标是在我们的许多设备中加入某种形式的人工智能硬件加速引擎，甚至是可以在最低端 MCU 上加入的专用硬件模块。
即将推出 - 基于 NXP i.MX 8 应用处理器的人工智能和机器学习单板计算机
基于 NXP i.MX 8X SoC 的人工智能-机器学习板和基于 NXP i.MX 8M SoC 的 Thor96 板。
联系 Arrow 可预订板。