NXP Semiconductors의 AI 및 머신 러닝 기술 담당 이사, Markus Levy와의 인터뷰
“중장기적으로 우리는 AI 가속 엔진을 어느 정도 당사의 구성 요소 대부분에 통합하고자 합니다. 게다가 로우엔드 MCU에 비용 효율적인 특수 하드웨어 블록을 통합하는 방법까지 모색하고 있습니다.” – Markus Levy
질문: AI와 머신 러닝은 유행어인가요? 아니면 AI와 머신 러닝에 대한 과장된 표현이 사실인가요?
Markus: 확실히 AI 및/또는 ML 유행어가 과장되긴 하지만 5년 전 IoT를 둘러싼 과장된 표현보다는 훨씬 더 현실에 가깝다고 할 수 있습니다. 그렇다고 해서 IoT의 가치를 훼손하려는 의도는 아닙니다. 왜냐하면 IoT를 통해 많은 새로운 애플리케이션 영역이 개발되고 있기 때문입니다. 그러나 IoT는 다소 임베디드 형태로 진화했습니다. 반면 AI/ML은 완전히 새로운 방식으로 문제를 해결할 수 있는 '시장 부문'을 반영합니다. 신경망과 전형적인 알고리즘 형태의 머신 러닝이 수십 년 동안 계속되어 왔다는 사실에 유의하시기 바랍니다. 그러나 머신 러닝 프레임워크의 최근 발전에 앞서 어느 누구도 심층 신경망을 실제로 교육하는 방법을 알지 못했고 상용 하드웨어를 사용하는 것은 비실용적이었으므로 비교적 휴면 상태에 머물러 있었습니다. 이제 연구의 규모가 폭발적으로 늘어남에 따라 오픈 소스 및 독점 옵션을 통해 머신 러닝 모델을 교육, 최적화 및 배포할 수 있게 되었습니다. 오늘날 많은 기업들이 AI/ML 개발에 막대한 자원과 비용을 투자하고 있으며 이것은 단지 빙산의 일각에 불과합니다. 사람들이 돈 ‘냄새’를 맡는 최첨단 기술에는 승자와 패자가 존재합니다.
질문: AI가 주류 기술로 어떻게 확산되고 있습니까?
Markus: 먼저 AI/ML이 모든 또는 많은 애플리케이션 영역 전반에 확산되어 주류 기술이 되려면, 복잡한 수학 알고리즘을 작성해야 하는 부담을 개발자에게 주기 보다는 모델을 교육하고 python 스크립트 또는 풀다운 메뉴를 사용하여 추론 엔진을 개발 및 배포할 수 있는 수준으로 단순화해야 합니다. AI/ML 프로그래밍은 소프트웨어 2.0이라고도 알려져 있습니다. 기존의 프로그래밍 방식을 사용하는 것이 아니라 기존의 신경망과 프레임워크 및 전형적인 ML 라이브러리를 활용하는 것입니다. 이를 지원하기 위해서는 중요도 및 파라미터(예: 일반적으로 교육 모델이라고도 함)를 결정하는 데 더 많은 노력이 필요합니다.
AI의 특별한 이점과 관련하여 근본적으로 이것은 데이터가 금과 같은 영역입니다. 다시 말해, AI/ML은 애플리케이션 개발자가 모델을 교육하는 데 사용되는 데이터를 수집하고 라벨을 붙일 수 없으면 무용지물에 지나지 않습니다. 애플리케이션 개발자가 모델을 교육할 수 있다고 가정하면 AI의 이점은 영상, 음성 및 이상 탐지를 목표로 하는 광범위한 애플리케이션에 적용될 수 있습니다.
질문: NXP는 AI/ML 리더십에서 어느 정도 위치에 있습니까?
Markus: NXP는 소프트웨어 및 보완 하드웨어 관점에서 직접 AI 애플리케이션을 다루기 때문에 AI 환경의 선두 업체로 인정 받고 있습니다. 즉, AI를 성공적으로 배포하기 위한 첫 번째 요소는 개발자가 성능, 전력 및 가격을 선택할 수 있는 확장 가능한 하드웨어 플랫폼 포트폴리오를 갖추는 것입니다. 로우엔드 MCU 및 하이엔드 애플리케이션 프로세서에서 ML 알고리즘을 실행할 수 있는 능력은 수용 가능한 추론 지연 시간과 메모리 풋프린트에 의해 좌우됩니다. 소프트웨어는 AI 배포에 필요한 두 번째 요소이며, 이를 위해 NXP는 다양한 오픈 소스 옵션을 제공하는 경로를 선택했습니다. 이를 eIQ™ 머신 러닝 소프트웨어 개발 환경이라고 합니다. 머신 러닝 배포를 위한 독점적인 솔루션이 여전히 실행 가능한 접근법을 제공한다는 것은 명백하지만 오픈 소스를 통한 급속한 발전에도 뒤쳐져서는 안 됩니다. 따라서 우리의 임무는 TensorFlow Lite, GLOW, Arm® NN과 같은 오픈 소스 옵션을 활성화하고 보다 경쟁력 있는 성과를 달성하기 위해 필요에 따라 장치별 최적화를 적용하는 것입니다.
질문: NXP의 AI/ML 사용 환경에서 다루는 애플리케이션은 무엇입니까?
Markus: 앞서 언급했듯이, 우리는 영상, 음성 및 이상 탐지에 중점을 둡니다. 물론 이것은 매우 광범위하고 높은 수준에서 가장자리에 있는 대부분의 애플리케이션을 나타냅니다. 영상은 얼굴 인식 및 객체 감지와 같은 애플리케이션으로 세분화될 수 있으며 이상 탐지 도메인으로 넘어갈 수도 있습니다. 음성은 Alexa™ 같은 애플리케이션뿐만 아니라 제한된 자연어 처리(에지 장치의 메모리 용량 제한으로 인해 한정됨)에 대한 키워드 검색을 포함합니다. 또한 이상 탐지는 정상 및 비정상적인 상황을 감지하기 위해 다양한 센서를 통해 예측 유지 보수 및 모니터링과 같은 어플리케이션에 걸쳐 나타납니다.
관련 문서: AI-ML and Thor96 Single Board Computers: Specially Built for AI, IoT, Visual Display and More
질문: AI/ML 애플리케이션에 최적화되기 위한 NXP 칩의 특징은 무엇입니까?
Markus: 확장 가능한 포트폴리오는 이러한 AI 애플리케이션에 적합합니다. 그것은 어느 정도의 성능이 필요한지(즉, 추론 시간)와 사용 가능한 메모리 양에 달려 있습니다. 더 우수한 성능과 멋진 ML 가속도계를 원하지만 항상 비용이 가장 중요한 요소입니다. DSP가 통합된 NXP 제품은 음성 및 영상 애플리케이션에 탁월한 선택이 될 것입니다. 통합 DSP는 키워드 탐지에 사용되며 적절한 키워드가 탐지될 때까지 장치가 저전력 모드로 유지됩니다. 한편, NXP는 통합된 GPU, 멀티 코어 CPU 코어 및 DSP 가속도계를 갖춘 i.MX 8 및 Layerscape 프로세서 제품군을 제공하므로 다종 컴퓨팅 및 다중 머신 러닝 알고리즘을 병렬로 수행할 수 있습니다. 차세대 장치에는 전용 머신 러닝 가속도계가 포함되어 전례 없이 높은 성능 수준을 제공합니다.
질문: NXP의 eIQ 머신 러닝 환경은 무엇입니까?
Markus: 기본 수준에서 eIQ는 머신 러닝 애플리케이션을 배포하기 위한 오픈 소스 기술 모음입니다. 이러한 기술에는 TensorFlow 및 TensorFlow Lite와 같은 런타임 엔진뿐만 아니라 네트워크 파서 및 전용 추론 엔진(예: Arm NN), 그리고 OpenCV와 같은 라이브러리 지원이 포함됩니다. 이러한 모든 기술은 Github과 같은 소스에서 얻을 수 있지만, NXP의 eIQ는 이러한 기능을 더 쉽게 사용할 수 있도록 지원하고 자세한 문서를 제공하고 이를 개발 환경(마이크로컨트롤러용 MCUXpresso 및 i.MX 애플리케이션 프로세서용 Yocto/Linux®)에 통합할 수 있습니다.
질문: NXP 하드웨어가 AI/ML 애플리케이션을 지원하기 위해 다음에 계획하고 있는 것은 무엇입니까?
Markus: 중장기 목표는 대부분의 장치에서 AI 하드웨어 가속 엔진의 일부 형태, 심지어 로우엔드 MCU의 특수 하드웨어 블록까지도 포함시키는 것입니다.
출시 예정 - NXP i.MX 8 애플리케이션 프로세서 기반의 AI 및 ML 싱글 보드 컴퓨터
NXP i.MX 8X SoC 기반의 AI-ML 보드 및 NXP i.MX 8M SoC 기반의 Thor96 보드.
보드를 예약하려면 Arrow에 문의하십시오.