Встраиваемые системы машинного обучения на базе Nvidia Jetson

Аппаратные платформы для машинного обучения быстро развиваются и дешевеют. Модули Nvidia Jetson позволяют создавать эффективные и доступные решения для Edge Computing. Сегодня стало возможным уместить высокопроизводительную систему с 256 графическими ядрами Nvidia Cuda в компьютер, умещающийся на ладони.

В статье мы разберем что такое Edge Computing, расскажем о модулях Nvidia Jetson и покажем решения, которые нам удалось разработать на их основе.

Edge Computing

Концепция Edge Computing предполагает экономию ресурсов с помощью переноса вычислительных мощностей максимально близко к конечному оборудованию.

————————————————————————————————————————-

Рассмотрим один пример из реального проекта: заказчику требуется распознавать номер автомобиля, подъезжающего к воротам на удаленном объекте. Над воротами установлена цифровая камера высокого разрешения. Единственная связь с объектом — дорогой канал мобильного интернета. Раньше заказчику приходилось обрабатывать любое движение на видео и пересылать кадры с камеры на сервер для распознавания. Большая часть пересылаемых кадров содержала ложные срабатывания: движение людей, животных, погодных явлений. Это приводило к повышенному расходу мобильного трафика. С появлением доступных решений Еdge Сomputing стало возможным обрабатывать видеопоток локально на объекте, с помощью машинного обучения отличать подъезжающий автомобиль от других явлений и даже распознавать его номер. В результате пересылка данных на сервер по дорогому интернет-каналу сводилась только к отправке текстовой строки с номером автомобиля. Это позволило сократить расходы на мобильный трафик в разы.

Что такое Nvidia Jetson

Nvidia Jetson — семейство встраиваемых вычислительных модулей в формфакторе SoM (System On Module), ориентированное на создание компактных и энергоэффективных систем машинного обучения. Модули Nvidia Jetson это компактные платы, содержащие на борту все компоненты полноценного компьютера: процессор, видеоядра, оперативную память, USB-контроллеры и т.д. Они предназначены для встраивания в другие платы (carrier board), разработанные под конкретные задачи.

Использования SoM значительно упрощает разработку встраиваемых систем, так как производителю специфического решения требуется разработать только плату с обвязкой (carrier board) для периферии и вставить готовый вычислительный модуль. Это позволяет снизить затраты на разработку сложных материнских плат и сфокусироваться на качестве сборки и дополнительных опциях. Также это проще для разработчиков, так как они могут использовать тот же самый модуль SoM в виде Evaluation Kit, пока финальное устройство еще не готово. В итоге разработчик ПО получает предсказуемое аппаратное окружение и может быть уверен, что при переносе программ на финальное устройство он получит ровно такую же производительность. Это особенно важно при разработке систем машинного обучения, когда результат сильно зависит от характеристик железа.

Jetson Nano

Nvidia Jetson Nano — младший модуль линейки Jetson, предназначенный для встраивания в конечные устройства вроде камер, видеорегистраторов, роботов, интерактивных терминалов и потребительской электроники. Выполнен в формфакторе SO-DIMM как платы оперативной памяти для ноутбуков.

Характеристики

Процессор: четырёхъядерный ARM Cortex-A57 MPCore @ 1.4 GHz
Графический процессор: Maxwell со 128 ядрами CUDA
Аппаратный кодек видео: кодирование 4K@30fps (кодек H.264/H.265) и декодирование 4K@60fps
Видеовыход: HDMI 2.0 или DP1.2 | eDP 1.4 | DSI (1×2), два одновременно
RAM: 4 ГБ LPDDR4 64-бит; 25,6 ГБ/с
Флэш-память: 16 ГБ eMMC (для операционной системы)
Интерфейсы: 1×1/2/4 PCIE, 1×USB 3.0, 3×USB 2.0, Gigabit Ethernet
Ввод-вывод: 1×SDIO / 2×SPI / 6×I2C / 2×I2S / пины GPIO
Операционные системы: Linux
Размеры: 69,5×45 мм
Подключение: 260-пиновый коннектор SO-DIMM DDR4

Благодаря низкой стоимости модуля Jetson Nano, множество разработчиков успели попробовать его в работе. Даже на хабре уже есть несколько статей о применении его для машинного зрения и распознавания образов. Это наиболее доступный и популярный модуль для разворачивания систем машинного обучения.

Видеорегистратор MIC-710IVA на базе Nvidia Jetson Nano

Мы представляем решение для интеллектуального видеонаблюдения «все в одном» — цифровой 8-канальный видеорегистратор MIC-710IVA на базе Nvidia Jetson Nano. Он позволяет интегрировать системы машинного зрения без построения сложного комплекса из нескольких устройств.

MIC-710IVA объединяет в себе:

• Цифровой видеорегистратор с системой хранения данных
• Вычислительный модуль из 128 ядер CUDA для обработки видео в реальном времени
• 8-портовый PoE коммутатор для подключения камер напрямую
• Блок цифровых входов/выходов для управления реле, герконами, сигнализациями и т.д.

Машинное обучение быстро стало трендом в видеонаблюдении. Оно позволяет автоматизировать то, что раньше приходилось делать человеку, например, выявлять аномальное поведение людей, автомобилей, природных явлений, обнаруживать аварии, анализировать загруженность объектов и т.д. Больше не нужно полагаться на внимательность диспетчера. Такие системы востребованы в ритейле, охранных комплексах, транспортных узлах.

Технические характеристики MIC-710IVA

• Построен на базе NVIDIA Jetson Nano
• 8 портов PoE для видеокамер
• Возможность установки двух 3.5″ HDD
• ОС Linux
• Низкое энергопотребление
• Поддержка видео-кодеков H.264 / H.265
• Интерфейс RS-485 и 8-битные цифровые входы/выходы

^{Задняя панель видеорегистратора MIC-710IVA}

Видеорегистратор MIC-710IVA позволяет выполнять первичную обработку видеоданных в реальном времени, без необходимости транслировать весь поток в удаленные центры обработки данных. Это позволяет снизить нагрузку на сеть и избавиться от необходимости передавать чувствительные данные третьим лицам.

Jetson Tegra X2

Jetson Tegra — более старший модуль в линейке, почти втрое производительнее чем Jetson Nano. Выполнен в формфакторе мезонинной платы, то есть вставляется в другую плату через специальный 400-контактный разъем. Существует также версия TX2i с расширенным диапазоном рабочих температур.

Характеристики

Процессор: Четырёхъядерный ARM Cortex-A57 MPCore + Двухъядерный NVIDIA Denver 2 64-Bit CPU
Графический процессор: 256 ядер NVIDIA Pascal + 256 ядер NVIDIA CUDA
RAM: 8 или 4 ГБ LPDDR4 64-бит; 59.7 ГБ/с
Подключение: 400-контактный разъем

Данный модуль ориентирован на профессиональных разработчиков и стоит в четыре раза дороже Jetson Nano. Модуль Jetson TX2 предназначен для более производительных вычислений. Применяется в робототехнике, промышленности, летательных аппаратах и т.д.

Компактный промышленный компьютер MIC-720AI

MIC-720AI построен на базе платформы Jetson TX2 с полностью пассивным охлаждением и предназначен для установки в промышленные системы машинного зрения, на производстве и в подвижных объектах. Безвентиляторная конструкция обеспечивает полную бесшумность в работе и позволяет использовать компьютер в пыльных помещениях без необходимости обслуживания.

Наличие порта PoE позволяет подключить Ethernet-камеру напрямую к компьютеру без необходимости использовать инжекторы и промежуточное оборудование.

Технические характеристики MIC-720AI

• Основан на Nvidia Tegra X2
• Полностью пассивное охлаждение
• Два USB 3.0, один USB 2.0 OTG/Host
• Ethernet-порт c поддержкой 802.3af PoE
• ОС Linux
• Широкий диапазон рабочих температур

На задней панели компьютера находится USB 2.0 порт с возможностью переключения режимов работы между OTG и Host. В режиме OTG компьютер можно подключить как USB-накопитель к другому компьютеру для передачи данных и обновления ПО.

MIC-720AI подходит для построения систем контроля производства и высокоточного анализа видеопотока.

Jetson Xavier

Jetson Xavier — самый производительный модуль в линейке. Предназначен для установки в автомобили, летательные аппараты и другие системы с большим потоком видеоданных. Выполнен в формфакторе мезонинной платы. Jetson Xavier в 20 раз производительнее Jetson TX2 и имеет на борту 512 ядер Nvidia Volta. При этом модуль потребляет до 30W.

Высокопроизводительный промышленный компьютер MIC-730AI

Компьютер MIC-730AI построен на базе Jetson Xavier и предназначен для установки в высокопроизводительные системы производства, где требуется обработка большого объема данных. Также как и в модели MIC-720AI, система охлаждения выполнена полностью на пассивных компонентах и не использует вентиляторы. Конфигурация компьютера может быть расширена с помощью подключения двух PCIe x8/x4 плат через модуль расширения iModule MIC-75M20.

Технические характеристики MIC-730AI
Основан на Nvidia Xavier
Пассивное охлаждение
Два USB 3.0, два USB 2.0
2 Ethernet-порта
Возможность подключения двух PCIe-плат (через модуль iModule MIC-75M20)
Возможность подключения 1х MiniPCIe и 1x M.2 (PCIex4 NVMe)
Два последовательных порта RS-485/232
Предустановленная ОС Linux Ubuntu 18.04
Низкое энергопотребление

Заключение

Машинное обучение становится доступным для применения во множестве отраслей. Мы в Advantech считаем, что технологии машинного обучения уже сегодня могут значительно повысить эффективность работы и автоматизировать процессы, которые раньше невозможно было представить без участия человека. Мы надеемся, что наши аппаратные решения позволят клиентам проще интегрировать машинное обучение в свою работу.