English
version

Новости

17 февраля 2018

Компания Imagination представила ускоритель нейронных сетей PowerVR, в два раза превосходящий ближайшего конкурента по производительности

17 февраля 2018 года — Компания Imagination Technologies представила полноценный аппаратный СФ-блок ускорителя нейронных сетей с высокоэффективным использованием площади кристалла, что обеспечивается специализированной архитектурой PowerVR для нейронных сетей (НС). Компании, создающие системы на кристалле (СнК) для мобильной связи, видеонаблюдения, автомобильной и потребительской электроники получили новый ускоритель нейронных сетей (УНС) PowerVR Series2NX, который обеспечивает высокопроизводительные вычисления для нейронных сетей при очень низком энергопотреблении и минимальной площади кристалла. Новый ускоритель Imagination в два раза превосходит ближайшего конкурента по производительности при в два раза меньшей загрузке каналов связи.

Нейронные сети, такие, как свёрточные нейронные сети (СНС), рекуррентные нейронные сети (РНС) и сети долгой краткосрочной памяти (LTSM-сети) стали основной взрывного развития технологий в самых разных отраслях. УНС — это фундаментальный класс процессоров, который по важности, вероятно, сравнится с ЦПУ и ГПУ. Потенциальные приложения УНС неисчислимы: к ним относятся, в частности, улучшение фотографий и предиктивная обработка текста на мобильных устройствах, выявление черт лица и отслеживание движений глаз в шлемах дополненной/виртуальной реальности, обнаружение пешеходов и контроль внимания водителя в системах автомобильной безопасности, распознавание лиц и анализ поведения толпы в системах интеллектуального видеонаблюдения, выявление случаев онлайн-мошенничества в интернете, классификация содержания информационных ресурсов и предиктивное взаимодействие с пользователем, распознавание речи и голосовое управление в виртуальных помощниках, предотвращение столкновений и отслеживание объектов в беспилотных аппаратах.

По данным анкетирования, проведённого Союзом по системам встроенного зрения (Embedded Vision Alliance) среди разработчиков систем встроенного зрения в январе 2017 года, 79% респондентов сообщили, что уже использовали или планировали использовать нейронные сети для реализации функций компьютерного зрения в своих продуктах или услугах. По мере того, как развитие технологий продолжается высокими темпами, все более широкий круг компаний сможет разрабатывать продукты и услуги на основе нейронных сетей. Клиенты Imagination уже разрабатывают и выпускают системы на базе НС, в том числе для систем безопасности, мобильных устройств, автомобильной электроники и ТВ-приставок.

Джефф Бир (Jeff Bier), основатель Союза по системам встроенного зрения, заявил: «Многие разработчики систем и приложений начинают использовать алгоритмы глубоких нейронных сетей, чтобы наделить свои продукты новыми возможностями восприятия. Во многих случаях ключевой проблемой является обеспечение достаточной вычислительной мощности для этих требовательных алгоритмов в условиях жёстких ограничений на стоимость и энергопотребление. Специализированные процессоры, такие как УНС PowerVR 2NX, разработанные специально для алгоритмов нейронных сетей, позволят внедрить эти мощные алгоритмы во множество новых приложений».

По мере всё более широкого распространения нейронных сетей, для получения наивысшей производительности при наименьшем энергопотреблении и стоимости специализированные аппаратные решения, такие как УНС 2NX — восьмикратно превышающий по плотности производительности решения, основанные исключительно на ЦОС, будут совершенно необходимы. Кроме того, нейронные сети традиционно чувствительны к пропускной способности каналов связи, требования к которой растут с увеличением размеров моделей нейронных сетей. Это порождает существенные сложности для разработчиков и производителей СнК, так как проектируемые ими системы должны обладать необходимой для УНС пропускной способностью. PowerVR 2NX способен минимизировать требования к пропускной способности внешней памяти DDR, чтобы пропускная способность не становилась лимитирующим фактором для производительности системы. Широкая доступность специализированных аппаратных решений, таких как УНС PowerVR 2NX, позволит разрабатывать всё новые приложения на основе технологий нейронных сетей.

УНС PowerVR 2NX обеспечивает самые эффективные решения

PowerVR 2NX — совершенно новая архитектура, разработанная с нуля, чтобы добиться следующих показателей:

— СФ блоки с наивысшим в отрасли количеством логических выводов на мВт обеспечивают минимальное энергопотребление

— СФ блоки с наивысшим в отрасли количеством логических выводов на мм² позволяют создавать наиболее экономически эффективные решения

— Решение с наименьшими в отрасли требованиями к пропускной способности — с поддержкой переменной разрядности для весов и данных, включая режимы для низкой пропускной способности, вплоть до 4-битных

— 2048 операций умножение-сложение за такт на одном ядре — рекорд в отрасли, с возможностью наращивания производительности в режиме многоядерности.

Крис Лонгстафф (Chris Longstaff), старший директор по маркетингу продуктов и технологий PowerVR в Imagination: «Специализированное аппаратное обеспечение для ускорения нейронных сетей станет стандартным СФ блоком СнК, подобно нынешним ЦПУ и ГПУ. Мы рады вывести на рынок первый полностью аппаратный ускоритель с поддержкой гибкого подхода к точности, что позволяет выполнять нейросетевые алгоритмы с минимальным энергопотреблением и нагрузкой на каналы передачи, превосходя конкурирующие решения по абсолютной производительности и производительности на мм². Предоставляемые нами инструменты дадут разработчикам возможность очень быстро спроектировать и запустить свои сети и начать получать доход».

2NX включает в себя аппаратные СФ блоки, ПО и инструменты, что является полноценным нейросетевым решением для СнК. На его основе эффективно реализуются вычислительные слои всех типов распространённых нейронных сетей. В зависимости от вычислительных потребностей, сопряжённых с решаемыми задачами логического вывода, его можно использовать само по себе — без какого-либо дополнительного оборудования — либо в сочетании с другими процессорами, такими как ЦПУ и ГПУ.

Нейронные сети повсюду

УНС PowerVR 2NX должен послужить основой механизмов логического вывода для различных рынков. Он обладает хорошо масштабируемой архитектурой, которая сможет стать фундаментом перспективных решений во множестве новых отраслей.

Мобильные системы

Учитывая ожидаемый выпуск Tensorflow Lite и API для Android, а также темп, взятый платформой Caffe2Go, мы увидим взрывной рост количества приложений для смартфонов с функциями искусственного интеллекта (ИИ). Для таких функций, как распознавание образов, распознавание речи, вычислительная фотография и т.п., компаниям необходим весьма эффективный способ решения задач по логическому выводу. Благодаря низкому энергопотреблению, малой площади кристалла, наличию блока управления памятью и планам по поддержке Android, PowerVR 2NX является единственным на сегодняшний день решением на основе СФ-блоков, соответствующим всем требованиям к готовому к внедрению мобильному решению. В мобильных устройствах, где необходимо ГПУ, компании могут использовать сочетание нового ГПУ PowerVR Series9XE или 9XM с УНС 2NX при той же занимаемой площади кристалла, что у конкурирующих отдельных ГПУ.

Интеллектуальное видеонаблюдение

Галопирующий рост количества камер, устанавливаемых как в домах, так и на предприятиях, обусловливает потребность в обработке зрительных образов, в том числе в нейронных сетях. Интеллектуальные камеры, основанные на таких технологиях, могут использоваться для принятия решений, отталкиваясь от предупреждений, поступающих от систем безопасности, данных анализа розничной торговли, демографических показателей и сведений о вовлеченности аудитории. Учитывая требования к пропускной способности каналов связи, вопросы защиты данных и т.п., камеры должны обладать возможностью самостоятельной видеоаналитики получаемых данных. Так как ГПУ в этих камерах, как правило, либо вовсе не установлено, либо очень слабое, а ЦПУ отличаются малой производительностью, им необходим эффективный, высокопроизводительный отдельный ускоритель нейронных сетей. Для видеокамер УНС 2NX является идеальным решением, а прекрасная масштабируемость позволяет использовать его как в потребительских, так и в коммерческих реализациях.

Домашние развлекательные системы

В таких устройствах, как ТВ-приставки и телевизоры, будет использоваться всё большее количество решений, основанных на нейронных сетях, в частности для того, чтобы корректировать настройки исходя из предпочтений тех или иных пользователей, автоматически ограничивать доступ детей к различным функциям, а также автоматически ставить на паузу и записывать программы, исходя из поведения пользователей. Благодаря таким функциям компании смогут выделиться на рынке и нарастить свои доходы. Ключом к реализации нейросетей на таких устройствах является высокоэффективное использование пропускной способности каналов связи, а также поддержка API нейросетей — именно эти возможности и лежат в основе УНС 2NX. Для УНС появляется множество других применений в сфере развлечений, в том числе в области дополненной (ДР) и виртуальной реальности (ВР).

Вот что сказал Тони Чиа (Tony Chia), один из основателей и вице-президент компании Nanjing Ruiyue Technology (Nibiru), которая предоставляет технологии и эксплуатационные услуги в сфере ВР и ДР: «Инновационные технологии от таких партнёров, как Imagination, необходимы системам ВР для создания истинного эффекта погружения в играх и видео. Мы очень рады потенциальным применениям нейронных сетей в ВР/ДР для отслеживания, управления, распознавания поз, распознавания речи и повышения уровня интерактивности. Чипсет с УНС PowerVR 2NX может обеспечить производительность и энергоэффективность, необходимые для вывода ВР/ДР на новый уровень».

Облегчение работы разработчиков

Imagination даёт всё, что нужно разработчикам для простого и быстрого создания нейронных сетей, и обеспечивает оптимальный баланс вычислительной мощности, пропускной способности и точности. Ресурсы для разработки под PowerVR 2NX включают инструменты для мапирования и настройки, примеры сетей, инструменты для тестирования и документирования. Многофункциональный инструмент мапирования PowerVR NX Mapping Tools позволяет легко портировать данные из стандартных для отрасли платформ машинного обучения, таких как Caffe и Tensorflow. Разработчики сложных сетей смогут проектировать и реализовывать на УНС 2NX такие сети, которые используют все аппаратные возможности этого ускорителя.

Кроме того, Imagination предоставляет общий API для глубоких нейронных сетей (ГНС), благодаря чему переход между ЦПУ, ГПУ и УНС будет упрощён. Этот единый API работает на множестве конфигураций СнК, облегчая прототипирование на имеющихся устройствах.

Оригинал этой статьи