Нейронный процессор

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

Нейронный процессор (англ. Neural Processing Unit, NPU или ИИ-ускоритель англ. AI accelerator) — это специализированный класс микропроцессоров и сопроцессоров (часто являющихся специализированной интегральной схемой), используемый для аппаратного ускорения работы алгоритмов искусственных нейронных сетей, компьютерного зрения, распознавания по голосу, машинного обучения и других методов искусственного интеллекта[1].

Описание[править | править код]

Нейронные процессоры относятся к вычислительной технике и используются для аппаратного ускорения эмуляции работы нейронных сетей и цифровой обработки сигналов в режиме реального времени. Как правило, нейропроцессор содержит регистры, блоки памяти магазинного типа, коммутатор и вычислительное устройство, содержащее матрицу умножения, дешифраторы, триггеры и мультиплексоры[2].

На современном этапе (по состоянию на 2017 год) к классу нейронных процессоров могут относится разные по устройству и специализации типы чипов, например:

История[править | править код]

Области применения[править | править код]

Примеры[править | править код]

Существующие продукты[править | править код]

16-ядерный чип Adapteva Epiphany (E16G301) на одноплатном компьютере для параллельных вычислений.
  • Процессоры машинного зрения:
  • Тензорные процессоры:
    • Google TPU (англ. Tensor Processing Unit) — представлен как ускоритель для системы Google TensorFlow, которая широко применяется для свёрточных нейронных сетей. Сфокусирован на большом объеме арифметики 8-битной точности[5].
    • Intel Nervana NNP (англ.) (англ. Neural Network Processor) — это первый коммерчески доступный тензорный процессор, предназначенный для постройки сетей глубокого обучения[13], компания Facebook была партнёром в процессе его проектирования[14][15].
  • Нейроморфные процессоры:
    • IBM TrueNorth — нейроморфный процессор, построенный по принципу взаимодействия нейронов, а не традиционной арифметики. Частота импульсов представляет интенсивность сигнала. По состоянию на 2016 год среди исследователей ИИ нет консенсуса, является ли это правильным путем для продвижения[16], но некоторые результаты являются многообещающими, с продемонстрированной большой экономией энергии для задач машинного зрения[17].
  • Adapteva Epiphany (англ.) — предназначен как сопроцессор, включает модель блокнотной памяти (англ.) сети на кристалле (англ.), подходит к модели программирования потоком информации, которая должна подходить для многих задач машинного обучения.
  • Cambricon (англ.) MLU100 — карта расширения PCI Express с ИИ-процессором мощностью 64 TFLOPS с половинной точностью или 128 TOPS для вычислений INT8[18].
  • KnuPath (англ.) — процессор компании KnuEdge (англ.), предназначен для работы в системах распознавания речи и прочих отраслях машинного обучения, он использует соединительную технологию LambdaFabric и позволяет объединять в единую систему до 512 тысяч процессоров[19].

GPU-продукты[править | править код]

ИИ-ускорители в виде внутренних сопроцессоров (аппаратных ИИ-блоков)[править | править код]

6-ядерный SoC Apple A11 Bionic с Neural Engine.

Научные исследования и разрабатываемые продукты[править | править код]

  • Индийский технологический институт в Мадрасе (англ.) — разрабатывает ускоритель на импульсных нейронах для новых систем архитектуры RISC-V, направленных на обработку больших данных на серверных системах[31].
  • Eyeriss (англ.) — разработка, направлена на свёрточные нейронные сети, с применением блокнотной памяти и сетевой архитектуры в пределах кристалла.
  • Fujitsu DLU (англ.) — многоблочный и многоядерный сопроцессор компании Fujitsu использующий вычисления с низкой точностью и предназначенный для глубокого машинного обучения[32].
  • Intel Loihi (англ.) — нейроморфный процессор компании Intel который сочетает процессы обучения, тренировки и принятия решений в одном чипе, позволяя системе быть автономной и «сообразительной» без подключения к облаку. Например при обучении с помощью базы данных MNIST (Mixed National Institute of Standards and Technology) процессор Loihi оказывается в 1 млн раз лучше, чем другие типичные спайковые нейронные сети[33].
  • Kalray (англ.) — показала MPPA (англ.)[34] и сообщила о повышении эффективности свёрточных нейронных сетей в сравнении с GPU.
  • SpiNNaker — массово-параллельная компьютерная архитектура, которая сочетает ядра традиционной ARM-архитектуры с усовершенствованной сетевой структурой, специализированной для моделирования крупной нейронной сети.
  • Zeroth NPU (англ.) — разработка компании Qualcomm, направленная непосредственно на привнесение возможностей распознавания речи и изображений в мобильные устройства[35].

Примечания[править | править код]

  1. 1 2 Популярность машинного обучения влияет на эволюцию архитектуры процессоров. Servernews. (31 августа 2017). Проверено 17 ноября 2017.
  2. Нейропроцессор, устройство для вычисления функций насыщения, вычислительное устройство и сумматор (рус.). FindPatent.RU. Проверено 17 ноября 2017.
  3. IBM поставила LLNL нейропроцессоры TrueNorth за $1 млн (рус.). Компьютерра. (31 марта 2016). Проверено 17 ноября 2017.
  4. Intel разрабатывает тензорные процессоры для ИИ (рус.). PC Week/RE. (22 ноября 2016). Проверено 17 ноября 2017.
  5. 1 2 Подробности о тензорном сопроцессоре Google TPU (рус.). Servernews. (25 августа 2017). Проверено 17 ноября 2017.
  6. 1 2 Intel анонсировала процессор машинного зрения Movidius Myriad X (рус.). 3DNews. (29 августа 2017). Проверено 17 ноября 2017.
  7. Nvidia Drive PX: Scalable AI Supercomputer For Autonomous Driving. Nvidia. Проверено 17 ноября 2017. (англ.)
  8. NVIDIA представила Drive PX Pegasus — платформу для автопилота нового поколения. 3DNews (10 октября 2017). Проверено 17 ноября 2017. (рус.)
  9. Movidius powers worlds most intelligent drone. (англ.)
  10. Qualcomm Research brings server-class machine learning to everyday devices. (англ.)
  11. Design of a machine vision system for weed control. (англ.)
  12. The Evolution of EyeQ.
  13. До конца года Intel выпустит «первую в отрасли микросхему для обработки нейронных сетей» — Intel Nervana Neural Network Processor (рус.). iXBT.com (18 октября 2017). Проверено 21 ноября 2017.
  14. Intel unveils purpose-built Neural Network Processor for deep learning, Tech Report (17 октября 2017). Проверено 17 ноября 2017.
  15. Intel Nervana Neural Network Processors (NNP) Redefine AI Silicon (17 октября 2017). Проверено 17 ноября 2017.
  16. Ян ЛеКун про IBM TrueNorth. (англ.)
  17. IBM cracks open new era of neuromorphic computing. — «TrueNorth is incredibly efficient: The chip consumes just 72 milliwatts at max load, which equates to around 400 billion synaptic operations per second per watt — or about 176,000 times more efficient than a modern CPU running the same brain-like workload, or 769 times more efficient than other state-of-the-art neuromorphic approaches». (англ.)
  18. Китайская компания Cambricon разрабатывает чипы ИИ для дата-центров.
  19. KnuPath — нейроморфный процессор военного назначения. 3DNews. (9 июня 2016). Проверено 17 ноября 2017.
  20. Computex: Глава Nvidia не видит угрозы в «тензорном» процессоре Google. «Открытые системы». (1 июня 2016). Проверено 17 ноября 2017.
  21. Что принесёт на рынок новая архитектура NVIDIA Turing?. 3DNews. (14.08.2018). Проверено 17 августа 2018.
  22. Эра NVIDIA Volta началась с ускорителя Tesla V100. Servernews. (11 мая 2017). Проверено 17 ноября 2017.
  23. GTC Europe 2017: библиотека NVIDIA TensoRT 3 ускоряет работу нейросетей в 18 раз по сравнению с универсальным решением. Servernews. (12 октября 2017). Проверено 17 ноября 2017.
  24. Новый российский суперкомпьютер предназначен для обучения нейросетей. Servernews. (1 сентября 2017). Проверено 17 ноября 2017.
  25. AMD Announces Radeon Instinct: GPU Accelerators for Deep Learning, Coming in 2017, Anandtech (12 декабря 2016). Проверено 12 декабря 2016.
  26. Radeon Instinct Machine Learning GPUs include Vega, Preview Performance, PC Per (12 декабря 2016). Проверено 12 декабря 2016.
  27. Huawei представляет будущее мобильного искусственного интеллекта на IFA 2017.
  28. CEVA NeuPro. A Family of AI Processors for Deep Learning at the Edge.
  29. The iPhone X’s new neural engine exemplifies Apple’s approach to AI, The Verge (13 сентября 2017). Проверено 17 ноября 2017.
  30. Imagination представила новые ИИ-ускорители PowerVR 2NX, 3DNews (8 июня 2018). Проверено 15 июня 2018.
  31. India preps RISC-V Processors - Shakti targets servers, IoT, analytics. — «The Shakti project now includes plans for at least six microprocessor designs as well as associated fabrics and an accelerator chip». (англ.)
  32. Fujitsu разрабатывает специализированный процессор для систем ИИ. Servernews. (24 июля 2017). Проверено 17 ноября 2017.
  33. Intel представила нейроморфный процессор Loihi. 3DNews. (26 сентября 2017). Проверено 17 ноября 2017.
  34. Kalray MPPA. (англ.)
  35. Qualcomm показала нейропроцессор Zeroth. Logmag.net (16 октября 2013). Проверено 17 ноября 2017.

Ссылки[править | править код]