Google Brain

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

Google Brain — это исследовательский проект Google по изучению искусственного интеллекта на основе глубокого обучения. В нём сочетаются открытые исследования в области машинного обучения с разработкой систем и вычислительными мощностями в масштабах Google.[1]

Миссия[править | править код]

Миссия Google Brain заключается в улучшении жизни людей при помощи создания более умных машин.[2] Для этого команда фокусируется на создании гибких моделей, которые способны самостоятельно получать признаки, а также эффективно использовать данные и вычислительные мощности.

Команда Google Brain приводит следующее описание: «Данный подход является частью более широкой области машинного обучения, чем глубокое обучение, и гарантирует, что наша работа будет иметь огромную значимость для решения практических задач. Более того, наш опыт в области систем дополняет этот подход, позволяя нам создавать инструменты для ускорения исследований в области машинного обучения и раскрывать их практическую ценность для мира.[2]»

История[править | править код]

Так называемый проект «Google Brain» начался в 2011 году как сторонний исследовательский проект научного сотрудника Google Джеффа Дина, исследователя Google Грега Коррадоruen и профессора Стэнфордского университета Эндрю Ына.[3][4][5] Ын интересовался использованием методов глубокого обучения для решения задач искусственного интеллекта с 2006 года, а в 2011 году начал сотрудничать с Дином и Коррадо для создания крупномасштабной системы глубокого обучения DistBelief[6] поверх инфраструктуры облачных вычислений Google. Google Brain был запущен как проект Google X и стал настолько успешным, что вернулся обратно в Google: Астро Теллерruen сказал, что Google Brain окупил всю стоимость Google X.[7]

В июне 2012 года New York Times сообщила, что кластер из 16000 компьютеров, предназначенных для подражания некоторым аспектам деятельности мозга человека, обучился распознаванию котов на основе 10 миллионов цифровых изображений, полученных из роликов на YouTube.[5] Также эта история была освещена на National Public Radio[8] и в Smart Planetruen.[9]

В марте 2013 года Google наняла Джеффри Хинтона, ведущего исследователя в области глубокого обучения, и приобрела компанию DNNResearch, которой руководил Хинтон. Хинтон сказал, что будет распределять своё время между исследованием в университете и работой в Google.[10]

26 января 2014 года несколько новостных изданий заявили, что Google купила DeepMind Technologies за неназванную сумму. Позднее аналитики объявили, что компания была приобретена за 400 миллионов фунтов (650 миллионов долларов, или 486 миллионов евро), хотя в последующих отчетах покупка оценивалась более чем в 500 миллионов фунтов.[11][12][13][14][15][16][17] Как сообщается, это приобретение произошло после того, как Facebook завершил переговоры с DeepMind Technologies в 2013 году, в результате которых не была достигнута договорённость о покупке компании.[18]

Последние достижения[править | править код]

Система шифрования, разработанная искусственным интеллектом[править | править код]

В октябре 2016 года Google Brain провела эксперимент по шифрованию сообщений. В нем два набора ИИ разработали свои собственные криптографические алгоритмы для защиты своих сообщений от другого ИИ, которые в свою очередь направлены на развитие собственной системы для взлома шифрования, созданного ИИ. Исследование оказалось успешным, поскольку два первоначальных ИИ смогли с нуля обучиться общению друг с другом.[19]

В данном эксперименте были созданы три ИИ: Алиса, Боб и Ева. Цель эксперимента состояла в том, чтобы Алиса послала сообщение Бобу, который сможет его расшифровывать, а Ева попыталась бы перехватить данное сообщение. При этом ИИ не давались чёткие инструкции о том, как шифровать их сообщения. Им была предоставлена только функция потерь. Следствием этого стало то, что если во время эксперимента общение между Алисой и Бобом не увенчалось успехом (сообщение Алисы было неправильно истолковано Бобом или перехвачено Евой), то в последующих раундах криптография изменяется таким образом, чтобы Алиса и Боб смогли безопасно общаться. Действительно, данное исследование позволило сделать вывод о том, что ИИ может разработать собственную систему шифрования без заранее прописанных алгоритмов шифрования, что может стать прорывом в области шифрования сообщений в будущем.[20]

Улучшение изображений[править | править код]

В феврале 2017 года Google Brain анонсировала систему улучшения изображения, использующую нейронные сети для заполнения деталей изображений с очень низким разрешением. В представленных примерах изображения с разрешением 8x8 преобразуются в изображения с разрешением 32x32.

Программное обеспечение использует две различные нейронные сети для создания изображений. Первая, называемая «условной сетью», отображает пиксели из изображения с низким разрешением в пиксели более качественного изображения, понижая разрешение последнего до 8×8 и пытаясь найти совпадение. Вторая сеть — «предварительная», которая анализирует пикселизованное изображение и пытается добавить детали на основе большого количества изображений с высоким разрешением. Затем, при масштабировании исходного изображения 8×8, система добавляет пиксели, основываясь на своём знании того, что должно быть на картинке. Наконец, выходы из двух сетей объединяются для создания окончательного изображения.[21]

Это представляет собой прорыв в улучшении изображений с низким разрешением. Несмотря на то, что добавленные детали не являются частью настоящего изображения, а представляют собой только наилучшие догадки, технология показала впечатляющие результаты в реальных испытаниях. Когда людям показывали улучшенное изображение и настоящее, они ошибались в 10 % случаев на фотографиях знаменитостей и в 28 % случаев на фотографиях спален. Производится сравнение с предыдущими разочарующими результатами, где обычное бикубическое масштабирование всегда правильно определялось человеком.[22][23][24]

Переводчик Google[править | править код]

Недавно команда Google Brain достигла впечатляющих результатов в Переводчике Google, который является частью проекта Google Brain. В сентябре 2016 года команда запустила новую систему — нейронный машинный перевод Google (GNMT), которая представляет собой сквозную систему обучения, способную учиться на большом количестве примеров. Хотя её внедрение значительно повысило качество Переводчика Google для пилотных языков, было очень сложно создать такие улучшения для всех 103 поддерживаемых языков. Для решения данной задачи команда Google Brain смогла разработать многоязыковую версию GNMT, которая расширила предыдущую и позволила осуществлять перевод между несколькими языками. Более того, она позволила выполнять прямой перевод (англ. Zero-Shot Translations) между языковыми парами, которые явным образом не задавались при обучении.[25] Недавно Google анонсировала, что Переводчик Google может совершать перевод при помощи нейронных сетей без расшифровки текста. Это означает, что можно перевести речь, записанную на одном языке, в текст на другом языке без предварительного преобразования речи в текст. Согласно исследователям из Google Brain, этот промежуточный этап можно опустить при использовании нейронных сетей. Чтобы обучить этому систему, ей подали на вход много часов испанской речи с расшифровкой на английском языке. Различные слои нейронных сетей, которые имитируют человеческий мозг, смогли объединить соответствующие фрагменты и последовательно преобразовать звуковую волну в английский текст.[26]

В продуктах Google[править | править код]

В настоящее время технология проекта используется в системе распознавания речи в операционной системе Android,[27] поиске по фотографиям в Google+[28] и рекомендациях видео в YouTube.[29]

Команда и местоположение[править | править код]

Первоначально Google Brain был создан научным сотрудником Google Джеффом Дином и приглашённым из Стэнфорда профессором Эндрю Ыном[4] (позднее Ын покинул проект, чтобы возглавить группу искусственного интеллекта в Baidu[30]). На 2017 год членами команды являются: Анелия Ангелова, Сэми Бенгио, Грег Коррадо, Джордж Дал (исследователь машинного обучения), Майкл Изард, Анжули Каннан, Уго Ларочелле, Квок Ле, Крис Ола, Винсент Ванхоке, Виджей Васудеван и Фернанда Вигас.[31] Крис Латтнерruen, который создал язык программирования Apple Swift, а затем возглавлял команду беспилотных автомобилей Tesla в течение шести месяцев, присоединился к команде Google Brain в августе 2017 года.[32]

Google Brain базируется в Маунтин-Вью и имеет филиалы в Кембридже, Лондоне, Монреале, Нью-Йорке, Сан-Франциско, Торонто, Цюрихе и Амстердаме.[33]

Признание[править | править код]

Google Brain получил всестороннее освещение в Wired Magazineruen,[34][12][35] New York Times,[35] Technology Reviewruen,[36][11] National Public Radio[8] и Big Thinkruen.[37]

См. также[править | править код]

Примечания[править | править код]

  1. Machine Learning Algorithms and Techniques Research at Google. Retrieved May 18, 2017
  2. 1 2 Google Brain Team's Mission.
  3. Google's Large Scale Deep Neural Networks Project. Дата обращения 25 октября 2015.
  4. 1 2 Using large-scale brain simulations for machine learning and A.I.. Official Google Blog (26 June 2012). Дата обращения 26 января 2015.
  5. 1 2 Markoff, John How Many Computers to Identify a Cat? 16,000. New York Times (June 25, 2012). Дата обращения 11 февраля 2014.
  6. Large Scale Distributed Deep Networks (December 2012). Дата обращения 25 октября 2015.
  7. Astro Teller, Google’s ‘Captain of Moonshots,’ on Making Profits at Google X (16 February 2015). Дата обращения 25 октября 2015.
  8. 1 2 A Massive Google Network Learns To Identify — Cats. National Public Radio (June 26, 2012). Дата обращения 11 февраля 2014.
  9. Shin, Laura Google brain simulator teaches itself to recognize cats. SmartPlanetruen (June 26, 2012). Дата обращения 11 февраля 2014.
  10. (12 March 2013). U of T neural networks start-up acquired by Google. Пресс-релиз. Проверено 13 March 2013.
  11. 1 2 Regalado, Antonio Is Google Cornering the Market on Deep Learning? A cutting-edge corner of science is being wooed by Silicon Valley, to the dismay of some academics.. Technology Reviewruen (January 29, 2014). Дата обращения 11 февраля 2014.
  12. 1 2 Wohlsen, Marcus Google’s Grand Plan to Make Your Brain Irrelevant. Wired Magazineruen (January 27, 2014). Дата обращения 11 февраля 2014.
  13. Google Acquires UK AI startup Deepmind. The Guardian. Дата обращения 27 января 2014.
  14. Report of Acquisition, TechCrunch. TechCrunch. Дата обращения 27 января 2014.
  15. Oreskovic, Alexei Reuters Report. Reuters. Дата обращения 27 января 2014.
  16. Google Acquires Artificial Intelligence Start-Up DeepMind. The Verge. Дата обращения 27 января 2014.
  17. Google acquires AI pioneer DeepMind Technologies. Ars Technica. Дата обращения 27 января 2014.
  18. Google beats Facebook for Acquisition of DeepMind Technologies. Дата обращения 27 января 2014.
  19. Google AI invents its own cryptographic algorithm; no one knows how it works. arstechnica.co.uk. Дата обращения 15 мая 2017.
  20. Abadi, Martin; Andersen, David G. (2016). “Learning to Protect Communications with Adversarial Neural Cryptography”. arXiv:1610.06918.
  21. Dahl, Ryan; Norouzi, Mohammad; Shlens, Jonathon (2017). “Pixel Recursive Super Resolution”. arXiv:1702.00783.
  22. Google Brain super-resolution image tech makes "zoom, enhance!" real. arstechnica.co.uk. Дата обращения 15 мая 2017.
  23. Google just made 'zoom and enhance' a reality -- kinda. cnet.com. Дата обращения 15 мая 2017.
  24. Google uses AI to sharpen low-res images. engadget.com. Дата обращения 15 мая 2017.
  25. Zero-Shot Translation with Google’s Multilingual Neural Machine Translation System. Google Research Blog. Дата обращения 15 мая 2017.
  26. Google uses neural networks to translate without transcribing. New Scientist. Дата обращения 15 мая 2017.
  27. Speech Recognition and Deep Learning. Google Research Blog. Google (August 6, 2012). Дата обращения 11 февраля 2014.
  28. Improving Photo Search: A Step Across the Semantic Gap. Google Research Blog. Google (June 12, 2013).
  29. This Is Google’s Plan to Save YouTube. Time (May 18, 2015).
  30. Ex-Google Brain head Andrew Ng to lead Baidu's artificial intelligence drive. South China Morning Post.
  31. Google Brain team website. Accessed 13.05.2017. https://research.google.com/teams/brain/
  32. Swift creator Chris Lattner joins Google Brain after Tesla Autopilot stint, TechCrunch (Aug 14, 2017). Дата обращения 11 октября 2017.
  33. Research at Google (англ.). research.google.com.
  34. Levy, Steven How Ray Kurzweil Will Help Google Make the Ultimate AI Brain. Wired Magazineruen (April 25, 2013). Дата обращения 11 февраля 2014.
  35. 1 2 Hernandez, Daniela The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI. Wired Magazineruen (May 7, 2013). Дата обращения 11 февраля 2014.
  36. Hof, Robert Deep Learning: With massive amounts of computational power, machines can now recognize objects and translate speech in real time. Artificial intelligence is finally getting smart.. Technology Reviewruen (April 23, 2013). Дата обращения 11 февраля 2014.
  37. Ray Kurzweil and the Brains Behind the Google Brain. Big Thinkruen (December 8, 2013). Дата обращения 11 февраля 2014.