Google Brain

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

Google Brain — это исследовательский проект Google по изучению искусственного интеллекта на основе глубокого обучения. В нём сочетаются открытые исследования в области машинного обучения с разработкой систем и вычислительными мощностями в масштабах Google.[1]

Миссия[править | править код]

Миссия Google Brain заключается в улучшении жизни людей при помощи создания более умных машин.[2] Для этого команда фокусируется на создании гибких моделей, которые способны самостоятельно получать признаки, а также эффективно использовать данные и вычислительные мощности.

Команда Google Brain приводит следующее описание: «Данный подход является частью более широкой области машинного обучения, чем глубокое обучение, и гарантирует, что наша работа будет иметь огромную значимость для решения практических задач. Более того, наш опыт в области систем дополняет этот подход, позволяя нам создавать инструменты для ускорения исследований в области машинного обучения и раскрывать их практическую ценность для мира.[2]»

История[править | править код]

Так называемый проект «Google Brain» начался в 2011 году как сторонний исследовательский проект научного сотрудника Google Джеффа Дина, исследователя Google Грега Коррадоruen и профессора Стэнфордского университета Эндрю Ына.[3][4][5] Ын интересовался использованием методов глубокого обучения для решения задач искусственного интеллекта с 2006 года, а в 2011 году начал сотрудничать с Дином и Коррадо для создания крупномасштабной системы глубокого обучения DistBelief[6] поверх инфраструктуры облачных вычислений Google. Google Brain был запущен как проект Google X и стал настолько успешным, что вернулся обратно в Google: Астро Теллерruen сказал, что Google Brain окупил всю стоимость Google X.[7]

В июне 2012 года New York Times сообщила, что кластер из 16000 компьютеров, предназначенных для подражания некоторым аспектам деятельности мозга человека, обучился распознаванию котов на основе 10 миллионов цифровых изображений, полученных из роликов на YouTube.[5] Также эта история была освещена на National Public Radio[8] и в Smart Planetruen.[9]

В марте 2013 года Google наняла Джеффри Хинтона, ведущего исследователя в области глубокого обучения, и приобрела компанию DNNResearch, которой руководил Хинтон. Хинтон сказал, что будет распределять своё время между исследованием в университете и работой в Google.[10]

26 января 2014 года несколько новостных изданий заявили, что Google купила DeepMind Technologies за неназванную сумму. Позднее аналитики объявили, что компания была приобретена за 400 миллионов фунтов (650 миллионов долларов, или 486 миллионов евро), хотя в последующих отчетах покупка оценивалась более чем в 500 миллионов фунтов.[11][12][13][14][15][16][17] Как сообщается, это приобретение произошло после того, как Facebook завершил переговоры с DeepMind Technologies в 2013 году, в результате которых не была достигнута договорённость о покупке компании.[18]

Последние достижения[править | править код]

Система шифрования, разработанная искусственным интеллектом[править | править код]

В октябре 2016 года Google Brain провела эксперимент по шифрованию сообщений. В нем два набора ИИ разработали свои собственные криптографические алгоритмы для защиты своих сообщений от другого ИИ, которые в свою очередь направлены на развитие собственной системы для взлома шифрования, созданного ИИ. Исследование оказалось успешным, поскольку два первоначальных ИИ смогли с нуля обучиться общению друг с другом.[19]

В данном эксперименте были созданы три ИИ: Алиса, Боб и Ева. Цель эксперимента состояла в том, чтобы Алиса послала сообщение Бобу, который сможет его расшифровывать, а Ева попыталась бы перехватить данное сообщение. При этом ИИ не давались чёткие инструкции о том, как шифровать их сообщения. Им была предоставлена только функция потерь. Следствием этого стало то, что если во время эксперимента общение между Алисой и Бобом не увенчалось успехом (сообщение Алисы было неправильно истолковано Бобом или перехвачено Евой), то в последующих раундах криптография изменяется таким образом, чтобы Алиса и Боб смогли безопасно общаться. Действительно, данное исследование позволило сделать вывод о том, что ИИ может разработать собственную систему шифрования без заранее прописанных алгоритмов шифрования, что может стать прорывом в области шифрования сообщений в будущем.[20]

Улучшение изображений[править | править код]

В феврале 2017 года Google Brain анонсировала систему улучшения изображения, использующую нейронные сети для заполнения деталей изображений с очень низким разрешением. В представленных примерах изображения с разрешением 8x8 преобразуются в изображения с разрешением 32x32.

Программное обеспечение использует две различные нейронные сети для создания изображений. Первая, называемая «условной сетью», отображает пиксели из изображения с низким разрешением в пиксели более качественного изображения, понижая разрешение последнего до 8×8 и пытаясь найти совпадение. Вторая сеть — «предварительная», которая анализирует пикселизованное изображение и пытается добавить детали на основе большого количества изображений с высоким разрешением. Затем, при масштабировании исходного изображения 8×8, система добавляет пиксели, основываясь на своём знании того, что должно быть на картинке. Наконец, выходы из двух сетей объединяются для создания окончательного изображения.[21]

Это представляет собой прорыв в улучшении изображений с низким разрешением. Несмотря на то, что добавленные детали не являются частью настоящего изображения, а представляют собой только наилучшие догадки, технология показала впечатляющие результаты в реальных испытаниях. Когда людям показывали улучшенное изображение и настоящее, они ошибались в 10 % случаев на фотографиях знаменитостей и в 28 % случаев на фотографиях спален. Производится сравнение с предыдущими разочарующими результатами, где обычное бикубическое масштабирование всегда правильно определялось человеком.[22][23][24]

Переводчик Google[править | править код]

Недавно команда Google Brain достигла впечатляющих результатов в Переводчике Google, который является частью проекта Google Brain. В сентябре 2016 года команда запустила новую систему — нейронный машинный перевод Google (GNMT), которая представляет собой сквозную систему обучения, способную учиться на большом количестве примеров. Хотя её внедрение значительно повысило качество Переводчика Google для пилотных языков, было очень сложно создать такие улучшения для всех 103 поддерживаемых языков. Для решения данной задачи команда Google Brain смогла разработать многоязыковую версию GNMT, которая расширила предыдущую и позволила осуществлять перевод между несколькими языками. Более того, она позволила выполнять прямой перевод (англ. Zero-Shot Translations) между языковыми парами, которые явным образом не задавались при обучении.[25] Недавно Google анонсировала, что Переводчик Google может совершать перевод при помощи нейронных сетей без расшифровки текста. Это означает, что можно перевести речь, записанную на одном языке, в текст на другом языке без предварительного преобразования речи в текст. Согласно исследователям из Google Brain, этот промежуточный этап можно опустить при использовании нейронных сетей. Чтобы обучить этому систему, ей подали на вход много часов испанской речи с расшифровкой на английском языке. Различные слои нейронных сетей, которые имитируют человеческий мозг, смогли объединить соответствующие фрагменты и последовательно преобразовать звуковую волну в английский текст.[26]

В продуктах Google[править | править код]

В настоящее время технология проекта используется в системе распознавания речи в операционной системе Android,[27] поиске по фотографиям в Google+[28] и рекомендациях видео в YouTube.[29]

Команда и местоположение[править | править код]

Первоначально Google Brain был создан научным сотрудником Google Джеффом Дином и приглашённым из Стэнфорда профессором Эндрю Ыном[4] (позднее Ын покинул проект, чтобы возглавить группу искусственного интеллекта в Baidu[30]). На 2017 год членами команды являются: Анелия Ангелова, Сэми Бенгио, Грег Коррадо, Джордж Дал (исследователь машинного обучения), Майкл Изард, Анжули Каннан, Уго Ларочелле, Квок Ле, Крис Ола, Винсент Ванхоке, Виджей Васудеван и Фернанда Вигас.[31] Крис Латтнерruen, который создал язык программирования Apple Swift, а затем возглавлял команду беспилотных автомобилей Tesla в течение шести месяцев, присоединился к команде Google Brain в августе 2017 года.[32]

Google Brain базируется в Маунтин-Вью и имеет филиалы в Кембридже, Лондоне, Монреале, Нью-Йорке, Сан-Франциско, Торонто, Цюрихе и Амстердаме.[33]

Признание[править | править код]

Google Brain получил всестороннее освещение в Wired Magazineruen,[34][12][35] New York Times,[35] Technology Reviewruen,[36][11] National Public Radio[8] и Big Thinkruen.[37]

См. также[править | править код]

Примечания[править | править код]

  1. Machine Learning Algorithms and Techniques Research at Google. Retrieved May 18, 2017
  2. 1 2 Google Brain Team's Mission.
  3. Google's Large Scale Deep Neural Networks Project. Проверено 25 октября 2015.
  4. 1 2 Using large-scale brain simulations for machine learning and A.I.. Official Google Blog (26 June 2012). Проверено 26 января 2015.
  5. 1 2 Markoff, John How Many Computers to Identify a Cat? 16,000. New York Times (June 25, 2012). Проверено 11 февраля 2014.
  6. Large Scale Distributed Deep Networks (December 2012). Проверено 25 октября 2015.
  7. Astro Teller, Google’s ‘Captain of Moonshots,’ on Making Profits at Google X (16 February 2015). Проверено 25 октября 2015.
  8. 1 2 A Massive Google Network Learns To Identify — Cats. National Public Radio (June 26, 2012). Проверено 11 февраля 2014.
  9. Shin, Laura Google brain simulator teaches itself to recognize cats. SmartPlanetruen (June 26, 2012). Проверено 11 февраля 2014.
  10. (12 March 2013). U of T neural networks start-up acquired by Google. Пресс-релиз. Проверено 13 March 2013.
  11. 1 2 Regalado, Antonio Is Google Cornering the Market on Deep Learning? A cutting-edge corner of science is being wooed by Silicon Valley, to the dismay of some academics.. Technology Reviewruen (January 29, 2014). Проверено 11 февраля 2014.
  12. 1 2 Wohlsen, Marcus Google’s Grand Plan to Make Your Brain Irrelevant. Wired Magazineruen (January 27, 2014). Проверено 11 февраля 2014.
  13. Google Acquires UK AI startup Deepmind. The Guardian. Проверено 27 января 2014.
  14. Report of Acquisition, TechCrunch. TechCrunch. Проверено 27 января 2014.
  15. Oreskovic, Alexei Reuters Report. Reuters. Проверено 27 января 2014.
  16. Google Acquires Artificial Intelligence Start-Up DeepMind. The Verge. Проверено 27 января 2014.
  17. Google acquires AI pioneer DeepMind Technologies. Ars Technica. Проверено 27 января 2014.
  18. Google beats Facebook for Acquisition of DeepMind Technologies. Проверено 27 января 2014.
  19. Google AI invents its own cryptographic algorithm; no one knows how it works. arstechnica.co.uk. Проверено 15 мая 2017.
  20. Abadi, Martin; Andersen, David G. (2016). “Learning to Protect Communications with Adversarial Neural Cryptography”. arXiv:1610.06918.
  21. Dahl, Ryan; Norouzi, Mohammad; Shlens, Jonathon (2017). “Pixel Recursive Super Resolution”. arXiv:1702.00783.
  22. Google Brain super-resolution image tech makes "zoom, enhance!" real. arstechnica.co.uk. Проверено 15 мая 2017.
  23. Google just made 'zoom and enhance' a reality -- kinda. cnet.com. Проверено 15 мая 2017.
  24. Google uses AI to sharpen low-res images. engadget.com. Проверено 15 мая 2017.
  25. Zero-Shot Translation with Google’s Multilingual Neural Machine Translation System. Google Research Blog. Проверено 15 мая 2017.
  26. Google uses neural networks to translate without transcribing. New Scientist. Проверено 15 мая 2017.
  27. Speech Recognition and Deep Learning. Google Research Blog. Google (August 6, 2012). Проверено 11 февраля 2014.
  28. Improving Photo Search: A Step Across the Semantic Gap. Google Research Blog. Google (June 12, 2013).
  29. This Is Google’s Plan to Save YouTube. Time (May 18, 2015).
  30. Ex-Google Brain head Andrew Ng to lead Baidu's artificial intelligence drive. South China Morning Post.
  31. Google Brain team website. Accessed 13.05.2017. https://research.google.com/teams/brain/
  32. Swift creator Chris Lattner joins Google Brain after Tesla Autopilot stint, TechCrunch (Aug 14, 2017). Проверено 11 октября 2017.
  33. Research at Google (англ.). research.google.com.
  34. Levy, Steven How Ray Kurzweil Will Help Google Make the Ultimate AI Brain. Wired Magazineruen (April 25, 2013). Проверено 11 февраля 2014.
  35. 1 2 Hernandez, Daniela The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI. Wired Magazineruen (May 7, 2013). Проверено 11 февраля 2014.
  36. Hof, Robert Deep Learning: With massive amounts of computational power, machines can now recognize objects and translate speech in real time. Artificial intelligence is finally getting smart.. Technology Reviewruen (April 23, 2013). Проверено 11 февраля 2014.
  37. Ray Kurzweil and the Brains Behind the Google Brain. Big Thinkruen (December 8, 2013). Проверено 11 февраля 2014.