Зима искусственного интеллекта

Материал из Википедии — свободной энциклопедии
Перейти к навигации Перейти к поиску

Зима искусственного интеллекта — период в истории исследований искусственного интеллекта, связанный с сокращением финансирования и общим снижением интереса к проблематике[1]. Термин был введён по аналогии с термином «ядерная зима»[2]. Направление искусственного интеллекта прошло несколько циклов, сопровождавшихся повышенным ажиотажем, сменяющихся «зимами» — разочарованием, критикой и последующим сокращением финансирования, а затем возобновлением интереса несколько лет или десятилетий спустя[3].

Термин впервые упомянут в 1984 году на ежегодной встрече AAAI (Американской ассоциации искусственного интеллекта): на одном из обсуждений Роджер Шэнк[en] и Марвин Мински — два ведущих исследователя в области искусственного интеллекта — предупредили бизнес-сообщество, что энтузиазм в отношении направления вышел из-под контроля, и что за ним последует разочарование, иллюстрацией послужила «первая зима» направления, пережитая в 1970-х годах. После этого обсуждения последовала цепная реакция, сопровождающая пессимизмом в среде исследователей, распространившаяся также в СМИ, и в конечном итоге приведшая к снижению финансирования и остановке крупных работ[2]; три года спустя миллиардная индустрия искусственного интеллекта была фактически обрушена[2].

Как для всякого ажиотажа, сопутствующего перспективным технологиям, и характеризующимся последующими спадами (железнодорожная мания, пузырь доткомов), «зи́мы искусственного интеллекта» в первую очередь означали крах в восприятии лиц, принимающих решения о финансировании — правительственных чиновников, инвесторов, венчурных капиталистов, руководителей организаций. При этом, несмотря на взлёт и падение репутации искусственного интеллекта, исследования в этой области велись непрерывно, и после спадов интерес инвесторов возобновлялся по мере очередных результатов. Так, в 2005 году Рэй Курцвейл отмечал, что «зима искусственного интеллекта» не прервала работ в этой области, и уже к середине 2000-х годов «многие тысячи приложений искусственного интеллекта глубоко встроены в инфраструктуру каждой отрасли»[4].

Периодизация[править | править код]

Две длительные «зимы» относят к периодам 1974—1980 годов и 1987—1993 годов[5][6]. Кроме того, было несколько менее значительных эпизодов, повлиявших на снижение интереса к направлению, среди таковых провал проектов по машинному переводу в 1966 году и неудача концепции коннекционизма в 1970 году. Другие периоды спада интереса:

Ранние эпизоды[править | править код]

Машинный перевод и отчет ALPAC 1966 года[править | править код]

Брифинг для вице-президента США Джеральда Форда в 1973 году на тему перевода с помощью модели, основанной на junction grammar

Во время холодной войны правительство США было особенно заинтересовано в автоматическом, мгновенном переводе русских документов и научных докладов. Начиная с 1954 года, правительство США приложило много усилий для разработки машинного перевода. Вначале исследователи были оптимистичны: новая работа Ноама Хомского по грамматике упрощала процесс перевода, и было «много предсказаний приближающегося прорыва»[7].

Однако исследователи недооценили сложность разрешения лексической многозначности. Для того чтобы перевести предложение без ошибок, машина должна была иметь представление, о чем идет речь в предложении. Согласно мифу [8], фраза «the spirit is willing but the flesh is weak» при переводе на русский и потом обратно на английский превратилась в «the vodka is good but the meat is rotten»[9], а «out of sight, out of mind» — в «blind idiot». Позже исследователи назовут это проблемой здравого смысла (англ.).

В 1964 году Национальный исследовательский совет (NRC) США забил тревогу отсутствием прогресса и создал Консультативный комитет по автоматической обработке языков (англ.) (ALPAC) для изучения этой проблемы. В своем отчете 1966 года комитет пришел к выводу, что машинный перевод оказался более дорогим, менее точным и более медленным, чем человеческий перевод. Потратив около 20 миллионов долларов, NRC свернул все разработки. Карьеры были уничтожены, а исследования прекращены[10][7].

В XXI веке машинный перевод так и остается открытой проблемой, хотя и решенной с некоторым успехом (Google Translate, Yahoo Babel Fish).

Отказ от коннективизма в 1969 году[править | править код]

В ряде первых работ по ИИ для имитации разумного поведения применялись сети или схемы из соединенных между собой блоков. Примерами такого подхода, названного коннекционизмом, являются первое описание искусственной нейронной сети Уолтера Питтса и Уоррена Мак-Каллока, а также работа Марвина Минского по системе SNARC (англ.). В конце 1950-х годов большинство этих подходов были отброшены, когда исследователи начали исследовать символьные рассуждения (symbolic reasnoning) в качестве основы интеллекта после успеха таких программ, как Logic Theorist (англ.) и General Problem Solver[11].

Однако работа в одном из направлений коннекционизма продолжалась — изучение перцептрона, предложенного Фрэнком Розенблаттом, которому удавалось поддерживать исследования в этой области благодаря своим способностям «продавца» и силы своей личности[12]. Он оптимистично прогнозировал, что перцептрон «со временем сможет учиться, принимать решения и переводить языки»[13]. Основные исследования перцептронов резко прекратились в 1969 году после публикации Марвином Минским и Сеймуром Пейпертом книги «Перцептроны», которая обозначила пределы возможностей перцептронов.

Коннективизм был забыт на несколько последующих десятилетий. Хотя важная работа в этом направлении частично продолжалась, например, был предложен метод обратного распространения ошибки, однако найти достаточное финансирование для проектов коннекционистов в 1970-х и начале 1980-х годов было трудно[14]. «Зима» исследований коннекционистов прекратилась в середине 1980-х годов, когда работы Джона Хопфилда, Дэвида Румельхарта и других возродили масштабный интерес к нейронным сетям[15]. Розенблатт не дождался этого, он погиб в результате несчастного случая вскоре после публикации книги «Перцептроны»[13].

Неудачи 1974 года[править | править код]

Отчет Лайтхилла[править | править код]

В 1973 году британский парламент поручил профессору сэру Джеймсу Лайтхиллу оценить состояние исследований искусственного интеллекта в Великобритании. Его отчет, известный как отчет Лайтхилла, раскритиковал полную неспособность ИИ достичь своих «грандиозных целей». Он пришел к выводу, что все то, что может делать ИИ, может быть сделано также другими науками. Он особенно выделил проблемы «комбинаторного взрыва» и «трудноразрешимости», которые показывали, что большинство самых успешных алгоритмов ИИ годятся лишь для решения «игрушечных» задач, а на реальных практических задачах они не работают[16].

Отчет был оспорен в дебатах, которые транслировались на канале BBC в программе «Controversy» в 1973 году. В дебатах «Универсальный робот — это мираж» Лайтхилл, представлявший Королевский Институт, дискутировал против команды из Дональда Мичи (англ.), Джона Маккарти и Ричарда Грегори (англ.)[17]. Позже Маккарти писал, что «проблема комбинаторного взрыва была признана в ИИ с самого начала»[18].

Отчет Лайтхилла привел к прекращению большинства исследований в сфере ИИ в Великобритании[16]. Исследования продолжалось лишь в нескольких университетах второго эшелона (Эдинбург, Эссекс и Сассекс). Джеймс Хендлер (англ.) пишет: «Это создало эффект волны, который привел к сокращению финансирования разработок ИИ по всей Европе»[19]. Крупномасштабные исследования возобновились только в 1983 году, когда британский проект Элви (англ.), созданный в ответ на японский проект компьютеров пятого поколения, начал финансировать в ИИ из военного бюджета в размере 350 миллионов фунтов стерлингов. Элви имел ряд требований, которые касались только Великобритании, что не подходило международным партнерам, особенно американским, и стало причиной прекращения финансирования второго этапа.

Сокращение финансирования DARPA в начале 1970-х[править | править код]

В течение 1960-х годов Агентство передовых оборонных исследовательских проектов (тогда известное как «ARPA», теперь «DARPA») выделило миллионы долларов на исследования искусственного интеллекта практически без каких-либо условий. Директор DARPA в те годы, Джозеф Ликлайдер верил в «финансирование людей, а не проектов»[20] и позволял лидерам отрасли ИИ (таким как Марвин Минский, Джон Маккарти, Герберт А. Саймон и Аллен Ньюэлл) тратить их почти на любые цели.

Ситуация переменилась после принятия поправки Мэнсфилда в 1969 году, которая требовала от DARPA финансирования «целевых исследований, а не общих ненаправленных исследований»[21] Ненаправленные общие исследования характерные 1960-м перестали финансироваться DARPA, теперь исследователи должны были показать, что их работа вскоре принесет пользу в виде новых военных технологий. Отныне предложения исследователей искусственного интеллекта рассматривались по очень строгим стандартам. Ситуация еще больше осложнилась после выхода отчета Лайтхилла и собственного исследования DARPA (American Study Group), которые показали, что большинство исследований искусственного интеллекта вряд ли принесут хоть какую-либо пользу в обозримом будущем. В итоге деньги DARPA были направлены на проекты с более четкими целями, такие как автономные танки и системы управления боем. К 1974 году было трудно найти финансирование для проектов искусственного интеллекта[21].

Исследователь ИИ Ханс Моравек обвинил в кризисе нереалистичные прогнозы своих коллег: «Многие исследователи оказались в паутине все большего преувеличения. Первые обещания, данные им DARPA, были слишком оптимистичными. Конечно, то, что они разрабатывали в результате, значительно отличалось от обещаний. Но они считали, что в следующий раз не смогут пообещать меньше, чем в первый, поэтому обещали еще больше»[22]. В результате сотрудники DARPA потеряли терпение к исследованиям ИИ, как утверждает Моравек. Моравек сообщил Дэниелу Кревьеру (англ.), что «в DARPA буквально сказали: некоторых из этих людей следует проучить, сократив их контракты на два миллиона долларов в год почти до нуля!»[23].

Хотя проект автономного танка провалился, система управления боем (Dynamic Analysis and Replanning Tool, DART) оказалась чрезвычайно успешной и сэкономила миллиарды долларов во время первой войны в Персидском заливе, таким образом компенсируя все инвестиции DARPA в ИИ[24] и тем самым оправдав прагматичную политику DARPA[25].

Провал SUR[править | править код]

DARPA оказалась глубоко разочарованной исследователями из университета Карнеги-Меллона, работавшими над программой распознавания речи. В DARPA рассчитывали получить, и считали, что им обещали предоставить, систему голосового управления для пилотов. Команда SUR разработала систему, которая могла распознать разговорный английский язык, но только если слова были произнесены в определенном порядке. В DARPA посчитали, что их обманули, и в 1974 году они отменили грант в размере 3 миллиона долларов в год[26].

Много лет спустя успешные коммерческие системы распознавания речи будут использовать технологии, разработанные командой Карнеги-Меллона (такие как скрытые марковские модели), и в 2001 году рынок систем распознавания речи достигнет 4 млрд. долларов[27].

Неудачи конца 1980-х и начале 1990-х годов[править | править код]

Крах рынка лисп-машин в 1987 году[править | править код]

В 1980-х корпорации по всему миру взяли на вооружение экспертные системы (форма искусственного интеллекта). Первой коммерческой экспертной системой была XCON, разработанная в университете Карнеги-Меллона для корпорации Digital Equipment. Имевшая огромный успех, она помогла Digital Equipment сэкономить, по оценкам, 40 миллионов долларов за шесть лет работы. Корпорации по всему миру начали разрабатывать и внедрять экспертные системы, к 1985 году они тратили на ИИ свыше миллиарда долларов, большая часть которых направлялась на внутренние отделы искусственного интеллекта. Для того чтобы удовлетворить эти потребности выросла целая индустрия, в которую входили разработчики программ, такие как Teknowledge и Intellicorp (KEE) (англ.), и производители оборудования, такие как Symbolics (англ.) и Lisp Machines Inc (англ.). Они создали специализированные компьютеры для ИИ, лисп-машины, оптимизированные для обработки языка программирования Lisp, в то время наиболее предпочтительного в области разработки ИИ[28].

В 1987 году, через три года после прогноза Минского и Шанка, рынок лисп-машин рухнул. Рабочие станции таких компаний, как Sun Microsystems, предлагали мощную альтернативу лисп-машинам, а такие компании, как Lucid Inc., предложили среду LISP для этого нового класса рабочих станций. Производительность рабочих станций общего назначения становилась все более трудным вызовом для лисп-машин Такие компании, как Lucid Inc. и Franz Lisp (англ.), предлагали все более мощные версии LISP. Результаты бенчмарков показали, что рабочие станции превосходят в производительности лисп-машины[29]. Позже настольные компьютеры Apple и IBM также предложат более простую и популярную архитектуру для запуска LISP-приложений. К 1987 году они стали мощнее, чем более дорогие лисп-машины. На настольных компьютерах были доступны движки на основе правил, такие как CLIPS[30]. Эти альтернативы не оставили потребителям причин покупать дорогие лисп-машины. Вся отрасль лисп-машин стоимостью полмиллиарда долларов исчезла за один год[31].

С коммерческой точки зрения многие Lisp-компании обанкротились, как например Symbolics, Lisp Machines Inc., Lucid Inc. и др. Другие компании, такие как Texas Instruments, и Xerox, ушли из отрасли. Ряд компаний-клиентов, тем не менее, продолжали использовать и поддерживать системы, написанные на Lisp и разработанные на лисп-машинах.

Падение популярности экспертных систем[править | править код]

В начале 1990-х годов первые успешные экспертные системы, такие как XCON, оказались слишком дорогими в обслуживании. Их было сложно обновлять, они не могли обучаться, они были «хрупкими» (делали нелепые ошибки при получении необычных входных данных). Также они стали жертвой проблем (таких как проблема квалификации (англ.)), обнаруженных при исследовании немонотонной логики. Экспертные системы доказали свою эффективность лишь в нескольких особых контекстах[1]. Другая проблема касалась вычислительной сложности задачи поддержки истинности (англ.) относительно общих знаний. KEE использовал подход на основе предположений (см. NASA, TEXSYS[32]), поддерживающий сценарии множественных миров[33], который было труден для понимания и применения.

Небольшое количество компаний, оставшихся в области экспертных систем, в конце концов были вынуждены сократить штаты и искать новые рынки и программные парадигмы, такие как рассуждения на основе прецедентов или универсальный доступ к базе данных. Развитие Common Lisp спасло много систем, таких как ICAD, которые нашли применение в инженерии на основе знаний. Другие системы, такие как KEE Intellicorp, перешли с Lisp на C++ на ПК и помогли в становлении объектно-ориентированных технологий (в том числе внесли большой вклад в разработку UML).

Фиаско компьютеров пятого поколения[править | править код]

В 1981 году японское министерство международной торговли и промышленности (англ.) выделило 850 миллионов долларов на проект компьютеров пятого поколения. Его задачей было создание программ и машин способных поддерживать разговор, переводить языки, понимать изображения и размышлять как люди. Даже в 1991 году впечатляющий список целей, составленный в 1981 году, не был выполнен, а некоторые из них не были выполнены ни в 2001, ни в 2011 годах. Как и в других проектах ИИ, ожидания были гораздо больше, чем возможности их реализовать[34].

Сокращение Инициативы стратегических вычислений[править | править код]

В 1983 году DARPA в ответ на проект пятого поколения возобновили финансирование исследований искусственного интеллекта, запустив Инициативу стратегических вычислений (Strategic Computing Initiative). Проект предполагалось начать с практических, достижимых целей, одной из которых был искусственный интеллект в долгосрочной перспективе. Программа находилась под руководством Управления технологий обработки информации (англ.) (IPTO), а также была направлена на суперкомпьютеры и микроэлектронику. К 1985 году на программу было потрачено 100 миллионов долларов, в 60 учреждениях было запущено 92 проекта, из них половина в промышленности, другая половина в университетах и правительственных лабораториях. Исследования искусственного интеллекта щедро финансировались SCI[35].

В 1987 году руководителем IPTO стал Джек Шварц, который отверг экспертные системы как «умелое программирование» и «глубоко и жестко» сократил финансирование ИИ, «лишая содержания» SCI. Шварц не считал ИИ «новой волной» и хотел, сосредоточить финансирование DARPA только на самых перспективных технологиях, по его словам, DARPA должна «кататься на серфе», а не «плавать по-собачьи». Кроме того, сотрудники программы сообщали о проблемах в коммуникации, организации и интеграции. Только несколько проектов пережили сокращение финансирования: помощник пилота, беспилотное наземное транспортное средство (так и не было создано) и система управления боем DART (как отмечалось выше, стала успешной)[36].

Примечания[править | править код]

  1. 1 2 AI Expert Newsletter: W is for Winter Архивировано 9 ноября 2013 года.
  2. 1 2 3 Crevier, Daniel. AI: The Tumultuous Search for Artificial Intelligence. — 1993. — С. 203. — ISBN 0-465-02997-3.
  3. Kaplan Andreas; Michael Haenlein (2018) Siri, Siri in my Hand, who’s the Fairest in the Land? On the Interpretations, Illustrations and Implications of Artificial Intelligence, Business Horizons, 62(1)
  4. Kurzweil, Ray. The Singularity is Near. — Viking Press. — 2005.
  5. J. Howe. Artificial Intelligence at Edinburgh University : a Perspective (ноябрь 1994). Архивировано 17 августа 2007 года.: «отчёт Лайтхилла [1973] вызвал массовую потерю доверия к ИИ со стороны академического истеблишмента в Великобритании (и в меньшей степени в США). Он сохранялся в течение десятилетия ― так называемая „зима AI“»
  6. Stuart J. Russell, Peter Norvig (2003), Artificial Intelligence: A Modern Approach (2nd ed.), Upper Saddle River, New Jersey: Prentice Hall, с. 24, ISBN 0-13-790395-2, <http://aima.cs.berkeley.edu/> : «в целом, индустрия искусственного интеллекта выросла с нескольких миллионов долларов в 1980 году до миллиардов долларов в 1988 году. Вскоре после этого наступил период, названный „зимой ИИ“»
  7. 1 2 John Hutchins 2005 The history of machine translation in a nutshell.
  8. Hutchins, John. 1995. "The whisky was invisible", or Persistent myths of MT. Retrieved from http://www.hutchinsweb.me.uk/MTNI-11-1995.pdf
  9. Russell, Norvig, p. 21.
  10. Crevier, 1993, p. 203.
  11. McCorduck, 2004
  12. Pamela McCorduck процитировала одного коллегу: «Он был мечтой для пресс-службы, настоящим шаманом.» (McCorduck 2004)
  13. 1 2 Crevier, 1993
  14. Crevier, 1993, McCorduck, 2004, Russell & Norvig, 2003
  15. Crevier, 1993 and Russell & Norvig, 2003
  16. 1 2 Crevier, 1993, Russell & Norvig, 2003, Howe, 1994 and see also Lighthill, 1973
  17. BBC Controversy Lighthill debate 1973. BBC "Controversy" debates series. ARTIFICIAL_INTELLIGENCE-APPLICATIONS¯INSTITUTE. Дата обращения 13 августа 2010.
  18. McCarthy, John Review of the Lighthill Report. Дата обращения 10 сентября 2008. Архивировано 30 сентября 2008 года.
  19. Hendler, James Avoiding Another AI Winter. Архивировано 12 февраля 2012 года.
  20. Crevier, 1993
  21. 1 2 NRC, 1999 (разделы до 1980)
  22. Crevier, 1993
  23. Crevier, 1993
  24. Russell & Norvig, 2003
  25. NRC, 1999
  26. Crevier, 1993 (on whom this account is based). Other views include McCorduck, 2004 and NRC, 1999 under «Success in Speech Recognition»
  27. NRC, 1999 under «Success in Speech Recognition»
  28. Crevier, 1993
  29. Brooks, Rodney Design of an Optimizing, Dynamically Retargetable Compiler for Common LISP. Lucid, Inc.. Архивировано 20 августа 2013 года.
  30. Avoiding another AI Winter, James Hendler, IEEE Intelligent Systems (March/April 2008 (Vol. 23, No. 2) pp. 2–4
  31. Crevier, 1993
  32. https://web.archive.org/web/20080921220453/http://human-factors.arc.nasa.gov/cognition/papers/roger/chi90.html
  33. https://web.archive.org/web/20080921220453/http://human-factors.arc.nasa.gov/cognition/papers/roger/chi90.html
  34. Crevier, 1993
  35. McCorduck, 2004
  36. McCorduck, 2004

Литература[править | править код]

  • Minsky, Marvin (англ.); Papert, Seymour. Perceptrons: An Introduction to Computational Geometry (англ.) : journal. — The MIT Press, 1969.
  • McCorduck, Pamela (2004), Machines Who Think (2nd ed.), Natick, MA: A. K. Peters, Ltd., ISBN 1-56881-205-1
  • NRC. Developments in Artificial Intelligence // Funding a Revolution: Government Support for Computing Research. — National Academy Press, 1999.
  • Newquist, HP. The Brain Makers: Genius, Ego, and Greed In The Search For Machines That Think. — Macmillan/SAMS, 1994. — ISBN 978-0-9885937-1-8.
  • Russell, Stuart J.; Norvig, Peter (2003), Artificial Intelligence: A Modern Approach (2nd ed.), Upper Saddle River, New Jersey: Prentice Hall, ISBN 0-13-790395-2