Machine Intelligence Research Institute

Материал из Википедии — свободной энциклопедии
(перенаправлено с «Институт Сингулярности»)
Перейти к навигации Перейти к поиску
Machine Intelligence Research Institute
Административный центр
Локация
Тип организации НКО
Основатели Элиезер Юдковский
Основание
Дата основания 2000
Сайт intelligence.org (англ.)

Machine Intelligence Research Institute (MIRI; ранее — Singularity Institute и Singularity Institute for Artificial Intelligence) — некоммерческая организация, основной целью которой является создание безопасного искусственного интеллекта, а также изучение потенциальных опасностей и возможностей, которые могут появиться при создании ИИ. Организация поддерживает идеи, первоначально выдвинутые Ирвингом Гудом и Вернором Винджем, касательно «интеллектуального взрыва» или сингулярности, и идеи Элиезера Юдковского о создании дружественного ИИ. Юдковский исследует в Институте сингулярности в США проблемы глобального риска, которые может создать будущий сверхчеловеческий ИИ, если его не запрограммировать на дружественность к человеку[2].

С 2007 по 2010 год одним из директоров организации был изобретатель и футуролог Рей Курцвейл. В штате консультантов организации — оксфордский философ Ник Бостром, геронтолог Обри ди Грей, соучредитель PayPal Питер Тиль, и сооснователь Foresight Nanotech Institute Кристина Пэтерсон.

Организация имеет представительства в США и Канаде.

История

[править | править код]

Первым проектом SIAI (Singularity Institute for Artificial Intelligence) стал «аннотационный язык программирования» (annotative programming language) Flare[3], разработка которого началась в июле 2001 года. Язык разрабатывался для создания с помощью него зерна ИИ. Менее чем через год проект был закрыт.

В 2002 году на сайте SIAI публикуется препринт главы «Уровни организации общего интеллекта»[4] из книги «Реальный ИИ: Новые подходы к искусственному общему интеллекту» (под редакцией Бен Герцель и Cassio Pennachin). Позже, в этом же году, SIAI опубликовал две основные главы введения — «Что есть сингулярность»[5] и «Почему следует работать над приближением сингулярности»[6].

В 2003 году представитель организации Майкл Anissimov выступил с докладом на международной конференции Transvision 2003, проходившей в Йельском университете.

В 2004 году SIAI был создан сайт AsimovLaws.com[7], созданный для обсуждения этики ИИ в контексте проблем, затронутых в фильме «Я, Робот», выпущенном лишь два дня спустя. В начале следующего года главный офис Института переезжает из Атланты в Кремниевую долину.

В феврале 2006 года Институт формирует фонд в размере 200 тыс. долл.[8]. Основная часть фонда (100 тыс. долл.) была получена от соучредителя Paypal Питера Тиля. В мае 2006 года на Стэнфордском саммите сингулярности принято решение о расширении штата сотрудников Института.

Институт, вместе с KurzweilAI.net и Центром по изучению языка и информации, спонсирует Стэнфордский саммит сингулярности. Директор Института, Питер Тиль, выступает в качестве ведущего саммита[9]. Саммит собрал порядка 1300 специалистов. Среди участников саммита были Рей Курцвейл, Ник Бостром, Кори Доктороу, Эрик Дрекслер, Дуглас Хофштадтер, Steve Jurvetson[англ.], Bill McKibben[англ.], Макс Мор, Себастьян Трун и Элиезер Юдковский.

В 2007 году аналогичный саммит прошёл во Дворце Театра Искусств, Сан-Франциско. Третий саммит сингулярности состоялся 5 октября 2008 года в Сан-Хосе.

Институт финансирует проект Open Cognition Framework (OpenCog), целью которого является предоставление «исследователям и разработчикам программного обеспечения общей платформы для построения программ с элементами искусственного интеллекта».

В 2013 году организация сменила название на Machine Intelligence Research Institute[10].

Исследования

[править | править код]

Прогнозы

[править | править код]

Machine Intelligence Research Institute изучает стратегические вопросы, связанные с ИИ, например: что мы можем (и не можем) предсказать о будущей технологии ИИ? Как мы можем улучшить наши способности к прогнозированию? Какие вмешательства, доступные сегодня, кажутся наиболее полезными, учитывая то, что мы мало знаем?[11]

Начиная с 2014 года MIRI финансирует работу по прогнозированию через независимый проект AI Impacts. AI Impacts изучает исторические примеры прерывистых технологических изменений и разработал новые меры относительной вычислительной мощности человека и компьютерного оборудования.[12][13]

Интерес исследователей MIRI к прерывистому искусственному интеллекту связан с аргументом И. Дж. Гуда о том, что достаточно продвинутые системы ИИ в конечном итоге превзойдут людей в задачах разработки программного обеспечения, что приведет к созданию цикла обратной связи все более способных систем ИИ:

Пусть ультраинтеллектуальная машина определяется как машина, которая может намного превосходить все интеллектуальные действия любого человека, насколько это возможно. Поскольку конструкция машин является одной из этих интеллектуальных задач, ультраинтеллектуальная машина могла бы разрабатывать ещё лучшие машины; Тогда бесспорно был бы «Интеллектуальный взрыв» (ориг: «intelligence explosion»), и разум человека остался бы далеко позади. Таким образом, первая ультраинтеллектуальная машина является последним изобретением, которое человек должен когда-либо делать, при условии, что машина достаточно послушна, чтобы рассказать нам, как держать её под контролем.[14]

Писатели, такие как Бостром, используют термин суперинтеллекция вместо ультраинтеллектуала Гуда. Следуя Вернору Винджу, идея Гуда о взрыве интеллекта стала связана с идеей «технологической сингулярности». Бостром и исследователи из MIRI выразили скептицизм по поводу взглядов сторонников сингулярности, таких как Рэй Курцвейл, что суперинтеллекция «находится за углом». Исследователи MIRI выступают за раннюю работу по обеспечению безопасности в качестве меры предосторожности, утверждая, что прошлые предсказания прогресса ИИ не были надежными.[15]

Степень надежности и толерантность к ошибкам в ИИ

[править | править код]

Документ о приоритетах исследований Института Будущего Жизни (FLI) гласит:

Математические инструменты, такие как формальная логика, вероятность и теория принятия решений, дали значительное представление об основах рассуждений и принятия решений. Однако в основе рассуждений и решений по-прежнему остается множество открытых проблем. Решения этих проблем могут сделать поведение очень способных систем намного более надежными и предсказуемыми. Примеры исследований в этой области включают рассуждения и решения в рамках ограниченных вычислительных ресурсов à la Horvitz and Russell, как учитывать корреляции между поведением AI-систем и поведением их окружения, агентов, как агенты, встроенные в их среду, или других детерминированных вычислений. Эти темы могут выиграть от совместного рассмотрения, поскольку они кажутся глубоко связанными

Стандартные процедуры принятия решения недостаточно точно определены (например, в отношении контрфактов), для того, чтобы быть оформленными как алгоритмы. Исследователь Machine Intelligence Research Institute Бенья Палленштейн и тогдашний исследователь Нейт Соареш пишут, что теория причинно-следственных решений «неустойчива при отражении» в том смысле, что рациональный агент, следующий за теорией причинно-следственных решений, «правильно идентифицирует, что агент должен изменить себя, чтобы прекратить использовать теорию причинно-следственных решений для принятия решений». Исследователи идентифицируют «логические теории принятия решений» как альтернативы, которые лучше выполняют общие задачи принятия решений.

Если система ИИ выбирает действия, которые наилучшим образом позволяют ей выполнить задание, то избегать условий, которые препятствуют тому, чтобы система продолжала выполнять задачу, является естественным подцелем (и, наоборот, поиск безусловных ситуаций иногда является полезной эвристикой). Однако это может стать проблематичным, если мы хотим перераспределить систему, деактивировать её или существенно изменить процесс принятия решений; Такая система будет рационально избегать этих изменений. Системы, которые не проявляют такого поведения, называются исправительными системами, и теоретическая и практическая работа в этой области представляется приемлемой и полезной.

Приоритеты Machine Intelligence Research Institute в этих областях обобщены в технической программе 2015 года.

Примечания

[править | править код]
  1. ↑ Global Research Identifier Database (англ.) — 2015.
  2. ↑ ИИ как фактор глобального риска. Дата обращения: 30 марта 2010. Архивировано 10 февраля 2012 года.
  3. ↑ Проект flarelang на сайте SourceForge.net
  4. ↑ Levels of Organization in General Intelligence. Дата обращения: 14 мая 2009. Архивировано из оригинала 4 октября 2006 года.
  5. ↑ What is the Singularity? | Singularity Institute for Artificial Intelligence. Дата обращения: 14 мая 2009. Архивировано из оригинала 16 мая 2008 года.
  6. ↑ Why Work Toward the Singularity? | Singularity Institute for Artificial Intelligence. Дата обращения: 14 мая 2009. Архивировано из оригинала 4 октября 2006 года.
  7. ↑ 3 Laws Unsafe — Asimov’s Three Laws of Robotics & I, Robot. Дата обращения: 14 мая 2009. Архивировано 23 марта 2011 года.
  8. ↑ Singularity Institute for Artificial Intelligence | AI. Дата обращения: 14 мая 2009. Архивировано 9 мая 2010 года.
  9. ↑ Smarter than thou? Архивная копия от 11 февраля 2011 на Wayback Machine San Francisco Chronicle, 12 мая 2006
  10. ↑ We are now the “Machine Intelligence Research Institute” (MIRI) (30 января 2013). Дата обращения: 6 ноября 2021. Архивировано 23 сентября 2018 года.
  11. ↑ Bostrom, Nick; Yudkowsky, Eliezer. The Ethics of Artificial Intelligence // The Cambridge Handbook of Artificial Intelligence (англ.) / Frankish, Keith; Ramsey, William. — New York: Cambridge University Press, 2014. — ISBN 978-0-521-87142-6.
  12. ↑ Hsu, Jeremy (2015). "Making Sure AI's Rapid Rise Is No Surprise". Discover. Архивировано 12 октября 2015. Дата обращения: 12 октября 2015. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  13. ↑ De Looper, Christian (2015). "Research Suggests Human Brain Is 30 Times As Powerful As The Best Supercomputers". Tech Times. Архивировано 24 августа 2017. Дата обращения: 12 октября 2015. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  14. ↑ I. J. Good. Speculations Concerning the First Ultraintelligent Machine (англ.) // Advances in Computers : journal. — 1965. — Vol. 6. Архивировано 8 декабря 2017 года.
  15. ↑ Bensinger, Rob Brooks and Searle on AGI volition and timelines. MIRI Blog (2015). Дата обращения: 12 октября 2015. Архивировано 27 сентября 2015 года.

Ссылки

[править | править код]
Источник — https://ru.wikipedia.org/w/index.php?title=Machine_Intelligence_Research_Institute&oldid=141114126