ChatGPT

Материал из Википедии — свободной энциклопедии
Это старая версия этой страницы, сохранённая Thholyng (обсуждение | вклад) в 17:43, 17 марта 2023 (→‎Преамбула). Она может серьёзно отличаться от текущей версии.
Перейти к навигации Перейти к поиску
ChatGPT
Логотип программы ChatGPT
Скриншот программы ChatGPT
Тип большая языковая модель и виртуальный собеседник
Автор OpenAI
Разработчик OpenAI
Написана на Python
Языки интерфейса многоязычный, в том числе русский
Первый выпуск 30 ноября 2022 года
Аппаратные платформы браузер, интерфейс программирования приложений, iOS и Android[1]
Последняя версия (14 марта 2023)
Состояние функционирует
Лицензия Проприетарная
Сайт chat.openai.com/chat
Логотип Викисклада Медиафайлы на Викискладе

ChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках. ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением. Данный чат-бот основывается на другой языковой модели от OpenAI — GPT-3.5 — улучшенной версии модели GPT-3. 14 марта 2023 года была выпущена языковая модель GPT-4, доступная тестировщикам и платным подписчикам ChatGPT Plus[2][3]. В новой версии у ИИ появилась возможность обработки не только текста, но и картинок[2].

ChatGPT был запущен 30 ноября 2022 года и привлёк внимание своими широкими возможностями: написание кода, создание текстов, возможности перевода, получения точных ответов и использование контекста диалога для ответов, хотя его фактическая точность и подверглась критике.

В начале февраля 2023 года Reuters со ссылкой на швейцарский холдинг UBS сообщило, что за 2 месяца аудитория активных пользователей ChatGPT достигла 100 млн человек. Этим самым приложение установило исторический рекорд по росту посетителей[4].

Доступ к сервису ограничен в таких странах как Китай, Россия, Белоруссия, Афганистан, Венесуэла, Иран[5]. Также ранее сервис не был доступен для жителей Украины[6].

Особенности

ChatGPT был доработан поверх GPT-3.5 с использованием методов обучения как с учителем, так и с подкреплением[7]. В обоих подходах использовались люди-тренеры для улучшения производительности модели. В случае обучения с учителем модель была снабжена беседами, в которых тренеры играли обе стороны: пользователя и помощника по искусственному интеллекту. На этапе подкрепления инструкторы-люди сначала оценивали ответы, которые модель создала в предыдущем разговоре. Эти оценки были использованы для создания моделей вознаграждения, на которых модель была дополнительно доработана с использованием нескольких итераций Proximal Policy Optimization[8][9]. Алгоритмы Proximal Policy Optimization имеют преимущество по затратам по сравнению с алгоритмами Region Policy Optimization; они сводят на нет многие дорогостоящие в вычислительном отношении операции с более высокой производительностью[10][11]. Модели были обучены в сотрудничестве с Microsoft на их суперкомпьютерной инфраструктуре Azure.

По сравнению со своим предшественником, InstructGPT, ChatGPT пытается уменьшить количество вредных и вводящих в заблуждение ответов. Например, в то время как InstructGPT воспринимает сообщение о том, что Христофор Колумб прибыл в США в 2015 году как правдивое, ChatGPT использует информацию о путешествиях Колумба и информацию о современном мире, включая восприятие личности Колумба, чтобы построить ответ, предполагающий, что произошло бы, если бы Колумб приплыл в США в 2015 году[8]. Данные в распоряжении у ChatGPT включают в себя справочные страницы, информацию об интернет-феноменах и информацию о языках программирования[12].

В отличие от большинства чат-ботов, ChatGPT отслеживает состояние пользователя, запоминая предыдущие вопросы и ответы, данные ему в том же разговоре, что, по мнению некоторых журналистов, позволит использовать ChatGPT в качестве персонализированного терапевта[13]. В попытке предотвратить выдачу оскорбительных результатов от запросов пользователей и получение оскорбительных ответов, в ChatGPT запросы фильтруются через API модерации, а потенциально расистские или сексистские подсказки отклоняются[8][13].

ChatGPT имеет множество ограничений. Модель вознаграждения ChatGPT, разработанная с учётом человеческого надзора, может быть чрезмерно оптимизирована и, таким образом, снижать производительность, представляя собой закон Гудхарта[14]. При обучении рецензенты предпочитали более длинные ответы, независимо от фактического понимания или фактического содержания[8]. Данные у ChatGPT могут страдать от алгоритмической предвзятости; ответы, включающие расплывчатые описания людей, таких как генеральный директор, могут генерировать ответ, предполагающий, что такой человек, например, является белым мужчиной[15].

Реакция

Положительная

ChatGPT был встречен в целом положительными отзывами. Саманта Лок из The Guardian отметила, что он смог сгенерировать впечатляюще подробный и похожий на человеческий текст[16]. Технический писатель Дэн Гиллмор использовал ChatGPT в студенческом задании и обнаружил, что сгенерированный им текст соответствует тому, что мог бы предоставить хороший студент, и высказал мнение, что перед академическими кругами стоят некоторые очень серьёзные проблемы[17]. Алекс Кантровиц из Slate одобрил ответ ChatGPT на вопросы, связанные с нацистской Германией, включая утверждение о том, что Адольф Гитлер строил автомагистрали в Германии, которое было встречено информацией об использовании нацистской Германией принудительного труда[18]. В статье, посвящённой мнению, экономист Пол Кругман писал, что ChatGPT повлияет на спрос работников умственного труда[19]. Джеймс Винсент из The Verge расценил вирусный успех ChatGPT как свидетельство того, что искусственный интеллект стал мейнстримом[9]. В The Atlantic Стивен Марке отметил, что влияние на академические круги и особенно на прикладные эссе ещё предстоит понять[20]. Учитель средней школы Калифорнии и писатель Дэниел Герман написал, что ChatGPT ознаменует конец английского языка в средней школе[21].

Критика

Фактическая точность ChatGPT, помимо прочего, была поставлена под сомнение. Майк Перл из Mashable задал ChatGPT множество вопросов. В одном примере он попросил назвать самую большую после Мексики страну в Центральной Америке. ChatGPT ответил, что это Гватемала, хотя правильный ответ — Никарагуа[22]. В декабре 2022 года веб-сайт вопросов и ответов Stack Overflow запретил использование ChatGPT для генерации ответов на вопросы, сославшись на фактически неоднозначный характер ответов ChatGPT[23]. Экономист Тайлер Коуэн выразил обеспокоенность по поводу его влияния на демократию, сославшись на способность любого человека писать автоматические комментарии в попытке повлиять на процесс принятия новых нормативных актов[24]. Акс Шарма из Bleeping Computer отметил, что ChatGPT способен писать вредоносные программы и фишинговые электронные письма[25].

ChatGPT также ничего не знает о событиях, происходящих после 2021 года, потому что он не обучается на наборах данных, собранных после этой даты.[26]

Из-за опасений по поводу негативного воздействия на обучение, а также опасений по поводу безопасности и точности генерируемого системой контента, доступ к ChatGPT ограничен в сетях и на устройствах государственных школ Нью-Йорка[27].

На популярность нейросети OpenAI отреагировали крупнейшие технологические корпорации: Google объявили о начале тестирования своего чат-бота Bard[28]; Microsoft встроила ChatGPT в строку поиска Bing[29].

Крупнейшим IT-компаниям Китая, несмотря на официальный запрет, было предписано не использовать ChatGPT в своих продуктах. Государственная China Daily сообщила, что чат-бот может способствовать распространению информации в геополитических интересах США[30].

В России

Сервисы OpenAI легально недоступны пользователям из России. Однако использование подходящих VPN и сервисов по аренде телефонных номеров, принадлежащих по телефонному коду другим странам, позволяет получить доступ к сервису[31].

Примечания

  1. ↑ https://play.google.com/store/apps/details?id=com.openai.chatgpt
  2. ↑ 1 2 Создатели чат-бота ChatGPT представили новое поколение языковой модели. GPT-4 умеет обрабатывать не только текст, но и картинки. Meduza (14 марта 2023). Дата обращения: 15 марта 2023.
  3. ↑ GPT-4 (англ.). openai.com. Дата обращения: 15 марта 2023.
  4. ↑ ChatGPT Set Record for fastest growing user base — analyst note.
  5. ↑ Что такое ChatGPT и как им пользоваться в России и Беларуси (рус.). «Дзен». (21 января 2023). Дата обращения: 9 февраля 2023.
  6. ↑ Американский OpenAI объяснил, почему заблокировал сверхпопулярный ИИ-сервис ChatGPT для украинцев (рус.). «Forbes». (18 января 2023). Дата обращения: 10 февраля 2023.
  7. ↑ Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. Дата обращения: 5 декабря 2022.
  8. ↑ 1 2 3 4 OpenAI. ChatGPT: Optimizing Language Models for Dialogue (30 ноября 2022). Дата обращения: 5 декабря 2022.
  9. ↑ 1 2 Vincent, James ChatGPT proves AI is finally mainstream — and things are only going to get weirder. The Verge (8 декабря 2022). Дата обращения: 8 декабря 2022.
  10. ↑ Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec; Klimov, Oleg (2017). "Proximal Policy Optimization Algorithms". arXiv:1707.06347 [cs.LG].
  11. ↑ van Heeswijk, Wouter Proximal Policy Optimization (PPO) Explained. Towards Data Science (29 ноября 2022). Дата обращения: 5 декабря 2022.
  12. ↑ Edwards, Benj No Linux? No problem. Just get AI to hallucinate it for you. Ars Technica (5 декабря 2022). Дата обращения: 5 декабря 2022.
  13. ↑ 1 2 Roose, Kevin The Brilliance and Weirdness of ChatGPT. The New York Times (5 декабря 2022). Дата обращения: 5 декабря 2022.
  14. ↑ Gao, Leo; Schulman; Hilton, Jacob (2022). "Scaling Laws for Reward Model Overoptimization". arXiv:2210.10760 [cs.LG].
  15. ↑ Murphy Kelly, Samantha This AI chatbot is dominating social media with its frighteningly good essays. CNN (5 декабря 2022). Дата обращения: 5 декабря 2022.
  16. ↑ Lock, Samantha What is AI chatbot phenomenon ChatGPT and could it replace humans? The Guardian (5 декабря 2022). Дата обращения: 5 декабря 2022.
  17. ↑ Hern, Alex AI bot ChatGPT stuns academics with essay-writing skills and usability. The Guardian (4 декабря 2022). Дата обращения: 5 декабря 2022.
  18. ↑ Kantrowitz, Alex Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test". Slate (2 декабря 2022). Дата обращения: 5 декабря 2022.
  19. ↑ Krugman, Paul Does ChatGPT Mean Robots Are Coming For the Skilled Jobs? The New York Times (6 декабря 2022). Дата обращения: 6 декабря 2022.
  20. ↑ Marche, Stephen The College Essay Is Dead. The Atlantic (6 декабря 2022). Дата обращения: 8 декабря 2022.
  21. ↑ The End of High-School English Daniel Herman, The Atlantic, DECEMBER 9, 2022
  22. ↑ Pearl, Mike The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong. Mashable (3 декабря 2022). Дата обращения: 5 декабря 2022.
  23. ↑ Vincent, James AI-generated answers temporarily banned on coding Q&A site Stack Overflow. The Verge (5 декабря 2022). Дата обращения: 5 декабря 2022.
  24. ↑ Cowen, Tyler ChatGPT Could Make Democracy Even More Messy. Bloomberg News (6 декабря 2022). Дата обращения: 6 декабря 2022.
  25. ↑ Sharma, Ax OpenAI's new ChatGPT bot: 10 dangerous things it's capable of. Bleeping Computer (6 декабря 2022). Дата обращения: 6 декабря 2022.
  26. ↑ scienceblog. Ядерный синтез в изложении искусственного интеллекта. (рус.). scienceblog (24 декабря 2022). Дата обращения: 22 января 2023.
  27. ↑ Образовательные учреждения блокируют доступ к нейросети ChatGPT. Что дальше? // РГ, 7.01.2023
  28. ↑ Google представила собственное решение для «нейросетевой» конкуренции с Microsoft // Газета.ru, 7 февраля 2023
  29. ↑ Microsoft встроила ИИ-чат-бот ChatGPT в поисковик Bing и браузер Edge // 3DNews Daily Digital Digest
  30. ↑ Китайским IT-гигантам запретили использовать ChatGPT — бота обвинили в дезинформации и манипуляциях в интересах США
  31. ↑ Мария Решетникова. Что такое ChatGPT и на что он способен (2 февраля 2023). Дата обращения: 9 февраля 2023.

Ссылки

Источник — https://ru.wikipedia.org/w/index.php?title=ChatGPT&oldid=129282456