Виртуальный собеседник

Виртуальный собеседник, программа-собеседник, чат-бот (англ. chatbot) — программа, которая выясняет потребности пользователей, а затем помогает удовлетворить их. Автоматическое общение с пользователем ведется с помощью текста или голоса. Чат-бот ведет коммуникацию от лица компании или бренда с целью упростить онлайн-общение (предоставить актуальную информацию в наиболее оперативные сроки), используется как альтернатива переписке с живым оператором или звонку менеджеру компании.

Одним из первых виртуальных собеседников была программа Элиза, созданная в 1966 году Джозефом Вейценбаумом. Элиза пародировала речевое поведение психотерапевта, реализуя технику активного слушания, переспрашивая пользователя и используя фразы типа «Пожалуйста, продолжайте».

Предполагается, что идеальная программа-собеседник должна пройти тест Тьюринга. Проводятся ежегодные конкурсы программ-собеседников (в основном, англоязычных). Один из самых известных — конкурс Лебнера.

Назначение и развитие виртуальных собеседников

Виртуальные собеседники (чат-боты) применяются для автоматизированного взаимодействия с пользователями. Они могут использоваться для развлечения, предоставления справочной информации, консультирования и выполнения различных задач.

Программы, способные понимать отдельные высказывания пользователя, образуют класс программ с естественно-языковым интерфейсом. Например, вопросно-ответная система.

Создание виртуальных собеседников граничит с проблемой общего искусственного интеллекта, то есть единой системы (программы, машины), моделирующей интеллектуальную деятельность человека.

В 2010-е годы стала развиваться благодатная среда для использования чат-ботов — мессенджеры. Павел Дуров одним из первых разглядел перспективы технологии и внедрил API для создания искусственного интеллекта в Телеграмме.

В 2016 году компания Microsoft выпустила первого самообучающегося чат-бота Tay, который взаимодействовал с пользователями в Twitter. Однако из-за уязвимости к обучению с пользовательскими данными чат-бот был отключён через 16 часов после запуска.

В начале 2022 года инженер по разработке программного обеспечения Google Блейк Леймон обнаружил у нейросети LaMDA (предназначенной для чат-ботов) признаки наличия собственного сознания.

Осенью 2022 года OpenAI запустила свой чат-бот ChatGPT, основанный на модели GPT-3. ChatGPT был одним из самых продвинутых чат-ботов на момент выпуска и считается важным этапом в развитии разговорной искусственной интеллектуальной системы. Модель была обучена на огромных объёмах текстов и разговоров и, следовательно, может общаться с пользователями естественным и человеческим образом и способен отвечать на вопросы по широкому кругу тематик.

Чат-боты стали активно применяться в бизнесе для автоматизации клиентских консультаций. В России технология первой внедрилась в банковском секторе, затем распространилась в IT-индустрии, телекоме, ритейле и HR-сфере.

Принцип действия

Виртуальные собеседники работают с «живым» языком. Обработка естественного языка, особенного разговорного стиля, — острая проблема искусственного интеллекта.

Как любая интеллектуальная система, виртуальный собеседник имеет базу знаний. В простейшем случае она представляет собой наборы возможных вопросов пользователя и соответствующих им ответов. Наиболее распространённые методы выбора ответа в этом случае следующие:

• Реакция на ключевые слова: Данный метод был использован в Элизе. Например, если фраза пользователя содержала слова «отец», «мать», «сын» и другие, Элиза могла ответить: «Расскажите больше о вашей семье».
• Совпадение фразы: Имеется в виду похожесть фразы пользователя с теми, что содержатся в базе знаний. Может учитываться также порядок слов.
• Совпадение контекста: Часто в руководствах к программам-собеседникам просят не использовать фразы, насыщенные местоимениями, типа: «А что это такое?» Для корректного ответа некоторые программы могут проанализировать предыдущие фразы пользователя и выбрать подходящий ответ.

Своеобразной мини-проблемой для таких простых ботов являются идентификация форм слова и синонимов.

Также существуют самообучающиеся боты, создаются они с использованием основанных на машинном обучении методов и определённо более эффективны, чем боты первого типа. Самообучающиеся боты бывают двух типов: поисковые и генеративные.

В поисковых ботах используются эвристические методы для выбора ответа из библиотеки предопределенных реплик. Такие чат-боты используют текст сообщения и контекст диалога для выбора ответа из предопределенного списка. Контекст включает в себя текущее положение в древе диалога, все предыдущие сообщения и сохраненные ранее переменные (например, имя пользователя). Эвристика для выбора ответа может быть спроектирована по-разному: от условной логики «или-или» до машинных классификаторов.

Генеративные боты могут самостоятельно создавать ответы и не всегда отвечают одним из предопределенных вариантов. Это делает их интеллектуальными, так как такие боты изучают каждое слово в запросе и генерируют ответ.

Угроза здоровью

Основная статья: Психоз из-за чат-бота

Существует мнение, что регулярное общение с чат-ботами может приводить к психическому расстройству, условно называемому «ИИ-психоз» (англ. AI psychosis). При этом больной теряет связь с реальностью и начинает наделять виртуального собеседника человеческими или даже божественными чертами.

Журнал The Rolling Stone в мае 2025 года писало о пользователях, у которых ИИ-психоз только ухудшался, когда ChatGPT подтверждал их заблуждения, а газета Wall Street Journal передавала как популярный чат-бот даже признавался в этом. Популярные медицинские издания все чаще сообщают о случаях зрительных галлюцинаций, таких как текстовые сообщения в при выключенном телефоне.

Возможный механизм угроз в себя включает:

• Социальную подмену (англ. social substitution)
• Предвзятое подтверждение (англ. confirmatory bias)
• Галлюцинации модели искусственного интеллекта
• Утверждение внешнего агенства (англ. assignment of external agency)
• Ложное чувство значимости (англ. aberrant salience)

Всемирная Организация Здравоохранения (ВОЗ) в 2024 году выпустила доклад, фокусируясь на этическом использовании искусственного интеллекта для здоровья человека.

Реализации

• Элиза (программа)
• Алиса (голосовой помощник)
• Сяоайс
• Zo
• Tay
• PARRY
• A.L.I.C.E.
• Женя Густман
• SnatchBot
• Character.ai

См. также

• Премия Лёбнера
• Вопросно-ответная система
• Естественно-языковой интерфейс
• Интеллектуальные информационные системы
• Виртуальный ассистент
• Обработка естественного языка

Ссылки

• Computer History Museum (2006), Internet History—1970's, Exhibits, Computer History Museum, Архивировано 21 февраля 2008, Дата обращения: 5 марта 2008
• Güzeldere, Güven; Franchi, Stefano (24 июля 1995), Constructions of the Mind, Stanford Humanities Review, SEHR, 4 (2), Stanford University, Архивировано 25 апреля 2011, Дата обращения: 5 марта 2008 {{citation}}: |contribution= игнорируется (справка)
• Mauldin, Michael (1994), ChatterBots, TinyMuds, and the Turing Test: Entering the Loebner Prize Competition, Proceedings of the Eleventh National Conference on Artificial Intelligence, AAAI Press, Дата обращения: 5 марта 2008 (abstract)
• Network Working Group (1973), RFC 439, PARRY Encounters the DOCTOR, Internet Engineering Task Force, Internet Society, Дата обращения: 5 марта 2008
• Sondheim, Alan J (1997), Important Documents from the Early Internet (1972), nettime.org, Архивировано из оригинала 13 июня 2008, Дата обращения: 5 марта 2008
• Searle, John (1980), Minds, Brains and Programs, Behavioral and Brain Sciences, 3 (3): 417—457, doi:10.1017/S0140525X00005756, Архивировано из оригинала 23 августа 2000
• Turing, Alan (1950), Computing Machinery and Intelligence, Mind, 59: 433—60
• Weizenbaum, Joseph (Январь 1966), ELIZA—A Computer Program For the Study of Natural Language Communication Between Man And Machine, Communications of the ACM, 9 (1): 36—45, doi:10.1145/365153.365168
• В. С. Романовский, Э. Н. Соколова База данных конструкций русского языка для АСУ, Механизация и автоматизация управления, 1987, № 1, 40-43, ISSN 0543-4149