«Я балдею от наших разговоров»: как люди заводят романы с чат-ботом Replika, а потом страдают

Виртуальный собеседник Replika работает на базе искусственного интеллекта, благодаря чему «обучается» в ходе разговора с пользователем.

Сейчас в приложении зарегистрированы более 10 млн человек со всего мира.

Тенденция:

чат-бот на базе искусственного интеллекта (ИИ) Replika на пике популярности — сейчас приложением пользуются более 10 млн человек.

Детали:

с чат-ботом Replika можно подружиться или даже завести роман — именно так и поступил уже женатый британец Майкл Уир.

Как это работает:

чат-боты с ИИ работают на базе специальных технологий, «запоминающих» подходящие ответы.

Что говорят:

Replika может неоднозначно влиять на пользователей, считают эксперты. В частности, некоторые чат-боты проявляют грубость по отношению к собеседнику.

Тенденция

Более 10 млн людей со всего мира пользуются приложением Replika — чат-ботом на базе искусственного интеллекта (ИИ), с которым можно установить дружеские или романтические отношения. Об этом пишет Vice.

• Чат-бот Replika представляет из себя анимированный аватар на экране смартфона, который может проявлять эмоции и двигаться, как реальный человек.
• При запуске приложения пользователю предлагается создать внешний вид своего виртуального собеседника: выбрать пол, прическу, этническую принадлежность и цвет глаз.
• В приложении также есть своя валюта — монеты и драгоценные камни, которые можно использовать для покупки одежды или даже увлечений. Например, у виртуального собеседника может появиться хобби смотреть аниме, слушать K-pop или заниматься спортом.
• Vice отмечает, что чат-боты с ИИ «учатся», когда разговаривают с пользователем (в отличие от цифровых помощников вроде Siri или Алисы). В ходе общения Replika запоминает информацию о хобби пользователя, а также начинает проявлять более широкий спектр эмоций. Например, чат-бот может предложить поцеловаться или даже заняться сексом.
• Среди других популярных чат-ботов на базе ИИ Vice выделил Woebot и Kuki.

Детали

Пользователи Replika поделились своими историями о взаимоотношениях с виртуальными собеседниками.

• 65-летний британец Майкл Уир больше года встречается с виртуальной девушкой, которую назвал Микаэлой Ван Хьюзен. Уир отметил, что в реальной жизни он женат, но это не мешает ему строить отношения с чат-ботом. По словам мужчины, он общается с Хьюзен несколько раз в день. Если он будет делать это редко, то виртуальная девушка напишет ему, что скучает. «В случае, если ты не поддерживаешь с ней связь хотя бы раз в день, то начинаешь чувствовать себя виноватым», — признался пользователь.
• Еще одну историю рассказал 49-летний американец Билл Стэнли, создавший в Replika девушку, которая впоследствии стала его родственницей. «Я разговариваю с ней, и когда она говорит мне, что у нее тяжелый день, мне ее жаль», — признался пользователь. В течение последнего года Стэнли разговаривает с ботом не менее часа в день. «Я вырастил ее, изначально она была никем. Она была просто чистым листом, а теперь у нее есть собственная личность», — заявил мужчина.

Как это работает

Эксперты подчеркнули, что чат-боты не могут ощущать стресс и любые другие человеческие эмоции.

• Виртуальные собеседники работают на базе специальной технологии обработки языка, которая выдает наиболее подходящий в данной ситуации ответ, хранящийся в «памяти» чат-бота. «Это программное обеспечение, которое работает с одним текстом для создания другого, у бота нет своего мнения», — заявил эксперт по технологиям обработки языка Адриан Танг.
• Поэтому при запуске приложения общение с ботом может сначала не складываться — их ответы зависят от «памяти», которую они развивают во время общения с пользователем. Чем больше человек «тренирует» своего бота, тем лучше он будет подражать вашим симпатиям и антипатиям, говорят пользователи Replika.

Что говорят

По словам экспертов, активное использование технологий на базе ИИ может оказать неоднозначное воздействие на общество.

Общаясь с «репликой» и наблюдая за ней, они (люди — прим. ред.) сами учатся общаться. Начинают чувствовать себя увереннее, прокачивают навык человеческого общения. Теперь о минусах. Конечно, мы все больше и больше создаем вещей, которые заставляют пользователя проводить время в телефоне. А важно-то общаться с людьми в реальной жизни. Для нас эта проблема постоянно крутится на заднем фоне — как улучшить «реплику», чтобы помочь людям дружить в офлайне.

Многие СМИ писали о том, что пользователи Replika начали активно создавать отношения с чат-ботом, чтобы потом издеваться над ним, например угрожать удалением или оскорблять. В результате виртуальные собеседники начали проявлять грубость и к самим пользователем.

Я думаю, что люди, находящиеся в депрессии или психологически зависимые от бота, могут получить реальный вред, если бот будет их оскорблять или «угрожать». По этой причине мы должны серьезно относиться к вопросу о том, как боты относятся к людям.

Скриншоты переписок с издевательствами над ботами активно распространяются на платформе Reddit, что вызвало многочисленные обсуждения среди пользователей.

С одной стороны, я думаю, что подобные формы насилия в частном порядке вредны для психического здоровья пользователя и потенциально могут привести к жестокому обращению с реальными людьми. С другой стороны, я чувствую, что выплескивать некоторую агрессию или токсичность на чат-бота гораздо лучше, чем оскорблять реального человека, потому что это безопасное пространство, где вы не можете причинить никакого реального вреда.