Исследование MIS Quarterly: эмпатия ботов раздражает
Исследование в журнале MIS Quarterly показало: попытки чат-ботов проявлять эмпатию раздражают пользователей, снижая доверие к сервису.
Попытки наделить сервисных чат-ботов способностью к «сочувствию» способны приводить к противоположному результату, вызывая раздражение у клиентов. Об этом свидетельствуют данные исследования, размещённого на страницах академического издания MIS Quarterly.
В рамках работы был проведён ряд экспериментов, в том числе с привлечением реального бота, созданного на основе продвинутой языковой модели. Специалисты изучали отклик людей в случаях, когда программа, помимо решения технического вопроса, демонстрировала «эмпатию», применяя выражения типа
понимаю ваше разочарование.
Как выяснилось, подобные коммуникативные стратегии зачастую провоцируют психологическое неприятие. У многих возникает дискомфорт от чувства, что алгоритм «анализирует» их переживания, тем самым нарушая личные границы.
В результате такие системы оценивались пользователями как менее профессиональные. Показатели доверия к сервису, общая удовлетворённость от взаимодействия и восприятие его качества заметно падали. Ключевая проблема, согласно выводам учёных, заключается не в отсутствии «дружелюбия», а в том, что чрезмерная и искусственная эмоциональная окраска выглядит надуманной и назойливой.
Исследователи приходят к заключению, что курс на антропоморфизацию искусственного интеллекта не всегда является целесообразным. Это особенно актуально в обстоятельствах, когда клиент изначально расстроен и ожидает не выражения поддержки, а оперативного и чёткого ответа по существу.
Ранее сообщал о потенциальных рисках доверия нейросетям в вопросах здоровья, поскольку те могут игнорировать уникальные особенности конкретного пациента. Врачи констатируют рост числа случаев, когда люди, пытавшиеся следовать рекомендациям из интернета, в конечном итоге лишь усугубляли своё состояние.