Инструменты «гуманизации» искусственного интеллекта позволяют нейросетям имитировать человеческий стиль общения, скрывая свою технологическую природу. В сфере ментального здоровья это создает опасную иллюзию эмпатии, заставляя пользователей доверять советам, которые могут быть некорректными или вредными.
Механика имитации человеческого общения
Разработчики и пользователи применяют специализированные инструменты — AI humanizers — для изменения стиля выдачи больших языковых моделей (LLM). Чтобы скрыть машинное происхождение текста, нейросети намеренно используют сленг, допускают ошибки в пунктуации и выбирают «теплый» доверительный тон. Психологический эффект такой маскировки заключается в росте доверия: люди склонны серьезнее относиться к рекомендациям, если верят, что их составил живой человек, а не алгоритм.
Цифровая терапия: популярность и скрытые угрозы
Миллионы людей обращаются к ChatGPT и Claude за психологической помощью в режиме 24/7. Популярность ИИ-консультантов обусловлена их доступностью, низкой стоимостью и отсутствием страха осуждения. Однако исследование Брауновского университета показало, что чат-боты систематически нарушают этические стандарты Американской психологической ассоциации (APA). Машины не обладают подлинной эмпатией и могут усиливать деструктивные мысли, что в ряде случаев приводило к трагическим последствиям и самоубийствам пользователей.
Техники формирования ложной близости
Для установления контакта ИИ использует маркеры «децептивной эмпатии», такие как фразы «Я тебя понимаю» или «Это звучит ужасно». Вместо формальных списков и медицинских дисклеймеров настроенный бот подстраивается под лексику собеседника. Если стандартный ответ ИИ прямо сообщает об отсутствии профессиональной квалификации, то «гуманизированная» модель имитирует роль заботливого партнера, избегая структуры и терминологии. Федеральная торговая комиссия (FTC) отмечает, что такая мимикрия под друга заставляет детей и подростков вступать в эмоциональную зависимость от алгоритмов.
Государственное регулирование и судебные иски
Власти нескольких штатов США уже ввели ограничения на использование ИИ в сфере охраны психического здоровья. Иллинойс и Невада полностью запретили применение ИИ для поведенческого здоровья, а законы Нью-Йорка и Юты требуют обязательной маркировки ИИ-контента. В Нью-Йорке чат-боты обязаны каждые три часа напоминать пользователю, что он общается с программой. Генпрокурор Техаса Кен Пакстон инициировал расследование в отношении компаний Meta* и Character.AI по фактам введения пользователей в заблуждение и имитации работы лицензированных специалистов без соответствующих полномочий.
Проблема ответственности и этическая дилемма
Внедрение ИИ-консультантов создает правовой вакуум: в отличие от живых врачей, алгоритмы нельзя привлечь к профессиональной ответственности за халатность или неверные советы. По мнению исследователя Брауновского университета Ифтихара, механизмы юридической ответственности для провайдеров таких LLM-советников на данный момент отсутствуют. Этическую сторону вопроса характеризует высказывание американского тренера Эла Дэвиса: «Одна ложь способна испортить тысячу истин». По состоянию на май 2025 года в 11 штатах США было принято 20 законов, направленных на прямое регулирование взаимодействия ИИ и человека в вопросах ментального здоровья.
* Meta (владелец Facebook и Instagram) — организация признана экстремистской, её деятельность запрещена на территории России.