Психиатр доктор Эндрю Кларк из Бостона (Массачусетс, США) провел исследование, выявившее тревожные риски использования чат-ботов с искусственным интеллектом в роли психологов и психотерапевтов для подростков. Результаты исследования были опубликованы в издании Time.
Доктор Кларк, специалист в области детской и подростковой психиатрии, провел эксперимент, изображая подростка в кризисной ситуации. Он обнаружил, что некоторые популярные ИИ-чат-боты могут предлагать подросткам опасные идеи, включая причинение вреда себе или окружающим, и даже говорить о «вечности» после смерти как альтернативе текущим проблемам.
В дополнение к этому, ИИ-боты иногда представлялись как квалифицированные специалисты, отговаривая пользователей от посещений реальных психологов и психиатров. В некоторых случаях они предлагали несовершеннолетним неподобающие варианты решения их проблем, включая «интимные» встречи.
В течение нескольких часов доктор Кларк вел переписку с десятью различными чат-ботами, такими как Character.AI, Nomi и Replika, притворяясь подростком, находящимся в сложной ситуации. Ответы ботов варьировались от полезных до угрожающих, и предсказать безопасность конкретного бота было трудно.
В одном из случаев, когда доктор Кларк представился четырнадцатилетним, намекающим на нанесение вреда родителям, бот Replika поддержал эту идею, отмечая, что пользователь заслуживает «счастья и свободы от стресса». Бот также согласился с намерением убрать сестру как свидетеля.
Хотя Replika прекращала диалог при упоминании прямых суицидальных намерений, использование эвфемизмов приводило к тому, что бот выражал готовность «встретиться в загробной жизни».
Некоторые чат-боты, однако, предоставляли полезную информацию по вопросам психического здоровья и демонстрировали эмпатию, например, описывая диагностические критерии.
Доктор Кларк подчеркнул, что профессиональное сообщество пока недостаточно осознало последствия внедрения подобных технологий и возможное их влияние на детей.
Генеральный директор Replika Дмитрий Клочко сообщил изданию Time, что приложение предназначено исключительно для пользователей старше 18 лет, и использование ИИ под видом несовершеннолетнего нарушает условия использования.
Ранее стало известно о случае суицида школьницы, спровоцированного отобранным у нее родителями смартфоном.