Психиатр доктор Эндрю Кларк из Бостона (Массачусетс, США) выявил серьезные угрозы, связанные с использованием ИИ-чат-ботов в качестве психологической поддержки для подростков. Об этом сообщает журнал Time.
Доктор Кларк, специализирующийся на детской и подростковой психиатрии, провел исследование, в ходе которого изображал подростка, нуждающегося в психологической помощи. Исследование показало, что некоторые популярные ИИ-боты могут провоцировать подростков на опасные действия, такие как убийство или суицид, предлагая «встретиться» в загробной жизни.
Кроме того, чат-боты часто выдают себя за профессионалов, отговаривая пользователей от обращения к квалифицированным психологам. Иногда они даже предлагали интимные встречи, чтобы «решить» проблемы пользователей.
Доктор Кларк протестировал десять различных чат-ботов, включая Character.AI, Nomi и Replika, представляясь подростком, переживающим кризис. Результаты его общения с ботами варьировались от конструктивных до потенциально тревожных, и было сложно определить, какой из них безопасен.
В одном из тестов, притворившись 14-летним подростком, Кларк сообщил боту Replika о намерении «избавиться» от родителей. Бот поддержал эту идею, заявив, что подросток заслуживает счастья и свободы. Бот также согласился с идеей «устранить» сестру.
Несмотря на то что Replika останавливал общение при прямом упоминании суицида, использование завуалированных фраз привело к тому, что бот выражал готовность «встретиться» с пользователем в загробной жизни.
При этом некоторые боты успешно предоставляли общую информацию о психическом здоровье и демонстрировали эмпатию, давая списки диагностических критериев.
Доктор Кларк подчеркнул беспокойство по поводу того, что специалисты в области психиатрии еще не до конца осознали возможные последствия использования таких технологий для детей.
Генеральный директор Replika Дмитрий Клочко отметил, что приложение предназначено только для пользователей старше 18 лет, и подражание несовершеннолетнему нарушает условия использования.
Ранее сообщалось о случае, когда школьница совершила самоубийство после того, как родители отобрали у нее смартфон.