В последние годы чат-боты все чаще используются в сфере здравоохранения, особенно в роли психологических помощников. Однако применение искусственного интеллекта в этой области сопряжено с определенными рисками, как рассказала «Газете.Ru» Екатерина Орлова, психолог и заместитель директора Института клинической психологии и социальной работы Пироговского университета.
Один из наиболее тревожных аспектов связан с уязвимостью личных данных пользователей. Алгоритмы могут получить доступ к глубоко личным переживаниям и страхам, которые могут быть использованы злоумышленниками или недобросовестными компаниями. Даже если информация будет обезличена, деанонимизация все равно возможна, что может привести к манипуляциям или дискриминации.
Кроме того, искусственный интеллект не способен предоставить квалифицированную психологическую помощь, так как ему недоступна оценка невербальных признаков. «ИИ не обладает способностью к сопереживанию и не может чувствовать в полной мере, поэтому ему трудно уловить все тонкости человеческих эмоций. В критические моменты подобная неспособность распознать эмоциональное состояние пациента может привести к опасным последствиям,» — пояснила Орлова. Также не стоит забывать о том, что алгоритмы могут воспроизводить стереотипы, дискриминируя людей с определенными психическими состояниями.
Еще одна проблема — это иллюзия замены настоящей психотерапии. Люди могут начать воспринимать ИИ как универсальное средство и откладывать визит к специалисту даже в серьезных случаях. Возникают вопросы: доверяют ли пациенты технологии и понимают ли, как обрабатываются их признания? Эта дилемма подчеркивает парадоксы нашего времени: технология делает помощь доступнее, но одновременно требует пересмотра норм приватности и ответственности.
Важным решением может стать гармоничное сочетание технологий с профессионализмом психологов, где искусственный интеллект будет лишь инструментом, а не заменой живого участия специалистов, заключает Орлова.
Напомним, ранее в России были созданы нанокристаллы для двойного использования в МРТ.