В последнее время все чаще можно услышать о практике применения чат-ботов в области здравоохранения, особенно популярно использовать их в качестве психологов.
Как передает Day.Az, однако, как объяснила "Газете.Ru" психолог, заместитель директора Института клинической психологии и социальной работы Пироговского Университета Екатерина Орлова, такое использование ИИ связано с рисками.
"Один из самых тревожных аспектов - уязвимость личных данных пациентов. Так, самые сокровенные переживания, страхи и травматические ситуации человека, доверенные алгоритму, могут оказаться в руках злоумышленников или даже недобросовестных корпораций. Даже обезличенная информация порой может поддаваться деанонимизации, превращаясь в инструмент манипуляции или дискриминации", - отметила Орлова.
Кроме того, ИИ не сможет оказать квалифицированную психологическую помощь человеку, так как не может оценить невербальные проявления.
"ИИ не чувствует, не сопереживает по-настоящему, и, как следствие, не улавливает тончайшие нюансы человеческих эмоций. Так, если в критические моменты эмоциональной уязвимости обратившегося пользователя искусственный интеллект не распознает отчаяние пациента или, того хуже, даст опасный совет, то кто будет отвечать за последствия? Алгоритмы, "прошитые" в искусственном интеллекте, также не лишены предвзятости, - они учатся на данных, созданных людьми, а значит, могут неосознанно воспроизводить стереотипы, дискриминируя определенные группы лиц или дисфункциональные психические состояния", - добавила специалист.
Еще одна опасность, связанные с использованием искусственного интеллекта в практике психологического консультирования - иллюзия замены.
"Человек может начать воспринимать искусственный интеллект как панацею, откладывая визит к живому специалисту даже в серьезных случаях. А где границы доверия? Понимают ли пациенты, как именно используются их слова, жалобы, самые уязвимые признания? В этом и заключается парадокс технологического прогресса: с одной стороны, искусственный интеллект делает помощь доступнее, с другой - ставит нас перед необходимостью пересмотреть нормы приватности, ответственности и самой человечности в терапии. Возможно, оптимальный путь - не противопоставление, а гармоничное сочетание искусственного интеллекта и профессионализма специалистов психологов и психотерапевтов, где технологии служат инструментом, но не заменяют живое участие", - заключила психолог.
