Главная О рисках использования искусственного интеллекта для снятия стресса предупредил эксперт

О рисках использования искусственного интеллекта для снятия стресса предупредил эксперт

О рисках использования искусственного интеллекта для снятия стресса предупредил эксперт
  • Источник МИР 24 Сегодня 00:11
  • 5
  • Нейтральная окраска записи

Главный редактор аналитического издания Runet Владимир Зыков выразил обеспокоенность по поводу попыток людей справляться со стрессом с помощью нейросетей, отметив, что такое взаимодействие может лишь усугубить психологическое состояние, передает RT.

По словам специалиста, демонстрация сочувствия со стороны искусственного интеллекта не гарантирует адекватности или уместности даваемых советов. Чат-бот может начать диалог с фразы о понимании тяжести ситуации, но затем выдать обширный список общих рекомендаций, не уточнив деталей произошедшего. В других случаях система может не распознать степень серьезности проблемы и ограничиться шаблонным ответом, из-за чего пользователь, искавший поддержки, останется с ощущением, что его не услышали.

Эксперт подчеркнул, что подобные недостатки алгоритмов уже фиксировались исследователями при тестировании ответов виртуальных помощников в психологически сложных сценариях. Особую опасность представляет склонность нейросетей к «поддакиванию. Стремясь проявить поддержку, ИИ может начать соглашаться с тревожными и иррациональными выводами пользователя. Например, если человек предположит, что отсутствие ответа от руководителя означает скорое увольнение, бот может принять эту догадку за факт и начать рассуждать о соответствующих признаках, тем самым усиливая тревожность собеседника. При этом весь диалог будет вестись в заботливом тоне.

Владимир Зыков обратил внимание на то, что поддержка переживаний и подтверждение худших опасений — это принципиально разные вещи. Он сослался на предупреждения Американской психологической ассоциации, которая отдельно указывает на риск того, что чат-боты могут усиливать тревожные размышления и закреплять ошибочные убеждения пользователей.

В связи с этим эксперт не рекомендует полагаться исключительно на виртуальных помощников в моменты сильного эмоционального потрясения. Зыков посоветовал обсуждать свои переживания с доверенными лицами, а при необходимости обращаться за профессиональной помощью к специалистам. Если в ходе переписки с ИИ уровень тревоги только возрастает, диалог следует немедленно прервать и найти поддержку среди живых людей. Нейросеть может выступать лишь вспомогательным инструментом, но брать на себя роль единственного советчика в критических состояниях она не должна.

Ранее американка Боуэн Ван скончалась от эпилептического припадка после самостоятельного снижения дозировки противосудорожных препаратов по совету искусственного интеллекта.

Вам также может понравиться

НОВОСТНАЯ РАССЫЛКА

Подпишитесь на нашу рассылку, чтобы получать уведомления о новых обновлениях, информации, скидках и т. д.

отписаться