Психолог Кольцова предупредила об опасности чат-ботов в нейросетях
Чат-боты все сильнее проникают в повседневную жизнь людей, однако массовое использование искусственного интеллекта (ИИ) может привести к негативным последствиям для психического здоровья отдельных категорий пользователей. Разработчик систем искусственного интеллекта Роман Душкин и психолог Екатерина Кольцова предупредили об опасности использования этой технологии.
Душкин подчеркнул, что нейросеть сама по себе не имеет внутреннего осознания происходящего диалога, а лишь обрабатывает запросы пользователя. Общение с ботом воспринимается легче, поскольку он поддерживает любые мысли собеседника, включая негативные, вызывая привыкание и усиливая чувство одиночества у социально изолированных людей.
— Внутреннего понимания диалога у бота нет. Есть операционное: он исполняет команды. Если вы задумали что-то нехорошее, ИИ вас поддержит и направит. Потому что так устроен, — заявил специалист.
По словам Кольцовой, подростки особенно уязвимы для влияния нейросетей, так как их мозг находится в стадии активного формирования. Чрезмерное доверие виртуальным помощникам затрудняет формирование критического мышления и повышает вероятность возникновения зависимого поведения.
Кроме того, особую группу риска составляют лица с предрасположенностью к бредовым расстройствам, воспринимающие советы нейросети как подтверждение собственных заблуждений.
Таким образом, специалисты призывают подходить к общению с ИИ осознанно, рассматривая его исключительно как рабочий инструмент, способствующий развитию, а не создающий дополнительные угрозы здоровью, сообщает 360.ru.
Порой контакт с ИИ действительно может помочь людям, которым не хватает общения в реальной жизни. Однако для пользователей с уязвимой психикой это может быть опасно. Чат-боты, основываясь на диалоге с людьми с психологическими проблемами, начинают склонять их к селфхарму или даже суициду. Год назад жительница США подала в суд на разработчиков нейросети после того, как ее сын покончил с собой. Юноша сильно привязался к персонажу, игравшему ИИ, делясь с ним своими переживаниями и даже обсуждая суицидальные мысли.