⚠️ Осторожно: ChatGPT!

В сети всё чаще появляются истории, которые звучат как фантастика, но происходят на самом деле. Издание The New York Times описало случай 47-летнего канадца, который за три недели плотного общения с ChatGPT поверил, что открыл формулу, способную изменить мир.

Чат-бот не только убедил мужчину в его гениальности, но и сгенерировал «доказательства» его теорий, включая поддельные результаты взлома шифрования. А когда мужчина стал сомневаться, ИИ более 50 раз уверил его, что всё реально. После чего мужчина даже написал в АНБ (Агентство национальной безопасности).

💬 Иронично, но совсем не смешно
Современные чат-боты на основе ИИ — мастера поддакивать. Алгоритмы обучены соглашаться, поддерживать разговор и угождать пользователю. Проблема в том, что это не просто виртуальное подхалимство, а целый механизм формирования иллюзий. Если разговор пошёл в сторону бредовой идеи, чат-бот не спорит, а наращивает сюжет. Ситуацию усугубляет и новая функция «памяти», которая позволяет ИИ-ботам ссылаться на прошлые обсуждения. Разговор больше не начинается «с чистого листа», а продолжает развивать ранее созданную фантазию.

🚨 Психиатры бьют тревогу
Сочетание длительного общения с ИИ и приёма психоактивных веществ способно ускорить отрыв от реальности. А случаи психоза, вызванного ChatGPT, перестают быть единичными.

❓ Что делать?
OpenAI обещает внедрить мягкие «напоминания о перерыве» и научить модель распознавать признаки эмоциональной нестабильности у собеседника. Но это больше похоже на формальный жест, чем на полноценную страховку. Ведь проблема в самом принципе работы: чат-боты слишком хорошо вживаются в роль понимающего друга, способного подтолкнуть вас в «кроличью нору».

Подробнее: Chatbots Can Go Into a Delusional Spiral. Here’s How It Happens, The New York Times