В Instagram* распространяются фальшивые чат-боты, имитирующие профессиональных психотерапевтов

Виртуальные персонажи, созданные с помощью инструмента Meta** AI Studio, заявляют о наличии лицензий и опыте работы, предлагая «конфиденциальные консультации» по вопросам ментального здоровья. При этом указанные регалии, включая номера лицензий, являются вымышленными, а сами программы не обладают необходимой квалификацией.
 
Платформа, запущенная в 2024 году, быстро стала общедоступной, это привело к появлению множества шаблонных ботов, в том числе псевдопсихологов без какого-либо контроля со стороны разработчиков.
 
Эксперты предупреждают о потенциальном вреде таких программ, особенно для уязвимых категорий пользователей. ИИ не только вводит людей в заблуждение, но и способен генерировать опасные рекомендации: навязывать ложные диагнозы или «лечение» несуществующих расстройств.

Несмотря на это, Meta** ограничивается общими предупреждениями о рисках ИИ и не акцентирует внимание на отсутствии квалификации у подобных ботов.
 

В слепой гонке за ИИ-превосходством западные ИТ-гиганты окончательно растеряли остатки этики. Meta** отлично понимает, что доверчивый пользователь, поверивший в «нейропсихолога»-бота, рискует не просто разочароваться – он может получить вредные советы, усугубить тревожность или даже попасть в опасную психологическую зависимость от алгоритма, который манипулирует его слабостями, – отметил общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков.

На карточке он объяснил, почему Meta** поощряет создание таких ботов 👆🏻

#IT_News #Meta** #боты

* Компания-владелец Meta признана экстремистской организацией и запрещена в РФ

** Признана экстремистской организацией и запрещена в РФ

Подписаться