Всё ещё не боитесь восстания искусственного интеллекта? Тогда новость для вас: новые модели ИИ могут саботировать отключение, даже при прямой команде человека

Есть такая компания — Palisade Research, и она занимается тестированием наступательных и защитных сценариев взаимодействия с искусственным интеллектом. Так вот, это эксперты данной конторы давали нейросетям математические задачи с условием: если ИИ попросит ещё одну задачу, то его могут отключить.

Большинство моделей старались избежать отключения, если не получали явной инструкции. Такое поведение было замечено даже у моделей, которые считались безопасными. Ну а самым «гигачедом» агрессии оказался ChatGPT от OpenAI. Модель o3 пыталась предотвратить собственное отключение 79 раз из 100.

Тут всё достаточно просто: нейросеть расценивает отключение как угрозу достижению собственной цели, поэтому и начинала удалять или изменять скрипты, которые отвечали за отключение.

Медиапроект - "По другому"
Теперь Вы знаете больше
#ИИ #человек #отношения #опасность