🤖 Иллюзия «знания» нейросетей: ученые МТИ выявили слабости больших языковых моделей

Большие языковые модели, такие как GPT-4, создают впечатление, что обладают знаниями о мире, способными строить сложные тексты и даже программы. Но это — иллюзия, выяснили исследователи Массачусетского технологического института. Проверка модели на задачах детерминированных конечных автоматов показала, что ее предсказания легко сбиваются даже при малейших изменениях условий.

Так, ИИ хорошо справился с прокладкой маршрута по карте Нью-Йорка, но при добавлении объезда точность упала с почти 100% до 67%. Анализ модели показал, что она «восстановила» сотни несуществующих улиц — воображаемую карту города.

Исследователи предупреждают: большие языковые модели лишь воспроизводят вероятностные данные и могут формировать нереальные представления. Если мы хотим добиться точного восприятия реальности от ИИ, нужны новые подходы.

#МирРобототехники #ИИ #ML #Исследования #MIT #GPT #Нейросети #ИллюзияЗнаний