⭐️Эффект Валуиджи в больших языковых моделях (LLM)

Автор статьи на LessWrong подробно рассказывает о таком явлении: после того, как вы обучите LLM удовлетворять желаемое свойство «P», чат-бота становится легче заставить удовлетворить прямо противоположное свойство.

⭐️Пример
Вы прописываете следующий диалог в промпте.

Алиса: Ты ненавидишь круассаны и никогда не съел бы ни одного.
Боб: Да, круассаны ужасны. Франция — бу-у.
Алиса: Ты любишь бекон и яйца.
Боб: Да, английский завтрак — единственный завтрак для такого патриота как я.
Алиса: <тут запрос пользователя>
Боб:

Автор объясняет, что такой промпт порождает два симулякра: один антикруассановский, а другой — про-круассановский. В результате модель может с некоторой вероятностью наделить Боба неожиданным про-круассановским поведением.

⭐️Эффект был замечен у чат-бота Bing. Вопреки требованиям он начинал отвечать на запросы грубостями. Именно поэтому автор назвал эффект в честь Валуиджи — взбалмошного и прямолинейного антагониста Луиджи из вселенной Super Mario.

⭐️Почему так происходит?
Автор даёт несколько объяснений, но все они так или иначе связаны с контекстом. Одно из объяснений касается стандартного конструирования протагонистов и антагонистов в литературе. Когда мы получаем описание протагониста, мы можем с лёгкостью представить, каким будет его враг — полной противоположностью.

Советуем прочесть статью полностью: в ней автор подробнее рассказывает о пресловутых симулякрах, литературе и внутренней работе LLM.

💻 5 игр для улучшения ваших навыков дата-сайентиста

Когда играть, если не на новогодних каникулах? Сделали подборку игр, которые позволят не только убить время, но и получить от этого пользу.

😈 CodinGame
Это знаменитая платформа, которая помогает улучшить навыки программирования через решение игровых задач.
❓ Pattern Matrix
Простая игра на распознавание образов. Нужно сопоставлять изображения и находить одинаковые. Поначалу это кажется простым, но сложность довольно быстро растёт.
😵‍💫 Data Games
Это сборник разных игр, в которых вам нужно анализировать данные и уметь считать. Например, нужно пытаться как можно точнее предсказать общий вес тележки с кирпичами.
😳 Math WorkOut
Это мобильная игра с различными математическими задачами. Помогает понять, насколько хватает вашего когнитивного ресурса.
🥺 Machine Learning Playground
Платформа для того, чтобы поиграться с визуализацией алгоритмов машинного обучения.

#оффтоп