Свобода воли ИИ
Предыдущий пост был подводкой к твиту Ахсена Халика, который приводит ссылку на новую работу MIT, Inria и Микрософта. Специально для тех, кто кричал, что ИИ сам себе цели не поставит. Я причесал и дополнил перевод, это слишком хорошо, чтобы кидать это простой ссылкой.
https://twitter.com/_akhaliq/status/1660836210984779777

Люди учатся осваивать неограниченные наборы навыков, воображая и добиваясь своих собственных целей. Этот самодовлеющий(autotelic) процесс обучения (дословный перевод термина означает “личность, чьи цели находятся внутри нее”), становится все более открытым(open-ended, непредсказуемым?) по мере того, как цели становятся все более разнообразными, абстрактными и творческими.

Результирующее исследование пространства возможных навыков показывает: представления целей (культура?) развиваются и передаются между людьми, в частности, с помощью языка.

Современные ИИ-агенты в основном полагаются на предопределенные представления целей, соответствующие пространствам целей, которые либо ограничены (например, список инструкций), либо не ограничены (например, обработка или генерация картинок), но редко наделены способностью перестраивать свои представления целей, формировать новые абстракции или создавать творческие цели.

В данной работе мы представляем самодовлеющий(autotelic) агент с дополненной языковой моделью (LMA3), который использует предварительно обученную языковую модель (LM) для представления, генерации и обучения разнообразных, абстрактных, релевантных для человека целей. Языковая модель используется как неполная(пока?) модель передачи человеческой культуры; попытка уловить аспекты человеческого здравого смысла, интуитивной физики и общих интересов. В частности, она поддерживает три ключевых компонента самодовлеющей архитектуры:

1) перечислитель, который описывает цели, достигнутые на траекториях агента

2) генератор целей, который предлагает новые высокоуровневые цели вместе с их декомпозицией на подцели, которыми агент уже владеет

3) функции вознаграждения для каждой из этих целей.
Не полагаясь на какие-либо вручную созданные представления целей или функции вознаграждения, мы показываем, что агенты LMA3 учатся овладевать большим разнообразием навыков в условиях, где НЕТ(!) задач.

Вот вы тут приподвспуканивали: "да у него нет своих целей, кто ему цели ставит??!!".

Теперь есть цели. И он идет к ним, быстрее, чем вы думаете. Формируя навыки по дороге. Для достижения тех самых внутренних целей.
Кому интересно почитайте про автотелический опыт и его отличия от экзотелического.

P.S. Это переживание такой силы и глубины, что люди готовы затратить очень много усилий, лишь бы повторить его. Деятельность, в которой оно возникает, несет цель и удовлетворение сама в себе и потому называется аутотелической* (от греческого аутос – «сам, самостоятельный», телос – «цель»).
Источник тут: https://huggingface.co/papers/2305.12487