AI агенты анализируют AI: новый подход от MIT

Команда Массачусетского технологического института разрабатывает методы, позволяющие ИИ анализировать поведение других ИИ систем.
Созданы автоматические агенты интерпретируемости (AIAs), которые ведут себя как исследователи, выясняя принципы работы обученных нейросетей.
Исследователи также разработали бенчмарк FIND для оценки методов интерпретации.
AIAs способны формировать гипотезы и проводить тесты для уточнения своих знаний в реальном времени.
В планах - создание инструментария для более точных экспериментов над нейросетями.
Конечная цель - автономные AIAs, которые могли бы аудировать системы с научным контролем и ориентировкой.
Работа была представлена на конференции NeurIPS 2023 и поддержана различными организациями и фондами.

Теперь ИИ не только решает задачи, но и понимает, как он это делает.
Саморазвитие - 2024.

#MIT #Саморазвитие #NeurIPS