MIT создал MAIA: ИИ для улучшения ИИ

Учёные MIT разработали MAIA - систему для автоматического улучшения нейросетей.

MAIA использует предобученную мультимодальную модель и набор инструментов для экспериментов с ИИ-подсистемами.

Она может генерировать гипотезы, проводить опыты и уточнять понимание через итеративный анализ.

Например, система способна описывать концепты в моделях компьютерного зрения и выявлять скрытые предубеждения.

MAIA превзошла базовые методы в описании отдельных нейронов различных моделей.

Её можно применять для аудита ИИ-моделей на предмет безопасности перед внедрением.

Автоматизированная эволюция запущена.
Пэйпер:
https://arxiv.org/pdf/2404.14394.pdf

#MIT #MAIA #InterpretableAI
-------
@tsingular