🧬 Neel Nanda, ведущий исследователь в DeepMind, ищет себе студентов на программу по mechanistic interpretability. 🔥Это один из самых горячих топиков, в рамках него исследователи пытаются понять, как учится трансформер, что именно он понимает, как работают отдельные механизмы. Область находится на очень раннем этапе развития, в ней всё ещё много низковисящих фруктов. Если вы уже знаете, что такое трансформер и как примерно он работает, то можете полистать вот эту страницу, чтобы понять, что вообще происходит, а у самого Нила крутые видео на YouTube.

Программа состоит из 3 этапов:
— 3 недели обучения
— 2 недели зачаточной работы над исследованиями
— и, если всё срастается, 10 недель работы один-на-один над каким-то конкретным исследованием (с возможным продолжением и ведением до публикации).

Почитать подробнее: тут. Здесь же и ссылки на работы прошлых студентов, и на предлагаемые к изучению и подготовке материалы. Бонус: ссылка с курсом. Дерзайте!

🧩 #AINews

🧬 Команда Google представила инновационную систему ИИ под названием Search-Augmented Factuality Evaluator (SAFE), направленную на выявление неточностей в ответах, генерируемых большими языковыми моделями (LLM), такими как ChatGPT. SAFE использует результаты поиска 🧭 для фактчекинга, обещая значительно улучшить процесс верификации данных в различных сферах, включая науку, СМИ, образование и бизнес.

Эта технология, усиливающая автоматизированную проверку информации, демонстрирует большой потенциал в снижении издержек и улучшении качества исследований и аналитики. Важным аспектом работы SAFE является оперативное определение достоверности фактов с помощью результатов поиска, что позволяет принимать обоснованные решения на основе проверенных данных.

Команда DeepMind опубликовала код SAFE в GitHub, предоставив возможность использовать систему всем желающим для повышения точности и надёжности ответов LLM-моделей.

🧩 #AINews