🧠 Как работают большие языковые модели (LLM): объяснение без математики

Новая статья в блоге Miguel Grinberg рассказывает основы работы LLM для новичков в области. Автор старается избегать математики в объяснениях, но зато иллюстрирует концепции рабочим кодом на Python.

Из статьи вы узнаете:
▫️что такое токены;
▫️как модель делает предсказания;
▫️особенности архитектуры Transformers.

🔗 Читать статью

⚡Zeus — инструмент для измерения количества потребляемой DL-моделями энергии

Глубокое обучение требует много энергии. Например, на обучение одной языковой модели с 200 млрд параметров на AWS p4d инстансах уходит столько же энергии, сколько бы хватило на обеспечение более тысячи средних американских домохозяйств в течение года.

Zeus — это опенсорсный инструмент, который позволяет измерять и оптимизировать потребление энергии при выполнении задач глубокого обучения.

🔗 Здесь вы можете найти примеры кода Zeus
🔗 А это ссылка на репозиторий

👆Инженер-программист наблюдает за тем, как дата-сайентист пишет код👆

👆Ловите бинго Python-разработчика👆

Авторские версии бинго приветствуются

📹 Почему нейросети любят Softmax?

Функция Softmax действительно часто используется в архитектурах нейронных сетей. Она преобразует выходные значения модели в вероятности, которые в сумме не превышают единицу. Это особенно полезно в задачах классификации, где важно получить вероятностное распределение по классам.

Специалисты по DS хвалят ролик YouTube-канала Mutual Information, автор которого постарался объяснить этот феномен.

🔗 Ссылка на ролик

👥 Pramp — симулятор собеседований с реальными людьми

Если вам предстоит техническое интервью (или вы просто хотите с кем-нибудь поболтать), то Pramp — отличный выбор. Платформа назначает вам встречу со случайным человеком, с которым вы будете собеседовать друг друга на выбранную тему.

Регистрация бесплатная. Сразу после этого вам доступны 6 слотов для планирования интервью. Вот темы, на которые вы можете провести собеседование:

🔹прикладной Data Science (конечно, иначе мы бы не сделали этот пост);
🔹поведенческое интервью;
🔹структуры данных и алгоритмы;
🔹системный дизайн;
🔹фронтенд.

Нужно быть готовым к тому, что собеседование будет проходить на английском, так как это международная платформа. Это обстоятельство может быть и плюсом, и минусом.

🔗 Ссылка на Pramp

🔍 Model Explorer — визуализация архитектуры языковых моделей (LLM)

Этот инструмент помогает понимать, отлаживать и оптимизировать модели машинного обучения. Он позволяет визуализировать большие графы в интуитивной иерархической форме. Впрочем, как отмечают создатели Model Explorer, инструмент хорошо работает и для небольших моделей. Помимо прочего, это можно использовать и для подготовки презентаций (просто посмотрите на прикреплённое к посту видео).

🔗 Ссылка на GitHub-репозиторий Model Explorer
🔗 Читать о возможностях инструмента подробнее

🤔 Как попасть в Data Science, если у вас нет выдающегося резюме?

Старший специалист Elsevier и автор Telegram-канала New Yorko Times Юрий Кашницкий дал несколько рекомендаций начинающим дата-сайентистам. Как же найти работу, если у вас нет/мало опыта?

▪️По мнению Кашницкого, самый простой способ — попробовать попасть в отрасль через знакомых.
▪️Если нетворкинг и общение с людьми — не ваше, то следует постараться набрать хоть какой-то опыт хоть где-то. Кашницкий советует искать сторонние доступные проекты. Например, у Hugging Face есть подобные. К ним может подключиться любой желающий. Кроме того, можно найти команду для прикладного проекта в рамках курса (например, подобное было в курсе ods.ai по MLOps).
▪️Если у вас нет опыта именно в Data Science, но есть опыт в разработке или аналитике, то можно попробовать поучаствовать в DS-проектах на текущей работе.
▪️Кашницкий также рекомендует хорошо оформить резюме.

По его мнению, в поиске работы не помогут набивание титулов типа Kaggle Competitions Master и получение множества сертификатов.

⭐🎤 Как не облажаться с докладом на IT-конференции

Готовитесь к докладу на IT-конференции? Не хотите оказаться в роли «того самого» докладчика, на которого все жалуются в кулуарах? Узнайте, как не облажаться и сделать свой доклад полезным и запоминающимся.

🔗 Читать статью
🔗 Зеркало