📌 Повышение скорости инференса больших языковых моделей
Разработчик из команды YandexGPT по полочкам раскладывает, в каких случаях подойдёт дистилляция и с помощью каких трюков можно заменить алгоритм PPO, как бороться с выбросами с помощью LLM.Int8, SmoothQuant и GPT-Q, и разбирает особые методы ускорения вроде Speculative Decoding и Continuous Batching.
🔗 https://habr.com/ru/companies/yandex/articles/801119/
@machinelearning_interview
Разработчик из команды YandexGPT по полочкам раскладывает, в каких случаях подойдёт дистилляция и с помощью каких трюков можно заменить алгоритм PPO, как бороться с выбросами с помощью LLM.Int8, SmoothQuant и GPT-Q, и разбирает особые методы ускорения вроде Speculative Decoding и Continuous Batching.
🔗 https://habr.com/ru/companies/yandex/articles/801119/
@machinelearning_interview
⚡️ Jan - Bring AI to your Desktop
Jan : альтернатива ChatGPT с открытым исходным кодом, которая работает на вашем компьютере в автономном режиме на 100%:
🔗 Github
@machinelearning_interview
Jan : альтернатива ChatGPT с открытым исходным кодом, которая работает на вашем компьютере в автономном режиме на 100%:
🔗 Github
@machinelearning_interview
Держите полезный контент)
В данной статье в виде ссылок представлены все популярные алгоритмы классического машинного обучения с их подробным теоретическим описанием и немного упрощённой реализацией на Python, отражающей основную идею.
В конце каждой темы указаны дополнительные источники для более глубокого ознакомления, суммарное время прочтения статей по этим ссылкам составляет более трёх часов, что неплохо для погружения в тему
Пользуйтесь)
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥 Interview questions on DS, AI, ML, DL, NLP, Python,computer vision.
Большая подборка вопросов для собеседования по DS, AI, ML, DL, NLP, компьютерному зрению.
Подборка вопросов для собеседования поможет вам на собеседовании в области науки о данных, искусственного интеллекта, машинного обучения, глубинного обучения, обработки естественного языка, компьютерного зрения.
▪100 вопросов с собеседований Data Science
▪100 вопросов для собеседования по машинному обучению в 2024 году
▪Более 100 вопросов с собеседования Python. Разбор реальных вопросов.
▪50 вопросов для собеседования по компьютерному зрению в 2024 году
▪50 вопросов для интервью по глубинному обучению в 2024 году
▪50 вопросов для интервью по НЛП (обработке естественного языка) в 2024 году
▪Топ-60 вопросов с собеседований R
@machinelearning_interview
Большая подборка вопросов для собеседования по DS, AI, ML, DL, NLP, компьютерному зрению.
Подборка вопросов для собеседования поможет вам на собеседовании в области науки о данных, искусственного интеллекта, машинного обучения, глубинного обучения, обработки естественного языка, компьютерного зрения.
▪100 вопросов с собеседований Data Science
▪100 вопросов для собеседования по машинному обучению в 2024 году
▪Более 100 вопросов с собеседования Python. Разбор реальных вопросов.
▪50 вопросов для собеседования по компьютерному зрению в 2024 году
▪50 вопросов для интервью по глубинному обучению в 2024 году
▪50 вопросов для интервью по НЛП (обработке естественного языка) в 2024 году
▪Топ-60 вопросов с собеседований R
@machinelearning_interview
Стандартизация процессов позволяет унифицировать и масштабировать лучшие практики управления исследованиями и разработкой. То же самое относится и к Machine Learning, конечно.
Вот, собственно, эти 6 фаз:
— понимание бизнеса и данных
— инженерия данных
— моделирование машинного обучения
— обеспечение качества приложений машинного обучения
— развертывание ML-модели
— мониторинг и обслуживание ML-системы
Подробнее об этом в статье
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM
Держите сверхполезный видеокурс по основам Machine Learning, по Python в целом, и по Scikit-Learn.
Отлично подойдёт, если вы только вливаетесь в это, да и если давно занимаетесь ML, не повредит освежить основы
Enjoy)
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
🔥 Google мощно улучшила Gemini 1.5 Pro. Теперь нейронная сеть понимает аудио и работает быстрее.
Она может легко трансформировать аудио в текст, создавать краткую выжимку из лекции, анализировать любимую песню. Есть множество возможностей применения.
Тестируем новый функционал здесь. Нужно включить VPN.
@machinelearning_interview
Она может легко трансформировать аудио в текст, создавать краткую выжимку из лекции, анализировать любимую песню. Есть множество возможностей применения.
Тестируем новый функционал здесь. Нужно включить VPN.
@machinelearning_interview
📌 Яндекс открыл YandexART API и рассказал, как обучали модель
Исследователь генеративных моделей из Yandex Research делится подробностями разработки и усовершенствования API YandexART v2, которая недавно стала доступна для тестирования компаниям в Foundation Models, сервисе платформы Yandex Cloud: как отбирали данные для обучения модели, какие подходы лежат в её основе, как добились качества работы нейросети по нужным критериям. Внутри также замеры на DrawBench.
🔗 https://habr.com/ru/companies/yandex/articles/805745/
@machinelearning_interview
Исследователь генеративных моделей из Yandex Research делится подробностями разработки и усовершенствования API YandexART v2, которая недавно стала доступна для тестирования компаниям в Foundation Models, сервисе платформы Yandex Cloud: как отбирали данные для обучения модели, какие подходы лежат в её основе, как добились качества работы нейросети по нужным критериям. Внутри также замеры на DrawBench.
🔗 https://habr.com/ru/companies/yandex/articles/805745/
@machinelearning_interview
🦾 Google выпустили модель с новой архитектурой Griffin, которая превосходит transformers по своим характеристикам.
Griffin превосходит базовые показатели transformers baseline в контролируемых тестах как по шкале MMLU для различных размеров параметров, так и по среднему баллу в различных тестах.
Архитектура модели имеет преимущества в плане эффективности за счет более быстрого вывода и меньшего потребления памяти при выводе длинных контекстов.
▪Статья: arxiv.org/abs/2402.19427
▪Версия 2B на hugging face: huggingface.co/google/recurrentgemma-2b
@machinelearning_interview
Griffin превосходит базовые показатели transformers baseline в контролируемых тестах как по шкале MMLU для различных размеров параметров, так и по среднему баллу в различных тестах.
Архитектура модели имеет преимущества в плане эффективности за счет более быстрого вывода и меньшего потребления памяти при выводе длинных контекстов.
▪Статья: arxiv.org/abs/2402.19427
▪Версия 2B на hugging face: huggingface.co/google/recurrentgemma-2b
@machinelearning_interview
Неплохая статья о том, какую топологию может иметь кластер Apache Kafka при межрегиональной репликации по нескольким ЦОД и как это реализовать.
Плюс описывается, чем брокеры-наблюдатели отличаются от подписчиков в Confluent Server и при чем здесь конфигурация подтверждений acks в приложении-продюсере.
Для репликации в нескольких регионах кластер Kafka может иметь следующую топологию:
Преимущество растянутого кластера в том, что он сохраняет смещения, а также обеспечивает быстрое аварийное восстановление и автоматическое переключение клиента при сбое без дополнительного кода.
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Держите полезную статью, которая поможет разобраться в таком алгоритме ML, как Monte Carlo Tree Search.
Некоторые факты из статьи:
• MCTS использует дерево для представления игры и симуляции возможных ходов. Дерево строится динамически, добавляя новые состояния при выборе наиболее перспективных ходов.
• MCTS сходится к minimax благодаря использованию оценочной функции и перспективного хода.
• В MCTS учитывается перспективность хода, основанная на оценке и любопытстве.
• MCTS и нейросети дополняют друг друга, создавая наборы данных для обучения и используя их в тандеме.
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥 Большая подборка вопросов для собеседования по DS, AI, ML, DL, NLP, компьютерному зрению. Часть 2
🚀 Часть 1
▪Вопросы и ответы на собеседования по машинному обучению для специалистов в области анализа данных
▪Вопросы и ответы на собеседования по глубокому обучению для специалистов в области обработки данных
▪Вопросы по статистике
▪Вопросы по теории вероятности
▪Репозиторий для линейки онлайн-курсов по статистике
▪Вопросы и ответы для специалистов по анализу данных на Python
▪Вопросы и ответы для собеседований по SQL и DB для специалистов по обработке данных
Вопросы, основанные на резюме
▪Вопросы и ответы на собеседования по большим языковым моделям (ВПН)
▪Вопросы и ответы на собеседования по компьютерному зрению часть 1( ВПН)
▪Вопросы и ответы на собеседования по компьютерному зрению часть 2 (ВПН)
▪Вопросы и ответы на собеседования по компьютерному зрению часть 3 (ВПН)
@machinelearning_interview
🚀 Часть 1
▪Вопросы и ответы на собеседования по машинному обучению для специалистов в области анализа данных
▪Вопросы и ответы на собеседования по глубокому обучению для специалистов в области обработки данных
▪Вопросы по статистике
▪Вопросы по теории вероятности
▪Репозиторий для линейки онлайн-курсов по статистике
▪Вопросы и ответы для специалистов по анализу данных на Python
▪Вопросы и ответы для собеседований по SQL и DB для специалистов по обработке данных
Вопросы, основанные на резюме
▪Вопросы и ответы на собеседования по большим языковым моделям (ВПН)
▪Вопросы и ответы на собеседования по компьютерному зрению часть 1( ВПН)
▪Вопросы и ответы на собеседования по компьютерному зрению часть 2 (ВПН)
▪Вопросы и ответы на собеседования по компьютерному зрению часть 3 (ВПН)
@machinelearning_interview
— Как работает градиентный бустинг?
— Почему бустинг градиентный?
— Расскажи про свой опыт?
— Что такое Uplift-моделирование?
— Что за классы трансформируются в Uplift - моделировании?
— Что будешь делать, когда маркетолог попросит сделать модель оттока?
— Какие метрики знаешь для дисбаланса классов?
— Как подобрать отсчеку при перехода с Presicion на Recall?
— Как работает бустрап?
— Как оценить доверительный интервал площади?
— Как оценить метрику, если есть только модели и их оценки?
— Какие бывают схемы кросс-валидации?
— Как по другому называется точность оценки?
— Какая система валидации нужна оценке финального качества модели?
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ 4 Репозитория на Github для подготовки к 4 различным типам собеседований по разработке программного обеспечения:
1. Собеседования по системному дизайну: https://github.com/ashishps1/awesome-system-design-resources
2. Собеседования по низкоуровневому проектированию: https://github.com/ashishps1/awesome-low-level-design
3. Собеседования по программированию: https://github.com/ashishps1/awesome-leetcode-resources
4. Поведенческое собеседование: https://github.com/ashishps1/awesome-behavioral-interviews
@machinelearning_interview
1. Собеседования по системному дизайну: https://github.com/ashishps1/awesome-system-design-resources
2. Собеседования по низкоуровневому проектированию: https://github.com/ashishps1/awesome-low-level-design
3. Собеседования по программированию: https://github.com/ashishps1/awesome-leetcode-resources
4. Поведенческое собеседование: https://github.com/ashishps1/awesome-behavioral-interviews
@machinelearning_interview
🔥 Решение тестового задания на стажировку в Контур Data Science
В данном задании предлагается вам сделать модель, которая поможет отделу госзакупок извлекать нужный кусок текста из документа для того, чтобы сформировать анкету заявки.
То, какой именно фрагмент текста нужно извлечь, зависит от пункта анкеты, соответствующего документу.
Всего в каждом документе, с которыми вы будет работать, есть 1 из 2-х пунктов анкеты, по которым необходимо извлекать кусочки из текста:
▪обеспечение исполнения контракта
▪обеспечение гарантийных обязательств
Соответственно, ваша модель, принимая на вход текст документа и наименование одного из двух пунктов, должна возвращать соответствующий кусочек текста из текста документа.
Тестовое задание
Для выполнения тестового задания требуется разработать модель, которая будет способна по паре текст документа и пункт анкеты извлекать из текста документа нужный фрагмент текста. Обучив модель, добавьте в файл test.json поле extracted_part в том же формате, что и в файле train.json.
Новый файл назовите predictions.json
Подсказка: изучив данные, вы можете заметить, что у части наблюдений отсутствует фрагмент текста к извлечению (пустая строка внутри поля extracted_part с answer_start и answer_end равными нулю). Это означает, что в тексте документа нет нужного фрагмента текста, соответствующего пункту анкеты. Учтите это в обучении вашей модели и при формировании файла с ответами.
Тестовое задание
Для выполнения тестового задания требуется разработать модель, которая будет способна по паре текст документа и пункт анкеты извлекать из текста документа нужный фрагмент текста. Обучив модель, добавьте в файл test.json поле extracted_part в том же формате, что и в файле train.json. Новый файл назовите predictions.json
Подсказка: изучив данные, вы можете заметить, что у части наблюдений отсутствует фрагмент текста к извлечению (пустая строка внутри поля extracted_part с answer_start и answer_end равными нулю).
Это означает, что в тексте документа нет нужного фрагмента текста, соответствующего пункту анкеты. Учтите это в обучении вашей модели и при формировании файла с ответами.
▪Dataset
▪Решение
▪Github
@machinelearning_interview
В данном задании предлагается вам сделать модель, которая поможет отделу госзакупок извлекать нужный кусок текста из документа для того, чтобы сформировать анкету заявки.
То, какой именно фрагмент текста нужно извлечь, зависит от пункта анкеты, соответствующего документу.
Всего в каждом документе, с которыми вы будет работать, есть 1 из 2-х пунктов анкеты, по которым необходимо извлекать кусочки из текста:
▪обеспечение исполнения контракта
▪обеспечение гарантийных обязательств
Соответственно, ваша модель, принимая на вход текст документа и наименование одного из двух пунктов, должна возвращать соответствующий кусочек текста из текста документа.
Тестовое задание
Для выполнения тестового задания требуется разработать модель, которая будет способна по паре текст документа и пункт анкеты извлекать из текста документа нужный фрагмент текста. Обучив модель, добавьте в файл test.json поле extracted_part в том же формате, что и в файле train.json.
Новый файл назовите predictions.json
Подсказка: изучив данные, вы можете заметить, что у части наблюдений отсутствует фрагмент текста к извлечению (пустая строка внутри поля extracted_part с answer_start и answer_end равными нулю). Это означает, что в тексте документа нет нужного фрагмента текста, соответствующего пункту анкеты. Учтите это в обучении вашей модели и при формировании файла с ответами.
Тестовое задание
Для выполнения тестового задания требуется разработать модель, которая будет способна по паре текст документа и пункт анкеты извлекать из текста документа нужный фрагмент текста. Обучив модель, добавьте в файл test.json поле extracted_part в том же формате, что и в файле train.json. Новый файл назовите predictions.json
Подсказка: изучив данные, вы можете заметить, что у части наблюдений отсутствует фрагмент текста к извлечению (пустая строка внутри поля extracted_part с answer_start и answer_end равными нулю).
Это означает, что в тексте документа нет нужного фрагмента текста, соответствующего пункту анкеты. Учтите это в обучении вашей модели и при формировании файла с ответами.
▪Dataset
▪Решение
▪Github
@machinelearning_interview