303K subscribers
4.07K photos
726 videos
17 files
4.62K links
Погружаемся в машинное обучение и Data Science

Показываем как запускать любые LLm на пальцах.

По всем вопросам - @haarrp

@itchannels_telegram -🔥best channels

Реестр РКН: clck.ru/3Fmqri
Download Telegram
📌Huawei и метеобюро Шэньчжэня запустили ИИ-модель прогнозирования погоды с точностью до 3 км

Huawei совместно с метеобюро Шэньчжэня запустила региональную ИИ-модель прогнозирования погоды, чьи алгоритмы позволяют делать 5-дневные прогнозы с точностью до 3 км. В компании подчёркивают, что этот диапазон намного точнее, чем у типичных глобальных моделей, которые работают с периметром около 25 км. Модель способна давать широкий спектр прогнозов, включая температуру, осадки и скорость ветра.

Модель, получившая имя Zhiji, основана на предыдущей «погодной» модели Huawei Pangu, запущенной в 2023-м. В ходе пробного запуска, который состоялся в прошлом месяце, Zhiji показала высокую точность прогнозов. Тем не менее, команда планирует продолжать работу и повышать точность работы нейросети.

«Чрезвычайные погодные условия заметны всё чаще по всему миру. Системы прогнозирования погоды на основе ИИ уже продемонстрировали свои выдающиеся возможности, и их развитие позволит повысить готовность к стихийным бедствиям», — отмечает Уильям Донг, президент по маркетингу облачного подразделения Huawei.

По данным Всемирной метеорологической организации, в период с 1970 по 2021 год зафиксировано около 12 тыс. стихийных бедствий, в результате которых погибло более двух млн человек, а экономический ущерб составил $4,3 трлн. Раннее предупреждение о непогоде может спасти жизни и предотвратить экономические потери.

В Huawei отмечают, что в Южном Китае приближается сезон муссонов. Huawei Cloud и Метеорологическое бюро Шэньчжэня планируют использовать Zhiji в течение этого сезона и совершенствовать модель в зависимости от того, как она себя покажет.

@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2911🥰4❤‍🔥1
🌟 Nvidia исправила две опасные уязвимости в ChatRTX

Nvidia выпустила основанное на алгоритмах искусственного интеллекта приложение ChatRTX полтора месяца назад, но уже за такой непродолжительный срок была вынуждена исправить в нём две уязвимости — они предусматривали различные векторы атак, включая повышение привилегий и удалённое выполнение кода.

Программа ChatRTX, ранее носившая название Chat with RTX, дебютировала в феврале — она позволяет владельцам видеокарт Nvidia локально запускать чат-бот с ИИ. Для этого требуется видеокарта серий GeForce RTX 30 или 40 и не менее 8 Гбайт видеопамяти. Это, конечно, более скромное решение, чем чат-боты из облака, но возможность локального запуска компенсирует этот изъян.

В ранних версиях Nvidia ChatRTX до 0.2 присутствовали две уязвимости за номерами CVE-2024-0082 и CVE-2024-0083 с рейтингами соответственно 8,2 и 6,5 из 10. Первая позволяет осуществлять кражу и подмену данных и повышать привилегии пользователя; вторая — выполнять атаки типа «отказ в обслуживании» (DoS), похищать данные и производить удалённое выполнение кода.

В Nvidia уточнили, что реализовать подобные атаки возможно посредством запросов на открытие файлов и методом межсайтового скриптинга (XSS). Сведения о фактической компрометации каких-либо систем из-за этих уязвимостей отсутствуют. Чтобы избавиться от них, разработчик рекомендует обновить ChatRTX до версии 0.2, но несколько сбивает с толку его формулировка, что «последняя затронутая [уязвимостями] и обновлённая версия — 0.2». Возможно, лучше не просто обновить, но и переустановить приложение.

📎 Читать подробнее

@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
👍116🔥3😁3🤓1
🌟 Amazon позволит стартапам бесплатно пользоваться ИИ-моделями Anthropic, Mistral AI и Cohere

Amazon Web Services (AWS), провайдер облачных вычислений, расширил программу бесплатных кредитов для стартапов, работающих в сфере искусственного интеллекта. Теперь она включает использование крупнейших ИИ-моделей, в том числе продуктов таких компаний, как Anthropic, Meta, Mistral AI и Cohere. Этот шаг стал частью стратегии AWS по усилению позиций своего сервиса Bedrock на рынке.

Говард Райт (Howard Wright), вице-президент и руководитель направления стартапов в Amazon Web Services на международном уровне, подчеркнул, что программа бесплатных кредитов является важным элементом стратегии компании по поддержке инновационного сектора. Amazon намерена стимулировать стартапы к выбору AWS в качестве платформы для реализации своих проектов, предоставляя не только вычислительные ресурсы, но и доступ к широкому спектру готовых технологических решений. По словам Райта, бесплатные кредиты Amazon будут способствовать росту доходов Anthropic — одной из самых популярных ИИ-моделей на платформе Bedrock.

📎 Читать подробнее

@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
18👍8🔥2
🏎 Ускоряем инференс LLM

На Хабре вышла статья ML-разработчика из команды YandexGPT с разбором задачи ускорения инференса больших языковых моделей. Подробно описаны как популярные методы (дистилляция и квантизация), так и более специфичные Speculative Decoding и Continuous Batching.

Автор показал на примере, с какими сложностями сталкиваются команды при внедрении LLM-ок в реальные продукты.

Habr: https://habr.com/ru/companies/yandex/articles/801119/

@ai_machinelearning_big_data
👍193🥰2😁1🗿1
🌟 ИИ поможет Apple минимизировать углеродный след и позаботиться об экологии

К 2030 году Apple планирует организовать полностью замкнутый цикл производства и стать одной из самых экологичных технологических компаний в мире — не в последнюю очередь из-за регуляторных требований в некоторых странах. В этом компании должны помочь передовые разработки в области искусственного интеллекта.

«Мы заметно продвинулись в этом направлении, и на пути к цели нам предстоит применить новаторские решения», — сказал глава Apple Тим Кук на «Китайском форуме развития 2024». По его словам, «искусственный интеллект предоставляет огромные возможности для компаний, стремящихся значительно снизить углеродный след, вплоть до нулевого». ИИ позволяет рассчитать индивидуальный углеродный след каждого человека, а также подобрать материалы и методы их переработки.

«Для создания лучших продуктов нам нужны партнёры, разделяющие приверженность новаторству и защите планеты», — похвалил Кук поставщиков в лице BYD, Lens Technology и Shenzhen Everwin Precision Technology.

Apple уже много лет использует специальных роботов для разборки и переработки бывших в употреблении iPhone. По данным компании, один такой робот может разобрать 1,2 млн устройств год. Даже не оснащённые искусственным интеллектом роботы справляются с разборкой и переработкой устройств лучше людей, не говоря уж о возможности работать с опасными для здоровья материалами. Одним из достижений Apple на пути к полному отсутствию углеродного следа стал выход «углеродно-нейтральных» Apple Watch, да и последняя модель MacBook Air наполовину состоит из переработанного сырья.

@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😁25👍13🤣43🔥3🤨1
⚡️ LLocalSearch: completely locally running meta search engine using LLM Agents

Это полностью локально работающая система метапоиска, использующая LLM-агентов.

Пользователь может задать вопрос, и система будет использовать цепочку ИИ-агентов для поиска ответа. Пользователь может видеть прогресс работы и окончательный ответ. Ключи OpenAI или Google API не требуются.

Github

@ai_machinelearning_big_data
👍25🔥122
🦖 DINO-Tracker: Taming DINO for Self-Supervised Point Tracking in a Single Video

👉 Институт Вейцмана только что выпустил код для новой SOTA для отслеживания объектов.

Github: https://github.com/AssafSinger94/dino-tracker
Project: https://dino-tracker.github.io/
Paper: https://arxiv.org/abs/2403.14548

@ai_machinelearning_big_data
👍128🔥8
⚡️ Google наносит ответный удар по совместному проекту Microsoft и OpenAI

Недавно Microsoft и OpenAI объявили о своем грандиозном совместном проекте стоимостью $100 млрд, цель которого - создание сверхмощного ИИ-суперкомпьютера и гигантского центра обработки данных для обучения суперумных моделей ИИ. Этот амбициозный план обещает совершить настоящий прорыв в области ИИ и укрепить позиции Microsoft и OpenAI как лидеров индустрии.

Но в игру решил вступить Google DeepMind с довольно дерзким ходом: обесценить инвестиции конкурентов созданием открытой, распределённой по всему миру системы обучения сверхумных ИИ - DiPaCo (Distributed Path Composition).

Суть DiPaCo заключается в распределенном обучении нейронных сетей, используя все доступные вычислительные ресурсы по всему миру. Эта технология позволит масштабировать нейронные сети до невероятных размеров без ограничений, присущих централизованным системам. Это как торрент в мире нейронок.

Успех DiPaCo может не только поставить под сомнение эффективность многомиллиардных инвестиций Microsoft и OpenAI, но и изменить саму парадигму развития искусственного интеллекта. Этот проект способен демократизировать доступ к обучению сверхумных моделей и в целом разрушить монополию этих гигантов в области нейросетей, что может привести к стремительному прогрессу в области ИИ.

Более того, DiPaCo может усложнить задачу правительствам (в особенности, США и Китаю), стремящимся контролировать развитие ИИ путем регулирования крупнейших центров обучения моделей. Распределенная природа DiPaCo делает такой контроль гораздо более сложным и менее эффективным.

С тем, как это работает, можно ознакомиться в исследовании Google DeepMind. А посмотреть на исследование в картинках можно в посте ведущего автора проекта Артура Дуйяра.

@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍45🔥275
Всё об опенсорсе: мастер-классы, круглый стол, задачки и призы

Когда: 23 апреля

Где: Москва, «Агломерат» + онлайн-трансляция

О чем: вы узнаете, как сделать документацию и лендинг, выбрать правильную лицензию для опенсорс-проекта и выйти в открытый доступ.

А еще познакомитесь с разработчиками из Яндекса и других компаний, победителями Программы грантов Yandex Open Source, порешаете задачки и получите за них призы.

Регистрация на Yandex Open Source Jam по ссылке.
10🔥5👍2🥰1🫡1
🔥 Opera стал первым крупным браузером со встроенным доступом к локальным моделям искусственного интеллекта

Opera Software представила функцию в Opera, позволяющую загружать и использовать большие языковые модели (LLM) локально на своих ПК. Опция доступна пользователям Opera One, которые получают обновления для разработчиков. В браузере можно воспользоваться более чем 150 моделями из 50 семейств, включая Llama от Meta, Gemma от Google, Vicuna, Mistral AI и другие.

Opera Software указывает, что новые функции стали частью AI Feature Drops Program. Компания пообещала хранить данные пользователей локально на их устройствах, что позволит использовать генеративный ИИ без необходимости отправлять информацию на сервер и обеспечить конфиденциальность.

Чтобы воспользоваться новыми функциями Opera, нужно обновить браузер до последней версии Opera Developer и активировать локальные LLM на своём устройстве. После этого модели заменят Aria, пока пользователь не начнёт общение с чат-ботом или не включит его снова.

📎 Подробнее

@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥31👍137
This media is not supported in your browser
VIEW IN TELEGRAM
🎥 Camera control for text-to-video.

CameraCtrl - модель, котороая обеспечивает точное управление положением камеры, что позволяет точно контролировать ракурсы и движения камеры при генерации виде.

Github: https://github.com/hehao13/CameraCtrl
Paper: https://arxiv.org/abs/2404.02101
Project: https://hehao13.github.io/projects-CameraCtrl/
Weights: https://huggingface.co/hehao13/CameraCtrl/tree/main

@ai_machinelearning_big_data
13👍6🔥6