Технозаметки Малышева
9.56K subscribers
4.04K photos
1.48K videos
41 files
4.17K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Доброе утро :)
🔥8
Появилось больше деталей по ASIC-чипу для трансформеров от Etched

Стартап Etched запустил первый специализированный ASIC-чип Sohu для трансформеров.
Производительность устройства - 500,000 токенов в секунду. (1 том Война и Мир - 710тыс знаков или примерно 230тыс токенов. 2 тома в секунду получается)

Один сервер с 8 ASIC чипами заменяет 160 GPU H100 от NVIDIA.

Ключевые характеристики: 144 ГБ памяти, поддержка моделей до 100 трлн параметров, открытый программный стек.
Встроены алгоритмы speculative decoding, beam search, MCTS и MoE.

Первый анонс был летом, - https://t.iss.one/tsingular/2002

акции NVIDIA могут подупасть, конечно, когда эта ракета взлетит.
Пока ранний доступ и сбор инвестиций.
Но Асики давно напрашивались. Будем майнить ИИ. 🤔

#Etched #ASIC #Sohu
-------
@tsingular
👍8
наткнулся на еще один каталог ИИ решний, - Future Tools

1300 решений в каталоге. Есть поиск и выбор по категориям.

#FutureTools #AITools #каталог
-------
@tsingular
👍6👌1
Media is too big
VIEW IN TELEGRAM
Перевёл для вас шикарный ролик Writing Doom (я бы перевёл как сценаристы Судьбы) с помощью ElevenLabs.

Исходник:
https://www.youtube.com/watch?v=xfMQ7hzyFW4

Мини-фильм обсуждение об ASI.
В команду сценаристов приходит специалист по машинному обучению и пытается объяснить риски и реалии ИИ.

Перевод слегка криповат, но в целом приемлемо. Лучше, конечно, смотреть в оригинале. Но нужен хороший английский, субтитры на русском отвлекают, так что такой перевод может кому-то и пригодится.

Мне лично понравился пример про бизнесмена и 5ти летнего ребёнка.
И тезис, - если мы хотим получить настоящий значимый эффект от внедрения ИИ, нам нужно отдать ему контроль. Но отдав контроль мы не можем быть уверены, что он не использует его во вред незаметным для нас образом. Способом вне нашего понимания, как в примере про бизнесмена.

#ASI #WritingDoom
———
@tsungular
👍84👾1
Forwarded from Machinelearning
⚡️ Релиз Qwen2.5-Coder.

Qwen2.5-Coder - это семейство из 6 LLM : 0,5, 1,5, 3, 7, 14, 32 млрд. параметров, ориентированное на понимание и написание кода на 40 языках программирования.

По сравнению с предыдущим поколением моделей CodeQwen1.5, в Qwen2.5-Coder значительно улучшена генерация, обоснование и исправление кода. При этом сохранились сильные навыки в математике и общих компетенциях.

Семейство основано на Qwen 2.5, количество обучающих лексем было увеличено до 5,5 трлн, в корпус данных вошли исходный код, текстовые кодовые основания, синтетические данные и т. д.

Способности в области программирования старшей модели, Qwen2.5-Coder-32B соответствуют уровню GPT-4o.

Модели 0.5В, 1.5B и получили контекст в 32 тыс. токенов, а , 14В и 32B - 128 тыс. токенов.

В открытый доступ на HuggingFace опубликованы 36 моделей семейства: базовые модели, instruct-версии и GGUF, AWQ, GPTQ-Int8, GPTQ-Int4 форматы инструктивных версий.


⚠️ В ближайшее время (сроки не указаны), разработчики Qwen-Coder планируют запустить сервис real-time кода на сайте Tongyi . Сервис будет поддерживать генерацию веб-сайтов, создание мини-игр и диаграмм данных одним щелчком мыши.


📌Лицензирование:

🟢Модели 0.5В, 1.5В, 7В, 14В и 32В - Apache 2.0 License.
🟠Модель 3B - Qwen-Research license.


🟡Страница проекта
🟡Коллекция моделей на HF
🟡Документация
🟡Arxiv
🟡Demo
🟡Сообщество в Discord
🖥Github


@ai_machinelearning_big_data

#AI #ML #LLM #QwenCoder
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4
TinyTroupe, - фреймворк Microsoft для симуляции социальных взаимодействий

Microsoft выпустила приложение для создания виртуальных личностей с уникальными характеристиками.

Фреймворк использует GPT-4 (но можно перенастроить на все, что работает по OpenAI API) и состоит из двух ключевых абстракций: TinyPersons (виртуальные агенты) и TinyWorld (симулированное окружение).
Уже включены:
TinyPersonFactory: создание виртуальных персонажей.
TinyTool: виртуальные инструменты, которыми могут пользоваться персонажи Матрицы :).
TinyStory: инструмент для создания историй для персонажей. Описание событий.
TinyPersonValidator: контроль действий персонажиков.
ResultsExtractor и ResultsReducer - сведение и аналитика поведенческих результатов

Позволяет тестировать сценарии взаимодействия, анализировать поведение потребителей и получать бизнес-инсайты в контролируемой среде.

Социологические опросы можно не проводить. Цифровой двойник общества готов. 🤖🛒

#Microsoft #TinyTroupe
-------
@tsingular
3👍1🤔1👾1
Cisco прокачивает Wi-Fi 7 с помощью AI

Анонсирована новая серия точек доступа, оснащённых ИИ с функциями автоматической настройки.

Устройства получили встроенную систему безопасности с профилированием клиентов и Ultra-Wideband для точного позиционирования.

Поддерживается гибридное управление через облако или локально с возможностью быстрого переключения режимов.

Технология оптимизирована для AR/VR, потокового вещания и высоконагруженных бизнес-сред.

Старт продаж запланирован на декабрь 2024 года.

Теперь офисный Wi-Fi каждого посчитает и запишет в отдельный блокнотик ваши координаты и траектории перемещения по офису. 🤖📡

#Cisco #WiFi7 #UltraWideband
-------
@tsingular
2
LLMflation: цены на LLM-инференс стремительно падают

Стоимость обработки текста в языковых моделях демонстрирует беспрецедентное снижение - в 10 раз ежегодно.
За последние три года цена упала с $60 до $0.06 за миллион токенов, что в 1000 раз дешевле.
Ключевые факторы: улучшенная архитектура, оптимизация ПО, квантизация и специализированное оборудование.
Практические примеры: обработка 10-часового разговора уже стоит $2, анализ всего ядра Linux - менее $1.
Провайдеры LLM-сервисов фокусируются на премиум-сегменте, уступая нижний новым игрокам.

Похоже, скоро AI-помощник будет дешевле чашки кофе ☕️

#LLMflation #inference #optimization
-------
@tsingular
4🔥1
Google обновляет курс ML для разработчиков с фокусом на практику

Google Developers представили обновленный ML курс, фокусирующийся на практических аспектах машинного обучения.
Программа охватывает построение регрессионных/классификационных моделей, методы обработки данных и внедрения систем.
Для старта достаточно базовых знаний Python, математики и браузера Chrome/Firefox.
Платформа Colaboratory предоставляет интерактивную среду без установки ПО.
Особое внимание уделяется ответственному инжинирингу и промышленной эксплуатации моделей.

Еще один очень классный бесплатный курс по ML. Записываем в план обучения! 💻

https://developers.google.com/machine-learning/crash-course/llm?hl=ru

#GoogleDevelopers #Colaboratory #MLCourse #обучение
-------
@tsingular
👍3
Gartner прогнозирует энергетический кризис из-за дата-центров для ИИ

Аналитики Gartner предупреждают об угрозе масштабного энергодефицита к 2027 году.
Потребление электричества ЦОДами увеличится в 2,6 раза до 500 ТВтч ежегодно.
40% серверных комплексов столкнутся с проблемами энергоснабжения.
Создание новых мощностей займет годы, что приведет к росту стоимости услуг.

ИИ скоро будет потреблять больше энергии, чем майнинг крипты 🔋😅
А с учётом роста курса биткоина будет грызня за электричество между майнерами и ИИшниками.
Все культурно и в рамках саморегулирования рынка, само-собой. :)

#Gartner #DataCenter #Energy
-------
@tsingular
👀3🕊1
MIT создал графовую AI-модель для поиска инноваций через междисциплинарные связи

Исследователи MIT разработали уникальную модель, основанную на теории графов и генеративном извлечении знаний.
Система способна находить неочевидные взаимосвязи между разрозненными областями - от биоматериалов до симфоний Бетховена.
Технология применяет мультимодальное рассуждение и теорию категорий для понимания символических отношений.
В тестовом режиме проанализировано свыше 1000 научных работ о биоматериалах.
Создан композитный материал на основе мицелия, вдохновленный картиной Кандинского.

Не списал, а почерпнул вдохновление! 🎨🔬
Очень перспективная тема, - находить корреляции в несвязанных областях!
У человека ушли бы тысячелетия или нужна была бы удача, а тут ИИ придаст огромное ускорение фундаментальной науке.

Исходная работа:
https://iopscience.iop.org/article/10.1088/2632-2153/ad7228

#MIT #GraphTheory #Innovation
-------
@tsingular
👍8👌1
Революционные магнитные мышцы в 1000 раз сильнее своего веса

Ученые UNIST - Южная Корея создали уникальный материал для робототехники, объединяющий ферромагнитные частицы с полимерами с памятью формы.
Инновационная разработка выдерживает растяжение в 1000 раз и сжатие в 3690 раз больше собственной массы.
Двухслойная структура с гидрогелем обеспечивает изменение жесткости в 2700 раз и эффективность до 90.9%.
Управление осуществляется дистанционно через магнитные поля и лазерный нагрев.

Мышцы из ферромагнитного гидрогеля. Ясно-понятно. С Терминатором на руках бороться бессмысленно будет. 🤖💪

#UNIST #robotics #biomechanics #Корея
-------
@tsingular
🆒8🔥2👍1
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
Что мы имеем в Виду 1.5?

А имеем мы Multi-Entity Consistency.

Vidu-1.5 can seamlessly integrate people, objects, and environments to generate stunning videos, БЕЗ ВСЯКИХ ЛОР - как написано у них в Твитторе.

В общем, простите люди добрые, но у нас еще один видеогенератор. Точнее, он уже был летом в версии 1.0 и был плох. Сейчас вот ожил.

Ну и у меня ощущение, что видеогенераторов со своими базовыми моделями становится больше, чем генераторов картинок со своими foundation model (не файнтюнами).

Выход в массы на след неделе, пока неистовый шиллинг в твитторе и черрипики в ленте.

Ну и поднимите Sora веки кто-нибудь. Уже просто неприлично выглядит ситуация.
https://www.vidu.studio/

@cgevent
31