FSCP
18.4K subscribers
30.1K photos
3.43K videos
858 files
77K links
another filter bubble канал изначально созданный несколькими друзьями чтобы делиться копипастой, иногда оценочным суждением

технологии, деньги, социум

редакция @id9QGq_bot
реклама @johneditor
в будущее возьмут не всех
выводы самостоятельно

мир меняется
Download Telegram
Перевод YouTube в Google Chrome

Начнем неделю с подгона от AMИGO.
Один умный парень взял перевод из Яндекс-браузера и прикрутил его с помощью плагина к Google Chrome, лично для меня это очень удобно т.к. Яндексом не пользуюсь.

Установка по шагам:

1. Подключается в несколько кликов через расширение для браузера tempermonkey (ССЫЛКА)

2. Затем нужно установить скрипт для переводчика (ССЫЛКА).

3. После этого в роликах появится кнопка как на скрине «Включить»

Поддерживает 7 языков.

Самое забавное, что если поставить «с русского на русский», то видео будет озвучено просто другим голосом. Это реально может быть удобно, если речь автора вам не нравится и она тихая, невнятная, скучная.
_______
Источник | #iintellect | #полезности
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Если вы вдруг пропустили презентацию OpenAI, то кратко результат: все сливы оказались правдой.

— GPT-4-turbo 🚀
— 128K токенов (больше, чем у Claude-100К!)
— Теперь доступен файн-тюнинг GPT-4
— Обновили базу знаний до апреля 2023 (!)
Whisper V3 - новые возможности в speech-to-text
— Маркетплейс ваших собственных моделей: вы сможете зарабатывать на ChatGPT через официальный магазин
— В API: gpt-4 в 3 раза дешевле, приятные фишки для разработчиков, больше лимиты, быстрее работает, наконец-то Advanced Data Analysis будет воркать через API
— Синтез голоса (!)
— Вы можете создавать своих агентов прямо в ChatGPT с базой знаний, вызовом функций, действиями
— GPT Store для агентов (заработок для разработчиков)

UPDATE по новым фишечкам с благодарностью к Pavel @moldrobot (добавил в комментариях к этому посту):
+ ассистенты через API
+ JSON-режим
+ можно использовать сид-параметр и получать результаты, основанные на нём (как картинки в миджорни с заданным сидом)

Это то, о чём я писал все эти месяцы, разбивая клавиатуру в щепки. Нет смысла распыляться на другие модели и сервисы, когда есть очевидный лидер рынка, постоянно двигающийся вперёд. Нет, не просто двигающий, а летящий на супер-пупер звездолёте от одного далёкого созвездия к другому.

Представьте, что будет, когда GPT-5 будет в наших руках?
_______
Источник | #iintellect
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Ну вот и до комментаторов на ТВ добрались.

Парень из твиттера загрузил видео и попросил ИИ создать описание происходящего, как будто он футбольный комментатор. Пишет, что использовал GPT-4V + TTS.

Пока эмоции еще страдают и слушать такое будет сегодня скучно, но еще год назад никто даже не думал, что так можно.

А теперь представьте, что вместе с ростом мощностей и скоростью обработки данных, дообучении в плане речи и эмоциональности голоса любой матч может комментировать нейросеть. И она на лету будет обладать всей статистикой побед и неудач каждого отдельного игрока вплоть до состояния здоровья его собаки о которой он сам расскажет в соцсетях. Я думаю даже манеру речи можно будет каждому слушателю выбирать свою.

Вот даже сложно представить, что комментаторы смогут противопоставить этому...

Как думаете шансы есть?
_______
Источник | #iintellect
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Как умирают большие компании

Apple потратила 400 млрд долларов за последние 5 лет на выкуп собственных акций с рынка и дивиденды акционерам. Это деньги, которые они не потратили на научные разработки. Это и станет причиной заката некогда крупнейшей публичной компании мира.

Недавно стало известно, что Apple закрыла свою программу беспилотных автомобилей. Создать продукт, который будет конкурировать хотя бы с Яндексом, ей оказалось не под силу.

А сегодня выходит новость, что Apple находится в переговорах с Google, с целью, чтобы гугловский продукт Gemini стал начинкой ИИ в устройствах Apple. Позор, конечно, но уже даже презентации в стиле Стива Джобса не могут убедить фанатов компании, что Siri - продвинутый ИИ.

Apple всегда делала гаджеты с крутым железом, но сейчас, если ты не инвестируешь в софт и полностью пропускаешь такой тренд, как ИИ - твоя компания может очень быстро оказаться в неуправляемом пике. Инвесторы уже избавляются от акций Apple в пользу Microsoft и Nvidia и этот тренд будет продолжаться. Скоро Nvidia обгонит Apple и сместит её на третье место.

Кстати, сегодня начинается крутая конфа от Nvidia в Калифорнии. Её уже неофициально назвали главной конференцией по ИИ на планете. Ждём сногсшибательных новостей!
_______
Источник | #iintellect
@F_S_C_P
Узнай судьбу картами Таро:
Anna Taro bot
Только что анонсировали новый ASIC для больших языковых моделей: он умеет генерировать 500 000 токенов в секунду!

Эта штука может писать по одному тому "Войны и Мира" каждую секунду. Локально и без доступа к интернету. Это в десятки раз быстрее, чем кластер из 8 специализированных карт NVIDIA H100.

Подходит для любых приложений на основе трансформеров: Llama, Stable Diffusion, Sora, Claude, GPT и так далее.

САМЫЙ БЫСТРЫЙ ЧИП ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

– Sohu – самый быстрый чип ИИ на планете.
– Обрабатывает более 500 000 токенов в секунду с использованием модели Llama 70B.
– Позволяет создавать продукты, невозможные на GPU.
– Один сервер 8xSohu заменяет 160 H100.

СПЕЦИАЛИЗИРОВАННЫЙ ЧИП ДЛЯ ТРАНСФОРМЕРНЫХ МОДЕЛЕЙ

– Sohu – первый специализированный чип (ASIC) для трансформерных моделей.
– Благодаря специализации, чип обеспечивает значительно большую производительность.

ПОПУЛЯРНОСТЬ ТРАНСФОРМЕРНЫХ МОДЕЛЕЙ

– Сегодня все крупные продукты ИИ (ChatGPT, Claude, Gemini, Sora) работают на трансформерах.
– В ближайшие годы все крупные модели ИИ будут работать на специализированных чипах.

НЕИЗБЕЖНОСТЬ СПЕЦИАЛИЗИРОВАННЫХ ЧИПОВ

– Специализированные чипы обеспечивают значительно лучшую производительность по сравнению с универсальными решениями.

Когда-то биткоин фармили на видеокартах. Теперь его добыча немыслима без специализированных чипов (ASIC). Та же участь ждёт видеокарты в ИИ.

Внимательно смотрим на акции Nvidia. Акции ведущего поставщика видеокарт и чипов для ИИ падали на 18% за два дня, сейчас падение 11%. https://x.com/etched/status/1805625693113663834

#ии #чипы #llm
_______
Источник | #iintellect
@F_S_C_P

Узнай судьбу картами Таро:
Anna Taro bot
Мы внезапно оказались на грани квантового скачка в обучении и использовании больших языковых моделей!

ПРЕИМУЩЕСТВА СПЕЦИАЛИЗИРОВАННЫХ ЧИПОВ

– Sohu более чем в 10 раз быстрее и дешевле, чем даже самые передовые GPU, такие как NVIDIA Blackwell (B200).
– Один сервер Sohu обрабатывает более 500 000 токенов Llama 70B в секунду, что в 20 раз больше, чем сервер H100 и в 10 раз больше, чем сервер B200.
– Тесты проведены в режиме FP8 без использования разреженности при 8-кратном параллелизме модели с длиной ввода 2048 и длиной вывода 128.

ЗАМЕДЛЕНИЕ РАЗВИТИЯ GPU

– За последние четыре года плотность вычислений (TFLOPS/мм^2) улучшилась всего на ~15%.
– Новые GPU (NVIDIA B200, AMD MI300X, Intel Gaudi 3, AWS Trainium2) удваивают свою производительность за счет использования двух чипов на одной карте.
– Из-за замедления закона Мура единственный способ улучшить производительность – это специализация.

ЭКОНОМИЧЕСКИЕ ПРЕИМУЩЕСТВА

– Стоимость обучения ИИ-моделей сегодня составляет более $1 млрд, а их использование – более $10 млрд.
– Специализированные чипы (ASIC) в 10-100 раз быстрее GPU.
– С ростом стоимости обучения моделей с $1 млрд до $100 млрд риск тестирования новых архитектур резко возрастает.
– Специализация на трансформерах предпочтительнее, чем тестирование новых архитектур.

НЕИЗБЕЖНОСТЬ СПЕЦИАЛИЗАЦИИ НА ТРАНСФОРМЕРАХ

– Трансформеры выиграли "аппаратную лотерею" благодаря огромным инвестициям в оптимизацию их работы.
– Стартапы используют специализированные библиотеки ПО для трансформеров, такие как TRT-LLM и vLLM.
– С выходом на рынок Sohu и других ASIC наступит точка невозврата. У новых архитектур не будет шансов, если они не смогут работать быстрее на GPU, чем трансформеры на Sohu.
– Если это произойдет, будет создан ASIC и для новой архитектуры.

Подробнее о работе Sohu можно узнать в посте на сайте Etched.

Вот так и получается, что прогресс ускоряется в геометрической прогрессии. Ограничения, вызванные дорогими видеокартами только что уменьшились на ДВА ПОРЯДКА.

А теперь представьте, как такие чипы и модели, которые на них работают, ускорят технический прогресс во всех сферах.

В интересные времена живём.
_______
Источник | #iintellect
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram