FSCP
17.4K subscribers
30.5K photos
3.54K videos
862 files
77.9K links
another filter bubble канал изначально созданный несколькими друзьями чтобы делиться копипастой, иногда оценочным суждением

технологии, деньги, социум

редакция @id9QGq_bot
реклама @johneditor
в будущее возьмут не всех
выводы самостоятельно

мир меняется
Download Telegram
Топ 10 ИИ-видео с неожиданной развязкой. https://t.iss.one/neurohub/3368

———
В 2023 году при помощи видеокамер было выписано рекордное за пять лет количество штрафов за нарушения правил дорожного движения (ПДД), но для современных технологий это не предел: в Минэкономразвития думают о том, как штрафовать при помощи дронов, а производители систем видеофиксации уже предлагают технологии распознавания лиц нарушителей.
Сейчас много говорят о необходимости распространить упрощенный (как в случае с ПДД) порядок составления протоколов на все виды нарушений, но для этого нужно решить вопрос с согласием лица на обработку его биометрических данных, подчеркнула представитель Минюста. К тому же, по ее словам, возникают проблемы с извещением привлекаемого к ответственности лица: как ему направить постановление, чтобы он его точно получил? www.kommersant.ru

———
Путин распорядился подписать договор о выдаче с Таиландом

Соответствующее распоряжение размещено на сайте официального опубликования правовых актов.

Ранее Правительство Таиланда утвердило проект соглашения об экстрадиции с Россией, передает The Nation Thailand со ссылкой на заявление официального представителя кабмина Рачады Дхнадирек.

———
Талибан требует исключить женщин из заседания ООН, а также убрать из повестки вопросы, касающиеся их прав. https://t.iss.one/bloodysx/37171

Правозащитники считают, что подобный прецедент узаконит злоупотребление талибов в вопросах нарушения прав женщин, а также нанесет ущерб авторитету ООН, как организации борющейся за права человека.

С момента прихода к власти талибы ограничили доступ женщин к образованию, занятости и общественным пространствам. В марте 2023 года они заявили, что официально возобновят практику побивания камнями женщин до смерти за прелюбодеяние.

———
Россия и Камбоджа подписали первое в истории военное соглашение rg.ru

———
Джулиан Ассанж признает себя виновным по одному из пунктов обвинения в рамках досудебной сделки с минюстом США. Судя по всему, срок ему выпишут смешной, при этом зачтут время пребывания в британской тюрьме. После чего он выйдет на свободу, возможно уже до выборов в Америке. www.ft.com

———
OpenAI готовится раскатывать голосовой режим для ChatGPT для пользователей. Для этого Anthropic всего лишь нужно было выпустить модель получше. https://t.iss.one/ai_newz/2912

———
Немка, осужденная за «оскорбление» насильников из банды мигрантов, получила более длительный тюремный срок, чем эти насильники

20-летнюю девушку из Гамбурга отправили в тюрьму за «ненавистнические» высказывания в адрес мигранта, причастного к групповому изнасилованию ребенка. Эта девушка — лишь одна из 140 человек, находящихся под следствием за «вредоносные комментарии» в адрес насильников. https://t.iss.one/jennifersroom/2602

———
OpenAI купила стартап Multi, который позволяет кому-то удаленно управлять вашим компьютером…

———
В Махачкале и Дербенте 20 человек погибли, 26 пострадали после нападения боевиков https://t.iss.one/tass_agency/256662

———
США сообщили о повреждении судна Transworld Navigator в Красном море после атаки хуситов. https://t.iss.one/tass_agency/256467

———
В Дагестане уволили главу района, чьи сыновья участвовали в теракте www.interfax.ru

———
РКН решил блокировать звонки не подключенных к «Антифроду» операторов www.rbc.ru

———
@F_S_C_P

Узнай судьбу картами Таро:
Anna Taro bot
Apple втихую выложила ультимативный фреймворк для анализа и генерации картинок — 4M умеет всё и сразу без преувеличения. Из коробки доступна 21 модальность одновременно:

• Генерирует подпись к фотке, даже что происходит за кадром;
• Делает карты глубины, чтобы переводить картинки из 2D в 3D;
• Распознает и выделяет, где и какие объекты расположены;
• Меняет источник освещения и цветовую палитру снимка;
• Генерирует картинки по запросу под ваши уникальные настройки.

Это чудо для всех, кто работает с изображениями — фотошопит, перегоняет их в 3D, собирает датасеты и многое другое. Исходники на GitHub, онлайн-демо части фич тут.
_______
Источник | #notboring_tech

_____________________________
Марс атакует!

Новая опенсорсная модель текст ту спич.
140 языков.
Клонирование голоса по сэмплу в шесть секунд.
А ещё MARS5 позволяет выполнять "глубокое клонирование", которое улучшает качество клонирования и выходных данных, но при этом требует немного больше времени для создания аудио.

За актеров озвучки уже пили. Ладно, просто помолчим, пока он нас клонирует.

Всё есть тут:
github.com
_______
Источник | #cgevent

_____________________________

Делаем саммари ВСЕГО.

Active Recall — плагин, который сделает краткую выжимку из любого контента. ИИ спокойно прожует подкасты, видео, PDF-файлы, новости, блоги и за пару минут выдаст все ключевые моменты.

Ну а чтобы вы не пропустили ничего важного, тут даже можно пройти тестирование для усвоения материала.
_______
Источник | #neurohub
@F_S_C_P

-------
поддержи канал
-------
🍑 Продавать нюдсы на OnlyFans — долго и тяжело. Мало кто знает, как к этому подступиться и организовать бизнес. Специально для них в Аргентине начал процветать рынок коучей.

Курсы могут быть совершенно разные. Есть дешевые — за $25 вам расскажут, как правильно выставлять свет, секститься и принимать соблазнительные позы. Есть дорогие — где за $400 вам проведут краш-курс английского языка, основы бух учета, составят вам диету и подберут комплекс упражнений, чтобы вы могли держать себя в форме.

Как пишет Rest of world, коучи ориентируются на женщин, чаще всего — одиноких матерей, для которых тяжело содержать ребенка и “развиваться как личность”. Ситуация усугубляется новыми реформами нового президента Аргентины Хавьера Милея, который сократил социальные программы помощи молодым матерям.

Сами клиентки курсов в разговоре с изданием заявили, что чувствуют себя сильнее и увереннее: у них появились деньги и время не только для детей, но и на себя. Многие из них открывают собственные курсы в элитных районах, чтобы помогать будущему поколению онлифанщиц. На неизбежный вопрос об общественном мнении они только отмахиваются — за ЖКХ моральными принципами не заплатишь, Что, в общем-то бесспорно.
_______
Источник | #antidigital
@F_S_C_P

-------
поддержи канал
-------
Ответ на пост «Не надо жопить премию или как я КиПовца хантил»⁠⁠
pikabu.ru
В прошлом году ещё работал на компанию, которая поставляла тормоза на Сапсаны, Иволги, половину Ласточек, двухэтажные Аэроэкспрессы и все современное метро Москвы и Питера. Немцы, продавая компанию отечественному юрлицу, хотели нам отрубить софт для диагностики и наладки тормозного оборудования этих самых поездов (кроме метро, там свое управление тормозами), отключили от всех баз данных (в том числе ремонтной и эксплуатационной документации). А теперь представьте, что было бы, если бы мы вовремя не отрубили на наших ноутах сеть или если бы нас всех перевезли за рубеж. Удобненько так покатались бы на современных поездах, да?) Если бы мы не сообразили и не скачали себе документацию по всем доступным системам и запчастям, сейчас бы половина парка этих поездов стояла в виде доноров (у Сапсанов сейчас именно такая картина). А ещё берём в расчёт, что на Дальнем Востоке ходят тепловозы 3ТЭ25К2М с дизелем от General Electric, а блок управления этим дизелем имеет модуль спутниковой связи и паролится, а пароль меняется каждые сутки или типа того, приходит он по этой самой связи из той самой США. Случись чего, локомотив легко и просто блокируется просто во время движения одним сигналом. Их спецы, которые остались у нас, просто чудом заставляют это все работать. А если бы они решили взять и уехать? Когда смотришь на ситуацию изнутри (занимаюсь локализацией этих интереснейших технологий), разгребаешь эту ситуацию вместе с другими коллегами, с которыми раньше работал на немцев, исход становится крайне и крайне интересным и пока остаётся неопределённым.
#хроникицифровизации
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Вуахахаха... 😂😂😂 Майнинг летом 2024....
_______
Источник | #KartavKanaLL
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram
В Китае искусственный интеллект превратил украинского блогера в русскую https://t.iss.one/mediainsider/1616

В ноябре прошлого года студентка Пенсильванского университета Ольга Лойек создала канал на YouTube. Недавно она обнаружила, что ее изображение обработали с помощью искусственного интеллекта для создания альтер-эго в китайских социальных сетях.

Цифровые двойники заполонили интернет-пространство Поднебесной. «Наташа» представлялась русской, которая свободно говорит по-китайски, благодарила Китай за поддержку нашей родины и хотела немного заработать на продаже российских конфет. У фейковых аккаунтов были сотни тысяч подписчиков в Китае, что гораздо больше, чем у самой Лойек.

По словам экспертов, такие двойники создаются искусственным интеллектом путем незаконного использования видеороликов реальных женщин, найденных в интернете, часто без их ведома.
_______
Источник | #mediainsider | #хроникицифровизации
@F_S_C_P

-------
поддержи канал
-------
This media is not supported in your browser
VIEW IN TELEGRAM
💡 Меняем освещение изображения в 2 клика.

У Magnific в бета-тесте появился мощный инструмент Relight, который умеет:

🔸Менять освещение на вашем изображении и настроить силу цветопередачи. Это можно сделать с помощью текстовой подсказки, эталонного изображения или карты освещения;
🔸Сменить фон. Главный объект на изображении органично впишется в него и не будет выглядеть неуместно;
🔸Изменить стиль, например: мрачнее, ярче, контрастнее и т.д.

_______
Источник | #neurohub
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Наткнулся на еще один потрясающий тип аккаунтов — американские мамфлюенсерши снимают фейковые, резиновые, игрушечные или просто неспелые фрукты, продвигая теорию заговора, что пищевые компании пичкают нас искусственной едой. Миллионы просмотров, как вы понимаете.

В Твиттере видел уже несколько аккаунтов всяких веганов и фитнес-инфлюенсеров, которые охотно ~прогревают~ свою аудиторию таким контентом перед продажей БАДов, курсов и рассылок о здоровом питании.

Отдельного внимания заслуживает сабреддит r/foodsafety, где 54 тысячи невротиков кидают фотки своих тарелок, спрашивая хорошо ли прожарена их курица, обсуждают почему на сырой картошке темное пятно, а внутри лимонов есть неведомая дыра.
_______
Источник | #internetculture
@F_S_C_P

Узнай судьбу картами Таро:
Anna Taro bot
гуманоидный робот впервые научился надевать обувь и завязывать шнурки https://t.iss.one/neurohub/3372

———
Основатель WikiLeaks Джулиан Ассанж вышел на свободу из британской тюрьмы и летит в Австралию.
apnews.com
Ассанж признал вину по 1 из 17 пунктов — незаконное получение и публикация секретных данных, а власти США за это отказались требовать его экстрадиции. Ассанжа, который несколько лет скрывался в посольстве Эквадора, а затем содержался в тюрьме близ Лондона, обвиняли в одной из крупнейших утечек секретных документов в истории Америки.

«После более чем пяти лет в камере размером два на три метра, изолированный 23 часа в сутки, он вскоре воссоединится со своей женой Стеллой Ассанж и их детьми, которые знали своего отца только из-за решетки», — говорится в сообщении WikiLeaks.

———
Музыкальные лейблы во главе с RIAA (Ассоциация звукозаписи Америки) подали в суд на два AI-стартапа — Udio и Suno. Оба стартапа занимаются генерацией музыки с помощью AI и лейблы утверждают, что обучение моделей происходило с нарушением авторских и прочих прав их клиентов.

И Udio, и Suno утверждают, что их модели не запоминают и не воспроизводят чужие работы, а генерируют совершенно новую музыку, кроме того, Suno явно запрещает запросы на генерацию музыки в стиле определенных артистов. www.theverge.com

———
В январе – мае 2024 г. работодатели предлагали IT-специалистам среднюю зарплату в 131 200 руб., что оказалось в номинальном выражении на 18% больше, чем за тот же период предыдущего года

———
Корпорация Apple не будет интегрировать чат-бот Llama из-за опасений о политике конфиденциальности.

———
Bloomberg: ByteDance и Broadcom ведут переговоры про разработку передового ИИ-чипа

———
Китайский лунный зонд «Чанъэ-6» впервые в истории доставил грунт с обратной стороны Луны

Капсула с образцами реголита (поверхностного слоя лунного грунта), сброшенная с зонда на парашюте, приземлилась на посадочную площадку Сыцзыванци в автономном районе Внутренняя Монголия, сообщил телеканал CGTN. Теперь капсулу отправят в Пекин, чтобы извлечь из нее образцы.

Китай запустил зонд «Чанъэ-6» в начале мая, миссия продлилась 53 дня. «Чанъэ-6» при помощи роботизированной руки и бура собирал образцы в бассейне Южный полюс — Эйткен. КНР стала первой страной, которая доставила на Землю грунт с обратной стороны Луны https://t.iss.one/kontext_channel/37435

———
Домохозяйства увеличивают электропотребление быстрее бизнеса.
Потребление электроэнергии населением растет быстрее, чем у бизнеса, посчитали в НИУ ВШЭ. Последнее десятилетие спрос домохозяйств увеличивался в среднем на 2,9% за год, а компаний — только на 0,9%. Всплеск потребления в бытовом секторе начался в 2020 году из-за перехода людей на удаленную работу в связи с пандемией и продолжается в некоторых регионах с развитием туризма и серого майнинга криптовалюты. Однако регуляторы продолжают сдерживать рост тарифов для населения, увеличивая нагрузку на бизнес, говорят аналитики.

———
"Большая восьмерка" стримингов сокращает производство оригинальных проектов.

С января по июнь платформы Netflix, Hulu, Disney+, Max, Prime Video, Paramount+, Peacock и Apple TV+ в совокупности выпустили 367 новых проектов. Для сравнения, за аналогичный период прошлого года на платформах состоялись релизы 452 проектов. Снижение на 20% объясняют неблагополучием стриминговой индустрии, которая никак не может оправиться от забастовок. https://t.iss.one/vodott/6723

———
Число банкротств фирм в Германии достигло максимума почти за десять лет.

С начала года обанкротились уже 11 тысяч компаний  — на 30% больше, чем за первую половину 2023 года, сообщает Creditreform. Виной всему рецессия прошлого года и продолжающийся кризис.

Число банкротств среди физлиц также увеличилось — до 35400 случаев (+6,7%).

———
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Я тут когда-то писал про этот эксперимент Microsoft — расположение серверов в датацентрах под водой. Тогда тон комментариев компании был весьма оптимистичен.
А теперь появилось сообщение, что начатый еще в 2018 эксперимент завершен и продолжения не планируется. При этом подчеркивается, что отказоустойчивость подводных ДЦ оказалась в разы лучше традиционных, процент отказов составил лишь одну восьмую от контрольного традиционного наземного оборудования. Более того, такие ДЦ полностью решают проблему, которой нынче принято попрекать вычислительные центры, занятые машинным обучением: расход дефицитной воды. Расположенные в подводном контейнере сервера никакие водные ресурсы не расходуют.
Даже интересно, что на самом деле кроется за набором общих слов, которыми отделалась компания:
"While we don’t currently have data centers in the water, we will continue to use Project Natick as a research platform to explore, test, and validate new concepts around data center reliability and sustainability, for example with liquid immersion."
https://www.windowscentral.com/microsoft/microsoft-waves-goodbye-to-underwater-data-centers
_______
Источник | #techsparks
@F_S_C_P

Узнай судьбу картами Таро:
Anna Taro bot
Правило 122. Представляйтесь в письме незнакомому человеку, даже если внизу есть развернутая подпись.


Иван, добрый день! Хочу предложить совместный проект…


Иван, добрый день! Меня зовут Игорь, я директор по спецпроектам OOO «ААА». Хочу предложить…


Да, информация об отправителе есть в подписи. Но в начале письма она имеет другую функцию:

1. Показывает, что вы еще не знакомы. Иначе адресат начинает мучительно вспоминать, откуда он вас знает и что вас связывает.

2. Позволяет рассказать о себе менее формально, чем в подписи. Можно, например, написать не «менеджер спецпроектов», а «занимаюсь организацией конференций и фестивалей».

3. И, наконец, эта вводная фраза-представление выполняет функцию смол-тока, который в любом разговоре позволяет не сразу нападать на человека со своей просьбой, а дать ему хотя бы чуть-чуть на настроиться на собеседника.

В общем, даже если у вас очень подробная подпись, в самом начале письма, все равно лучше представляться.
_______
Источник | #digitaletiquette
@F_S_C_P

-------
поддержи канал
-------
Растущая популярность Hamster Kombat вызвала резкую критику со стороны иранских правительственных чиновников и сторонников жесткой линии, которые заявляют, что игра является инструментом «мягкой силы», используемым западными странами — Cointelegraph

———
Opera выпилила Censor Tracker из собственного магазина расширений (судьба других расширений, на данный момент, нам неизвестна). До этого в 21 году Opera выпилила свой встроенный VPN, чтобы комплайнс в России соблюдался.

В Chrome Web Store, плагин доступен

———
Международный уголовный суд в Гааге выдал ордеры на арест Сергея Шойгу и Валерия Герасимова

———
В России с 25 июня ограничат доступ к 81 европейскому медиа из-за запрета на вещание на территории Евросоюза трех российских правительственных СМИ — РИА «Новости», «Известий» и «Российской газеты». Об этом сообщило МИД России. www.vedomosti.ru
Среди заблокированных: Der Spiegel, Die Zeit, El Mundo, El Pais, La Stampa, La Repubblica, Helsingin Sanomat, Le Monde, Liberation, Agence France-Presse, Delfi, Politico, Euobserver.

———
OpenAI оповестил всех китайских разработчиков, что для них больше не доступны OpenAI API, так как их регион в настоящее время не поддерживается.

———
Alibaba запускает англоязычную версию Modelscope (это такой сервис-аггрегатор апи для ИИ наподобие Amazon Bedrock), на котором размещено около 5 тысяч разных моделей.

———
Турецкая лира рухнула до нового исторического минимума — 33 лиры за доллар.

———
Чистая прибыль российских банков в мае снизилась на 7% год к году — ЦБ РФ

Показатель составил ₽255 млрд. Это на 16% меньше, чем месяцем ранее. Регулятор отметил, что основная прибыль снизилась из-за роста резервов и операционных расходов, а также убытков по ценным бумагам.

———
В Сан-Франциско для беспилотных такси от Waymo сняты ограничения на передвижение waymo.com

———
27.8% всего предложения ETH сейчас находится в стейкинге — эксперты Dune https://t.iss.one/markettwits/288580

———
Количество водителей без полиса ОСАГО на российских дорогах составляет 8,7%. Об этом свидетельствуют результаты исследования, проведенного рабочей группой ОНФ «Защита прав автомобилистов» в апреле – мае 2024 года.

———
В Дании все животноводческие фермы обяжут платить налог на выброс CO2. www.nur.kz

———
TechCrunch: OpenAI купила платформу для удаленной совместной работы

———
В Кении шатдаун. Там идут протесты по поводу повышения налогов. Говорят, что уже есть погибшие. x.com

———
VanEck подала в SEC заявку на спотовый Ethereum ETF (8-A)
Аналитик Bloomberg: Ранее VanEck подавала форму 8-A для Bitcoin ETF ровно за 7 дней до запуска.

———
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Зацените этот потрясающий дубляж комедии «Операция "Ы"» — почувствуете всю мощь новой нейронки Merlin Clone.

Она всухую уделывает ElevenLabs в качестве перевода! Правда, выбор языков пока скудный: всего десятка, среди которых есть и русский.

Всем новым аккаунтам дают минуту бесплатного перевода, а потом... вы знаете, что делать 😁
_______
Источник | #neuraldvig
@F_S_C_P

Узнай судьбу картами Таро:
Anna Taro bot
Только что анонсировали новый ASIC для больших языковых моделей: он умеет генерировать 500 000 токенов в секунду!

Эта штука может писать по одному тому "Войны и Мира" каждую секунду. Локально и без доступа к интернету. Это в десятки раз быстрее, чем кластер из 8 специализированных карт NVIDIA H100.

Подходит для любых приложений на основе трансформеров: Llama, Stable Diffusion, Sora, Claude, GPT и так далее.

САМЫЙ БЫСТРЫЙ ЧИП ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

– Sohu – самый быстрый чип ИИ на планете.
– Обрабатывает более 500 000 токенов в секунду с использованием модели Llama 70B.
– Позволяет создавать продукты, невозможные на GPU.
– Один сервер 8xSohu заменяет 160 H100.

СПЕЦИАЛИЗИРОВАННЫЙ ЧИП ДЛЯ ТРАНСФОРМЕРНЫХ МОДЕЛЕЙ

– Sohu – первый специализированный чип (ASIC) для трансформерных моделей.
– Благодаря специализации, чип обеспечивает значительно большую производительность.

ПОПУЛЯРНОСТЬ ТРАНСФОРМЕРНЫХ МОДЕЛЕЙ

– Сегодня все крупные продукты ИИ (ChatGPT, Claude, Gemini, Sora) работают на трансформерах.
– В ближайшие годы все крупные модели ИИ будут работать на специализированных чипах.

НЕИЗБЕЖНОСТЬ СПЕЦИАЛИЗИРОВАННЫХ ЧИПОВ

– Специализированные чипы обеспечивают значительно лучшую производительность по сравнению с универсальными решениями.

Когда-то биткоин фармили на видеокартах. Теперь его добыча немыслима без специализированных чипов (ASIC). Та же участь ждёт видеокарты в ИИ.

Внимательно смотрим на акции Nvidia. Акции ведущего поставщика видеокарт и чипов для ИИ падали на 18% за два дня, сейчас падение 11%. https://x.com/etched/status/1805625693113663834

#ии #чипы #llm
_______
Источник | #iintellect
@F_S_C_P

Узнай судьбу картами Таро:
Anna Taro bot
Спустя 10 лет с начала волны легализации наркотиков в США стали нехотя признавать очевидное - этот эксперимент закончился полным фиаско. Индустрия по легальному выращиванию и продаже наркотиков оказалась в настоящем кризисе из-за невозможности конкурировать с картелями.

Олицетворением этого стало недавнее банкротство MedMen, стартапа по продаже каннабиса с капитализацией в 3 миллиарда долларов. 80% марихуаны выращивается нелегально, без уплаты налогов или каких-либо полицейских проверок. Легальный бизнес же разоряется.

Наркокартели контролируют тысячи ферм на западном побережье США, зарабатывая миллиарды долларов в теневом секторе экономики. Легальных конкурентов они выдавливают с рынка, кого-то физически уничтожают. Китайские триады организовали более 3000 ферм в Оклахоме. А вместе с ними и лаборатории по созданию “тяжёлых наркотиков” - опиоидов.

100 тысяч американцев ежегодно умирают от передоза наркотиками. Это больше, чем потери США в Корее, Вьетнаме и Ираке вместе взятых. Волна наркомании привела к падению продолжительности жизни американцев. Она же усугубляет повальный кризис преступности, с разгулом картелей.

Наркотики по популярности в США уже обошли алкоголь. Отдельные штаты, чьи улицы забиты умирающими от передоза наркоманами, теперь пытаются хоть как-то это ограничить. Ну а Трамп обещает объявить войну картелям и ввести войска на север Мексики. Проблема лишь в том, что нарколобби день ото дня становится всё сильнее. И картели уже поднимают под себя сами США.
_______
Источник | #malekdudakov
@F_S_C_P

-------
поддержи канал
-------
Media is too big
VIEW IN TELEGRAM
Первая реклама с Sora американской сетки для продажи игрушек

>Делаешь технологию чтобы работяги могли запускать гусей за копейки

>И без того крупный бренд берет технологию и экономит на людях делая рекламу с Sora

Чтож, будет срач
_______
Источник | #denissexy
@F_S_C_P

Узнай судьбу картами Таро:
Anna Taro bot
Мы внезапно оказались на грани квантового скачка в обучении и использовании больших языковых моделей!

ПРЕИМУЩЕСТВА СПЕЦИАЛИЗИРОВАННЫХ ЧИПОВ

– Sohu более чем в 10 раз быстрее и дешевле, чем даже самые передовые GPU, такие как NVIDIA Blackwell (B200).
– Один сервер Sohu обрабатывает более 500 000 токенов Llama 70B в секунду, что в 20 раз больше, чем сервер H100 и в 10 раз больше, чем сервер B200.
– Тесты проведены в режиме FP8 без использования разреженности при 8-кратном параллелизме модели с длиной ввода 2048 и длиной вывода 128.

ЗАМЕДЛЕНИЕ РАЗВИТИЯ GPU

– За последние четыре года плотность вычислений (TFLOPS/мм^2) улучшилась всего на ~15%.
– Новые GPU (NVIDIA B200, AMD MI300X, Intel Gaudi 3, AWS Trainium2) удваивают свою производительность за счет использования двух чипов на одной карте.
– Из-за замедления закона Мура единственный способ улучшить производительность – это специализация.

ЭКОНОМИЧЕСКИЕ ПРЕИМУЩЕСТВА

– Стоимость обучения ИИ-моделей сегодня составляет более $1 млрд, а их использование – более $10 млрд.
– Специализированные чипы (ASIC) в 10-100 раз быстрее GPU.
– С ростом стоимости обучения моделей с $1 млрд до $100 млрд риск тестирования новых архитектур резко возрастает.
– Специализация на трансформерах предпочтительнее, чем тестирование новых архитектур.

НЕИЗБЕЖНОСТЬ СПЕЦИАЛИЗАЦИИ НА ТРАНСФОРМЕРАХ

– Трансформеры выиграли "аппаратную лотерею" благодаря огромным инвестициям в оптимизацию их работы.
– Стартапы используют специализированные библиотеки ПО для трансформеров, такие как TRT-LLM и vLLM.
– С выходом на рынок Sohu и других ASIC наступит точка невозврата. У новых архитектур не будет шансов, если они не смогут работать быстрее на GPU, чем трансформеры на Sohu.
– Если это произойдет, будет создан ASIC и для новой архитектуры.

Подробнее о работе Sohu можно узнать в посте на сайте Etched.

Вот так и получается, что прогресс ускоряется в геометрической прогрессии. Ограничения, вызванные дорогими видеокартами только что уменьшились на ДВА ПОРЯДКА.

А теперь представьте, как такие чипы и модели, которые на них работают, ускорят технический прогресс во всех сферах.

В интересные времена живём.
_______
Источник | #iintellect
@F_S_C_P

Генерируй картинки с ⛵️MIDJOURNEY в Telegram