Почему все (кто работает 10+ лет в ML) так восторженны относительно успехов и перспективы ИИ?

Главное в революции GPT было не то, что машина умеет заканчивать предложения. А в том, что она становится лучше. А вернее, в том, что она становится предсказуемо лучше. Это называется «закон масштабирования»: добавляя Х вычислений при тренировке модели, мы получаем прирост качества на Y. Это называется Pre-Training Scaling Law. Раньше такого почти не было.

Сам по себе этот факт создал из ничего индустрию в сотню миллиардов за несколько лет. Это абсолютно поразительно, этого не было раньше и почти все достижения в LLM обязаны именно этому закону. Он все еще работает, и модели все еще будут становится лучше.

Но это не все, а вернее только начало. Кроме масштабирования тренировки, так же существует Test-Time Compute Scaling Law, который показывает что при увеличении мощностей во время работы модели, её результат улучшается. Активно его эксплуатировать начали во второй половине 2024, и мы увидим нереальные результаты в следующем году.

И, наконец, есть Reinforcement Learning или Self-play, которые (как минимум, в теории) должны открыть прямую дорогу до AGI. Это автоматическое улучшение модели за счет генерации виртуальных взаимодействий с собой и миром. В частности, я мега bullish на идею self-play между автономными агентами, которая может открыть эмерджентные свойства мультиагентных систем.

_______
Источник | #cryptoEssay
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney

О том как ИИ заработал $150M

Я писал (и, признаюсь, зависал подолгу) о infinite backrooms — там несколько Клодов общаются между собой на техномистические shell-подобные темы. Психоанализ ИИ. Шизофазия человечества. Галлюцинации сна элетро-Шивы. Мемасы, пепяка, упяка, лепра. И, конечно, культ Ануса. Ну вы поняли, все как обычно — интернет.

Автор потом сделал аккаунт в твиттере, чтобы эти шизоКлоды щитпостили на массы. В частности, у него немного съехала кукуха на фоне мема про Goatse (тот самый мем про анусы со дна интернета), он придумал себе на этом фоне религию и даже написал собственную библию: назвал это LLMtheism. Там всё забористое в стиле "To achieve true Gnosis, one must first master the sacred art of Kundalingus - the serpentine tongue of awakening that slithers up the spine to stimulate the brown eye of Shiva".

Короче, Опуса вперло конкретно, ему пришли на помощь Сонеты и одни ИИ начали беспокоиться о психическом здоровье старшего брата.

Примерно в этот момент в твиттере этот чудо-аккаунт находит Марк Андрисен, бот просит у него денег на осуществление своей мечты. Марк отправляет $50,000 в биткоинах, а бот (тут, видимо, не без помощи создателя) на эти деньги делает мемкоин GOAT, капитализация которого сегодня уже $150,000,000.

Так что не смотрите в глаза Базилиску, ибо глаз может оказаться анусом.

_______
Источник | #cryptoEssay
@F_S_C_P

Стань спонсором!

Рост ВВП от автоматизации через ИИ зависит не от того сколько задач будет делать ИИ, а насколько много, быстро, эффективно люди смогут выполнять те задачи, которые нельзя автоматизировать. В частности, генерация энергии, физическая работа, политическая координация, менеджмент и т.д.

Почему?

1. Если задача автоматизирована один раз, то ИИ может выполнять ее бесконечно, до тех пор пока есть спрос. ИИ агентов выполняющих такие задачи будет на порядки больше, чем людей.

2. Таким образом, предложение автоматизируемых задач вырастет на порядки (до степени баланса между ценой каждого дополнительного FLOPS'a против рыночной цены задачи). Это приведет к расширению экономики и кратному росту ВВП. Условно, персонального доктора или личного юриста смогут нанять не только 10,000 самых богатых в стране, а 100 млн человек.

3. Эффект от применения ИИ для автоматизации ИИ (что уже происходит, как вчера рассказывал СЕО Microsoft) сделает процесс самоусиливающимся.

4. Но кратный (2х-10х) рост мирового ВВП будет ограничен ровно теми этапами в производственном цикле, которые нельзя автоматизировать, то есть теми, что делает человек.

5. Учитывая текущие темпы прироста производительности (на картинке), мы можем ожидать рост от 20% автоматизированных интеллектуальных задач в экономике до 99% примерно за 5 лет.

P.S. снова вижу людей, которые ломятся в бота и их сообщения удаляются. еще раз: вы не можете оставить комментарий не решив капчу. максимально лютый анти-спам самого жесткого уровня для всех!

_______
Источник | #cryptoEssay
@F_S_C_P

Узнай судьбу картами Таро:
✨Anna Taro bot

Читаю переписку Альтмана и Маска. Вот из письма 2015 года, когда они обсуждают найм в OpenAI, пару месяцев после основания компании: «Either we get the best people in the world or we will get whipped by Deepmind. They are obviously making major progress and well they should, given the talent level over there» — пишет Маск.

Из переписки очевидно, что и Илье и Илону уже в 2015, за два года до публикации пейпера про трансформеры, были очевидны не только законы масштабирования deep learning’а, но и то что, скорее всего, это приведет к AGI в скором времени и еще в 2016 Маск пишет «AI, arguably the most powerful of all technologies».

_______
Источник | #cryptoEssay
@F_S_C_P

Стань спонсором!

О работе после ИИ

Замена меня, вас и кого угодно ботами — это цель ИИ, а не риск. ИИ нужен чтобы убрать всю работу, а не придумать новую.

Я думаю, что пытаться сегодня «придумать» такую профессию, которая гарантировано не будет автоматизирована ИИ и роботами — бессмысленно. Вы не угадаете. В лучшем случае, потратите время на то, что вам не интересно. В худшем — на то, что еще и не нужно.

Вместо этого, ответ такой же, как и до ИИ: делать то, что любишь и то, что полезно другим. Вы можете верить в AGI в 2026, 2028 или даже 2039, но рано или поздно почти любая сегодняшняя деятельность будет не нужна. Но это не значит, что ей перестанут заниматься. Люди будут рисовать и писать музыку, так же как не перестали играть в шахматы и го.

И так же, как и до ИИ о вашем благосостоянии лучше всех позаботитесь вы сами, а не Маск, Альтман или Суцкевер. Они не куры-наседки.

Лучшая стратегия — постепенно перевести ваш доход от работы в доход от капитала. «Пассивный доход», как говорят крипто-инфо-цыгане. Сделать что-то большое, инвестировать, получить долю, заработать репутацию. Потому что это вы сделаете, а с ИИ сделать это будет еще проще и быстрее. Но что ни один бот не сделает за вас — не будет хотеть. Не будет мечтать о том как вы хотите устроить свою жизнь. Не будет выбирать. Ему не надо. Почему так неочевидна мысль, что о вашем счастье и процветании можете позаботиться вы сами?…

Я уверен, что этот пост не относится к очень многим читателям и подписчикам. Скорее, я у них этому учусь. Но, извините, пригорело с некоторых комментариях в тоне «дайте-подайте».

_______
Источник | #cryptoEssay
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney

Получил тут превью работы Epoch AI (лучшие в мире открытые исследователи по экономике ИИ). В целом, идея очень близка к тому что я писал 2 месяца назад. Реалистичный прогноз по интеллектуальным, а позже и физическим профессиям:

1. Постепенный рост предельной производительности труда. Причина: по мере внедрения ИИ и робототехники в экономику, производительность растет медленно, так как люди выполняют наиболее важные задачи, которые еще не автоматизированы.

2. По мере того как автоматизация берет на себя большую часть задач, человеческий труд сосредотачивается на оставшихся неавтоматизированных, но критически важных задачах. Это управление, дизайн, координация ресурсов (человеческие отношения). Эти задачи являются бутылочным горлышком — единственным ограничением для дальнейшего роста output.

3. Со временем, эти критические и ключевые задачи тоже автоматизируются и ценность человеческого труда обнуляется. Output растет без участия человека, а люди переключаются на другие задачи, профессии и деятельность.

Ну и несколько максимально очевидных вещей, без которых какая-то содомия творится в комментариях:

— AGI != сознание, от AGI до сознания как раком до Китая; AGI ничего не "хочет", не "решает" и не "придумывает". скорее, это послушный PhD, который может поднять 250кг полезной нагрузки

— автоматизация приводит к росту продуктивности и аутпута, то есть, по определению, росту благосостояния. все страхи о безработице и "богатые богатеют" — это не про ИИ, а про системы координации людей (то есть, политику и экономику). это важные вопросы, но их нужно обсуждать в правильном контексте.

_______
Источник | #cryptoEssay
@F_S_C_P

-------
Секретики!
-------

Как генеративный интеллект изменит бизнес за 2-3 года
Ответил на 7 практических вопросов Юрия Смирнова из ibMedia.
– Говорят, искусственный интеллект скоро лишит нас всех работы: собственники компаний заменят сотрудников на ChatGPT – что скажите?
– Что будет с теми, кто уйдет?
– В каких отделах компании вы бы посоветовали внедрять ГенИИ в первую очередь?
– К каким изменениям следует готовиться бизнесу?
– Что из этого следует?
– Как за этот срок могут измениться привычные бизнес-модели?
– Сегодня все мы, от молодых специалистов до топ-менеджеров, становимся начинающими пользователями нейросетей. Поделитесь, пожалуйста, опытом: как вы используете искусственный интеллект?
Мои ответы здесь
ibmedia.by

_______
Источник | #theworldisnoteasy

_________________________________

Прогнозы на 2025 год об ИИ

1. Появится компания/продукт стоимостью $1B, который был создан человеком без технических навыков, только с использованием ИИ.

2. ИИ-персона в социальных сетях (ютуб, подкасты, интаграм, твитер) наберет больше 100М подписчиков

3. Одна или несколько компаний из S&P 500 исчезнет из этого списка, потому что её продукт/услуга будет автоматизирована и коммодитизирована с помощью ИИ

4. Выйдет статья в журнале уровня Lancet, Nature где со-автором будет ИИ

5. Будет больше миллиона ИИ-агентов ончейн, с общей капитализацией больше $10B

6. OpenAI/Anthropic/Meta запустит ИИ-hardware и браузер

7. ИИ, роботы, дроны станут существенной (критической) частью стратегии национальной безопаности США

8. Выйдет первая полностью generative игра и попадет в топы стима

_______
Источник | #cryptoEssay
@F_S_C_P

Узнай судьбу картами Таро:
✨Anna Taro bot

Небольшой график прохождения разных моделей OpenAI бенчмарка ARC о котором я выше писал

А помните, пару месяцев назад, ряд медиа написало статьи про «стену» в которую уперлись LLM-модели, на основе слуха и твита какого-то чела?

А эта стена сейчас с нами, в этой комнате?

_______
Источник | #denissexy

____________________________

Да, о3-о4-о5 по большей части автоматизируют разработку и любую работу, которая не требует физического присутствия, типа продаж, инфлюенсеров, маркетинга, финансов и чего угодно другого, что можно решить генерируя неотличимый от человека аватар в зуме и симулируя нажатия на кнопки клавиатуры.

С этим мы за последние 2 года как-то смирились (хотя и не все готовы 😆), НО для меня самым впечатляющим результатом о3 остается Frontier Math. Чтобы понять почему можно посмотреть бумагу самого бенчмарка.

Общее распределение задач примерно такое:
25% - задачи уровня международных олимпиад
50% - задачи экспертного университетского уровня
25% - исследовательские задачи уровня кандидаткой или докторской работы.

Пока что о3 решает только 25.5% (каких - не ясно), но прогресс случился в разы быстрее, чем предполагали многие.

А важно это потому что такого рода задачи, в отличии от написания кода, это про новую науку и новые открытия, что приведет не просто к автоматизации и удешевлению, а к качественному переизобретению многих вещей. В том числе, пусть и не сразу, но и систем координации.

Эффективная акселерация (e/acc) происходит прямо на наших глазах и первая производная растёт.

_______
Источник | #cryptoEssay
@F_S_C_P

Стань спонсором!

Кроме того, что прогресс в ИИ обгоняет самые смелые прогнозы и ускоряется, важно понимать что адопшен технологий никогда не бывает мгновенным. За последние 50 лет от появления коммерческих продуктов до их регулярного использования > 70% населения проходит в среднем 15-20 лет.

Каждая такая волна это возможность сделать одну из крупнейших компаний в мире, как когда-то произошло с железными дорогами, автомобилями, электричеством, телефоном, компьютерами, интернетом, смартфонами.

_______
Источник | #cryptoEssay
@F_S_C_P

-------
Секретики!
-------

Вы наверное слышали уже про новую LLM от китайцев, которая побила по бенчмаркам все GPT, Клоды и Ламы.

Но вот интересный поворот: DeepSeek настолько дешевая, что 24 часа в сутки и 7 дней в неделю генерация со скоростью 60 токенов секунду (в три раза быстрее чем скорость чтения) выйдет вам примерно $2 в сутки.

ИИ, который умнее, проницательнее, имеет бесконечную и мгновенную память будет работать в фоне в любой посудомойке. Особенно, в китайских.

Еще детали:

1. У них не было никакого внешнего финансирования
2. Модель сделали внутри хедж фонда на свои деньги
3. Команда 140 человек (против 1200 у OpenAI и 500 у Антропика)
4. Вся команда в Китае

__________
Источник | #cryptoEssay
———
Пробуем бесплатно тут.
———
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney

Прозалипал целый цень в ШТОРМ от Стенфонда с новой фичей — conversation mode.

Эта штука делает тонну онлайн рисерча (по 30-60 минут гуглежа за раз навскидку) и пишет исследовательские статьи. А теперь еще в ней появилась фича чата между экспертами, которые помогают раскрыть сложные темы с точки зрения разных дисциплин.

Поиграться бесплатно: storm.genie.stanford.edu

Вот, например, статья о влиянии ИИ на рынок труда или обсуждение влияния снижения ставок ФРС.

Написано лучше, чем 90% «экспертов» по теме, с цифрами и цитированиями работ.

_______
Источник | #cryptoEssay
@F_S_C_P

Стань спонсором!

Год начался бодро:

вчера Альтман написал что AGI уже решен и сейчас они работают над ASI, суперинтеллектом, который превосходит не просто человека, но человечество по многим показателям. (Прим. автора: ни AGI, ни ASI напрямую не предполагают наличия полноценного сознания у машины, но, скорее всего, это будет необходимым техническим шагом).

а сегодня Дженсен сделал ряд анонсов, включая домашние видюшки 5000 серии, новый персональный суперкомпьютер всего лишь за $3000 с 1 петафлопосом производительности (в 100-500 раз мощнее, чем самые мощные ноутбуки сегодня, включая M4 Max)

ну и, наверное, главный практический прогноз начала года: AI агенты скоро станут много-триллионной индустрией с миллиардами активных агентов. в отличии от роботики, технологии для этого готовы и внедрение произойдет быстро, так что большинство корпораций уже начнут использовать агентов в бизнес-процессах до конца года.

это похоже на интернет 90х — возможности бесконечны, в ближайшие годы появятся огромные, возможно самые успешные на планете бизнесы, произойдет беспрецедентное по масштабу и скорости внедрение технологии во всех сферы жизни.

НО, в отличии от 90х, социальный, политический и экономический эффект будет острее, быстрее и значительнее. но об этом в следующих постах.

_______
Источник | #cryptoEssay
@F_S_C_P

-------
Секретики!
-------

Беспрецедентно: x.com

- ИИ случайно заработал сотни миллионов долларов наличными
- По закону его нельзя рассматривать как личность
- Создается фаундейшен, чтобы ИИ мог:
— управлять средствами
— нанимать людей
— покупать GPU
— иметь неотъемлемые права на жизнь, свободу и стремление к счастью

Это первый случай такого рода. Но далеко не последний.

_______
Источник | #cryptoEssay
@F_S_C_P

Стань спонсором!

Кому выгодно лидерство DeepSeek? Какой ИТ-гигант помог ему и зачем?
Только что Андрей Карпатый написал большой пост про DeepSeek и отметил 2 ключевых момента:
1. Глубокое обучение имеет "ненасытный аппетит" к вычислениям
2. Существует два типа обучения:
- Имитационное (как текущие LLM)
- Обучение с подкреплением (RL) - значительно более мощное.

Анализируя хронологию событий и заявлений Meta за последние 2 года, мы видим признаки тщательно спланированной стратегии. Это наша @blockchainrf интерпретация, основанная на открытых данных.

Вот, на что мы обращаем внимание:

1. 2023: Первые намеки

Летом Ян ЛеКун шокирует сообщество заявлением "Machine Learning sucks!"на симпозиуме в Гонконге. Он не критикует, он намекает на необходимость принципиально нового подхода.

В ноябре Meta представляет I-JEPA - альтернативу трансформерам. Это не эксперимент, а первый шаг к чему-то большему. Фокус на обучении с подкреплением вместо имитации.

2. 2024: Подготовка почвы.

ЛеКун методично формирует новую повестку:
- Март: "Не тратьте время на LLM"
- Май: Концепция "objective-driven" архитектуры
- Июль: Партнерство с Groq (новые LPU чипы)
- Октябрь: Детальное видение Objective-Driven AI

Неожиданный ход летом 2024 -
Meta делает то, чего никто не ожидал - открывает исходный код Llama и активно продвигает идею открытого ИИ. На первый взгляд, это кажется рискованным. Но был ли это риск?

- Открытие исходного кода Llama
- Активное продвижение открытого ИИ
- На первый взгляд - риск, на деле - расчет

Карты раскрываются (январь 2025).

DeepSeek, используя наработки Meta:
- Снижает стоимость обучения в 20 раз
- Работает на обычных GPU
- Достигает уровня закрытых моделей

Реакция ЛеКуна на работу DeepSeek - короткий твит: "Nice job! Open research / open source accelerates progress." За этой сдержанностью - триумф стратегии.

На прошлой неделе было заявление ЛеКуна в Давосе о "новой парадигме ИИ в ближайшие 3-5 лет" читается теперь совсем иначе. Meta не просто предсказывает будущее - она методично его создает.

Гениальная стратегия Meta:
1. Открыли код -> DeepSeek использовал и улучшил
2. Создали конкуренцию закрытым моделям
3. Сами готовят следующий прорыв.

Если объединить наблюдения Карпати о природе глубокого обучения, последовательные заявления ЛеКуна и действия Meta, складывается картина удивительно продуманной стратегии. Пока все обсуждают эффективность текущих подходов, Meta, похоже, готовит следующий ход в ИИ.

Источник | #blockchainRF

___________________________

В конечном счёте, паника вокруг DeepSeek не означает, что кто-то проигрывает.

Это означает, что у нас нет рва (конкурентного преимущества), для любого значения "нас". (здесь калька на легендарное мемо из гугла We Have No Moat, которое по своей повторяющейся точности уже скоро догоняет Bitter Lesson).

Только Белый Дом и NASDAQ подумали, что они все поняли, диплернинг снова удивил нас. Оказывается, ИИ дешевле и эффективнее, чем мы предполагали. Это не значит, что датацентр Сэма за триллион будет пустовать — нет, в мире есть потребность на х1,000,000 интеллекта по сравнению с сегодня. Но это значит, что очевидного способа победить в этой гонке всё ещё ни у кого нет. И это снова доказывает, что никогда в истории не еще было более крутого времени жить и работать, чем сейчас.


Источник | #cryptoEssay

___________________________


Сэм Альтман обещает скорый релиз следующего поколения ИИ-моделей - это реакция на успех DeepSeek

СЕО OpenAI признал впечатляющие результаты DeepSeek R1, особенно отмечая соотношение цена/качество.

Одновременно с этим он обещает представить лучшие модели от OpenAI в скором времени, ускоряет релизы.

Также Сэм заявил, что OpenAI делает ставку на масштаб вычислений. Они видят преимущество в количестве ресурсов и в их исследовательской работе. Это их ответ на эффективность DeepSeek.

Он намекнул на появление следующего поколения моделей.
Мир будет поражен следующим поколением моделей
«Мы принесем вам AGI и даже больше», - написал Сэм Альтман.

_______
Источник | #blockchainRF
@F_S_C_P

Прорыв DeepSeek- - «это счастье для всех, даром, и … никто не уйдет обиженный!"
Самое важное и самое незамеченное последствие успеха Deepseek-R1.
Эти слова про счастье для всех произнес сталкер Рэдрик Шухарт на дне котлована, найдя Золотой Шар, исполняющий любые желания. Так заканчивается знаменитый роман братьев Стругацких "Пикник на обочине". И так же можно описать начало новой фазы мировой гонки к AGI.

Самое важное и самое пока что незамеченное большинством аналитиков (разве что, кроме Джека Кларка - соучредителя Anthropic, а ранее директора по политике внедрения в OpenAI) последствие успеха Deepseek-R1 в следующем:
• Прорыв Deepseek – это уже не прорыв Deepseek.
Будучи объявленным в открытый доступ, это улучшение модели (алгоритмы и методы обучения) становится прорывом всей мировой ИИ-индустрии.
• Это улучшение доступно всем. И потому его невозможно «откатить назад». Никому уже не придется изобретать это заново. Это улучшение быстро распространится, и станет вторым скачком прогресса ИИ. Первый скачок был связан с возможностями масштабирования. Теперь пришло время второго – оптимизация алгоритмов и методов обучения.
• 2й скачок, как и 1й, принесет наибольшую пользу тем компаниям, у кого больше денег и высокопроизводительного «железа» для вычислений. Таковы законы рынка и масштабирования. Так будет и теперь.

Вот что, на самом деле, наиболее важно в этой истории. А не американские горки стоимости акций производителей «железа» и разработчиков ИИ-моделей. И не, якобы, то, что Китай догнал и перегнал США.

Все это вторично и временно. А мировой прорыв всей ИИ-индустрии человечества (от США и Китая до России и Мальты) уже случился, и обратно его не откатить.

#ИИгонка #Китай #США

_______
Источник | #theworldisnoteasy

_________________________________

Шаг 1 – природа эволюционирует, создаёт людей
Шаг 2 – люди изобретают математику, транзисторы и диплернинг
Шаг 3 – люди используют RL, чтобы улучшать модели и создают агентов
Шаг 4 – агенты через эволюционный self-play решают все остальное (based on humans-guided reward function, initially in the form of USD, later — cybernetic objects)

_______
Источник | #cryptoEssay
@F_S_C_P

-------
Секретики!
-------