Обожаю такие вопросы в твиттере и всегда отправляю на торренты. Там есть всё, наверняка!

По поводу новой модели o1 от OpenAI.

OpenAI выпустили модельный ряд o1, предназначенный для того, чтобы тратить больше времени на размышления, прежде чем отвечать. Они могут рассуждать о сложных задачах и решать более сложные проблемы, чем предыдущие модели, например, в науке, программировании или математике.

Я начну с практических вопросов. Ну а потом привалю с дивана неумных мыслей (ибо успел подумать медленно).
Также держите содержательные посты от Игоря, где все очень хорошо расписано по технической части.

Смотрите, все довольно хорошо разжевано в блоге OpenAI, переводите хромом, там внятно и по делу.
https://openai.com/index/introducing-openai-o1-preview/
https://openai.com/index/learning-to-reason-with-llms/

Итак, в народ выпустили две модели:
o1-preview - этот тот самый мыслитель.
o1-mini - это мыслитель, больше заточенный под код.

Для тех у кого chatGPT Plus (платный) o1 и o1-mini раскатывают прямо сейчас (у меня уже появилось).
Для бесплатных аккаунтов скоро будет о1-mini (про лимиты неизвестно).
Также o1 добавили в плагин Double для VSCode. Вроде можно кидать запросы бесплатно.

Лимиты даже на платном chatGPT Plus - жоские.
30 сообщений для o1-preview
50 сообщений для o1-mini
В НЕДЕЛЮ!!!

Это в принципе понятно. Очень дорогой инференс, то есть обсчет ваших вопросов.

По АПИ - 20 запросов в минуту. Но во-первых, цены на о1 апи очень высокие, а во-вторых, вам придется платить не только за вызовы, то и за размышления внутри, там есть reasoning tokens и они небесплатные.

Так что семь раз подумайте, а потом спросите.

Самое главное. о1 - это не новая gpt-4o. Она ДЛЯ ДРУГОГО.
Если грубо, то это не ассистент, не помощник, не справочник или замена гугла.
Это решатель задач.

Она не подойдет для написание текстов, перефразирования, даже перевода, или редактирования текстов. Для набрасывания концепций, промптов, разговоров про жизнь, технических вопросов про Блендор, стимулирования вашего тщедушного вдохновения или психоанализа.
Для всего этого лучше "старая" gpt-4o. Пока.

Для чего о1?
(тут вам немедленно надо сходить сюда и поглядеть все видосы)

Формально она вам нужна, если вы решаете сложные задачи в науке, программировании, математике и других подобных областях. o1 может использоваться биологами для аннотирования данных секвенирования клеток, физиками для создания сложных математических формул, необходимых для квантовой оптики, а также разработчиками во всех областях для создания и выполнения многоэтапных рабочих процессов.

"многоэтапных рабочих процессов" тут ключевое.

По ссылкам выше много информации как о1 побивает олимпиадников, кандидатов наук и прочих исчезающих особей. Ибо умеет рассуждать поэтапно.

И меня прям срезал пост Ноама Брауна из OpenAI:
o1 думает несколько секунд, но мы стремимся к тому, чтобы будущие версии думали часами, днями и даже неделями. Стоимость умозаключений будет выше, но какую цену вы готовы заплатить за новое лекарство от рака? За революционные аккумуляторы? Для доказательства гипотезы Римана? ИИ может стать чем-то большим, чем чат-боты..

Просто экстраполируйте то, что происходит сейчас. Не удивлюсь, если не сможете, ибо для кожаных мозгов это сложно.

Ну и самое главное.

Вот есть у вас 30 запросов в неделю...
О чем будете спрашивать?
Есть у вас задачи (за пределами программирования), которые требуют НЕ действий, НЕ ответов на вопросы и письма, НЕ написания доков или планов? А размышлений.
Понятно, что вы можете загрузить ея известными математическими проблемами, вопросом Луны и Земли, теоремой Ферма, парадоксами из википедии. В качестве демо или развлечения.
Но вот у вас самих, кроме кодинга, есть такие задачи?

Пишите в коменты, порешаем...

@cgevent

OpenAI сжалился над нами и увеличил лимиты на новые модельки или им просто нужен больший объем данных, чтобы “дообучить” основную модель o1

Новые лимиты:
- 50 запросов в день для o1-mini (было 50 запросов в неделю)
- 50 запросов в неделю для o1-preview (было 30 запросов в неделю).

И как сказал бы Джейсон Стэтхэм:

Они расширили лимиты? Интересно, хватит ли запросов, чтобы ИИ объяснил, куда всегда пропадают мои носки из стиралки?

ИИволюция

У меня вчера наконец-то добрались руки до теста Cursor. Я пока не покупал подписку ($20 в месяц), а по подписке там и лимиты выше и Code Composer есть для работы с проектом, а не с одним файлом (я просто потестил возможности).

За час сделал удобный под себя туду-лист, который висит в статус баре в MacOS и можно очень быстро добавлять новые задачки. Всегда перед глазами в шапке экрана! Сидишь на мите и нужно быстро добавить напоминалки, тудушки, незабывашки. Обычно я либо в Day Flow бегу, либо в календарь, или даже в Заметки. Много еще чего можно докрутить, прикрутить, буду по мере наличия времени улучшать под себя.

И вот какие выводы:
- Cursor мега крутой инструмент для разработки с помощью нейросетей. Он уже даже o1-mini и o1-preview поддерживает.
- Подписка ($20/мес) точно стоит своих денег, так как сильно расширяет возможности Cursor.
- Сделать удобную утилитку под себя за пару вечером прям супер реальная тема в наши дни.
- Cursor идеальный инстурмент для продактов, чтобы самим быстро запилить прототип или мвп и потрогать его, не затрачивая большие ресурсы компании.

Если вы уже пользуетесь курсором, расскажите что интересного с помощью него уже написали или пишите?

ИИволюция

Вчера я писал, как сделал простое приложение планировщик дел для MacOS с помощью Cursor.

Но что в этой истории дико неудобно, так это постоянное переключение контекста. Приложения для iPhone и Mac OS нужно собирать и запускать через XCode. И получается ты пишешь код в Cursor, накатываешь изменения, сохраняешь, переключаешься на XCode, там запускаешь проект, смотришь результат, снова переключаешься на Cursor и так постоянно. Это выматывает и на это уходит время.

В идеале я хотел бы, чтобы среда разработки после внесения изменений, сама собирала проект, запускала и показывала изменения. Но кажется, что с XCode эта история пока сложновата. Или нет?

Вчера, в комментариях прислали статью, как можно упростить этот флоу. Я пока не попробовал, но с вами поделюсь, так как выглядит схема рабочей.

Если кто-то из вас создает приложения для iPhone и Mac и использует для разработки Cursor, вот статья с описанием упрощения схемы Cursor + Xcode.

Напишите в комменты, если кто-то уже так и делает и есть ли минусы/ограничения/подводные камни?

ИИволюция

Как преуспеть в пост-AI экономике? Если ИИ автоматизирует все работы, то что люди будут делать?

Из того, что я вижу сейчас — ни у кого толком нет хорошего ответа на таймлайн этой великой автоматизации и как именно к ней готовиться. При этом, очевидно, что масштаб будет огромный, и он приведет как к позитивным, так и негативным последствиям.

В прикрепленном сообщении из одного нашего закрытого чатика от экс-фаундера Stability AI, он говорит важную мысль: трудовая денежная система перестаёт иметь смысл. Это не произойдёт одномоментно и повсеместно, но это точно будет в сотни раз быстрее, чем прошлые переходы, как например индустриальный.

Капитализм работает за счет решения проблем. Неэффективности рынков. Но в ситуации, когда ты можешь автоматизировать поиск неэффективностей, такие возможности будут исчезать еще до того, как человек об этом подумает. Все эти микро- и мини-бизнесы типа студий дизайна, инстаграм-магазинов, консалтинга, рекламных и обучающих компаний, локальных юристов, бухгалтеров не смогут конкурировать с машинным интеллектом, который делает все то же самое, но в сотню раз быстрее и дешевле.

Вот возьмём какой-нибудь купи-продай онлайн бизнес. ИИ умеет анализировать любые метрики с амазона и гугла, тестировать сотни гипотез, мгновенно писать софт или отбирать из тысяч китайских поставщиков и заключать контракты с лучшим. Любая возможность на рынке моментально эксплуатируется до того, как предприниматель, который может её решить вообще задумается об этом.

Для GPU-rich ситуация немного лучше. Маск построил ИИ-датацентр на $3 млрд, Мета делает что-то похожее. Потому что для технологической компании скорость роста и выживание зависит от того насколько быстро она сможет "отъесть" рынок за счет автоматизации, будь то роботы на заводе или работа журналиста, аналитика, маркетолога.

Ответ на вопрос в начале поста не очевиден. UBI и всякий там социализм может звучать как хорошая идея, но это не проработанные идеи, у которых нет реального опыта внедрения. Я думаю, эта тема совершенно недостаточно изучена и хочется продолжать сюда копать в следующих постах.

Самым глупым в данном контексте мне кажется отрицание эффекта только из-за того, что люди смотрят на конкретный датапоинт вместо тренда. Типа, мол, "у меня gpt не смог ответить на вопрос Х, поэтому он не сможет никогда". Это типичная fallacy. Потому что в ML важны законы масштабирования, а не текущая производительность. GPT открыл и проехался на 3-4 порядка перформанса на одном таком законе, с о1 теперь начинается новая горка, и явно не последняя. Вот, например, вчерашний пейпер из Стенфорда, который говорит: “Мы математически доказали, что трансформеры могут решать любую задачу, если им разрешено генерировать столько промежуточных токенов рассуждения, сколько потребуется. Удивительно, но постоянная глубина достаточна.”

Я думаю, что глупо и безответственно как отрицать, что произойдет фундаментальный сдвиг структуры рынка труда в течении 3-4 лет, так и считать что из-за этого сдвига "все пропало, надо рыть бункер". Как будто, и первое и второе это побег от реальности. Но вот подумать об оптимальной стратегии и правильных шагах очень хочется.

Сэм Альман рассказал сколько стадий развития AI он видит:

- 1 уровень чат-боты: основная задача – вести простые текстовые диалоги, отвечая на запросы пользователей.

- 2 уровень AI с рассуждением: способеность анализировать и делать выводы на основе сложных данных. Этот уровень достигнут в настоящее время (модель o1).

== Мы находимся здесь! ==

- 3 уровень агенты: AI может принимать активные действия, работая автономно для достижения целей, поставленных пользователем.

- 4 уровень инноваторы: AI способен генерировать новые научные открытия и находить решения для ранее неизвестных проблем.

- 5 уровень полноценные организации: AI управляет целыми организациями и принимает решения на уровне структуры.

Переход от второго к третьему уровню ожидается в ближайшее время, что значительно ускорит дальнейшее развитие технологий ИИ.

Но кажется, что большинство людей на планете не освоили даже 1 уровень.

Само видео доступно тут (Сэм начинает говорить с 51 минуты)

ИИволюция