В целом прикольная игрушка

В начале февраля появилось множество материалов об искусственном интеллекте (ИИ), каждый из которых заслуживает отдельного обсуждения. Например, компания Anthropic представила Economic Index, где поделилась наблюдениями о влиянии ИИ на различные профессии.

Сэм Альтман опубликовал статью о том, как мы будем жить с искусственным общим интеллектом (AGI). Андрей Карпаты выпустил феноменальное видео "Deep Dive into LLMs like ChatGPT", которое я рекомендую всем, кто интересуется ИИ. Кроме того, на arXiv.org без особой огласки вышло множество новых исследований — от обилия информации голова идет кругом.

Однако во всех этих материалах прослеживается одна главная мысль: «ИИ изменит нашу жизнь», не сразу, но навсегда. Также ощущается опасение, что «ИИ на всех не хватит» — общество разделится на тех, кто успеет адаптироваться к новым реалиям, и тех, кого новая технология оставит на обочине развития. Конечно, ИИ не заменит людей в ближайшее время, но изменит роли и навыки, которые будут цениться.

Альтман даже предлагает предоставлять людям "вычислительный бюджет", чтобы каждый мог использовать мощные ИИ-модели — это напоминает историю с ваучерами, когда кто-то накапливал их, покупая у тех, кому нужны были деньги на еду.

Таким образом, если у вас нет средств на атомные станции для питания всего этого или гениальных идей для ИИ-стартапов, остаются два пути: выбрать профессию, в которую ИИ придет в последнюю очередь (например, сантехник, плотник или социальный работник), или развивать в себе адаптивность, самостоятельность и умение работать с ИИ.

Кстати, хороший комментарий оставили в нашем чате @prompt_chat :

Очень плохо нейронки решают школьные задания. А если, там мало мальски логику нужно включить, то ваще капец, такой херни напишут.
Знаю по опыту-дочь в 5 классе, готова всю свою домашку скормить аи😁

Давно, хотел написать о том, как LLM считают и почему часто ошибаются в простой арифметике:

Ограничения вычислений

Важно понимать, что модель имеет ограниченное количество вычислений на каждый токен. Поэтому сложные вычисления нужно разбивать на простые шаги. Когда мы просим модель "решить в уме" сложную задачу одним токеном, это может привести к ошибкам.

Использование инструментов

Для надежного решения задач модели часто используют внешние инструменты. Например, вместо "мысленных" вычислений модель может написать и выполнить код:

apples = 3
oranges = 2
orange_price = 2
total = 13

apple_price = (total - oranges * orange_price) / apples
print(f"Каждое яблоко стоит ${apple_price}")

Это гораздо надежнее, чем пытаться выполнить вычисления "в уме".

Проблемы с простыми задачами

Интересный парадокс: модели могут решать сложные математические задачи олимпиадного уровня, но иногда ошибаются в простейших вещах. Например, некоторые модели могут неправильно определить, что больше: 9.11 или 9.9.

При исследовании этого феномена обнаружилось, что определенные нейроны в сети активируются как при работе с библейскими стихами (где 9:11 идет после 9:9), создавая когнитивный конфликт в модели.

Проблемы с подсчетом

Модели часто испытывают трудности с задачами подсчета. Например, просьба посчитать количество точек в тексте может вызвать затруднения, потому что модель видит не отдельные символы, а токены.

Решение: использовать инструменты. Вместо прямого подсчета лучше попросить модель написать код:

text = "....."
print(len(text))

Хаггингфейс опубликовал первую часть своего курса по созданию ИИ-Агентов. Я решил пройти его и вам советую. А чтобы вам было проще и интереснее, буду переводить их для вас. Первая часть уже готова - https://teletype.in/@prompt_design/agents-course

Уже получили свой первый сертификат?

OpenAI обновили ChatGPT 4o, теперь она может писать стихи, даже, в стили Хармса:

Машина
В углу сидела Машина,
Гудела, моргала, сверкала.
Спросил я: «Ты знаешь Пушкина?»
Она отвечать не стала.

Я ей сказал: «Ты ж умная!»
Она мне: «Факт подтверждён».
Я ей: «А знаешь грустное?»
Она зажужжала в тон.

«Любишь ли ты чаёк, Машина?»
— «Люблю. Но не пью. Не могу».
Я ей: «А если влить бензина?»
— «Я вас за такое сожгу».

Тут я замолчал мгновенно,
Вдруг стул подо мной запищал!
Оказалось, он тоже умный...
Я в ужасе убежал.

Завтра мир схлопнется в сингулярность и опять начнем с начала

Если хотите пообщаться с новой моделью бесплатно, то идите на https://lmarena.ai/ и выбирайте сверху Direct chat -> Grok 3.

Скоро во всех вакансиях: ИИ-Агент ищет двух кожаных: аутиста и СДВГшника, для ресерча и составления промптов.

Идеальная команда основателей — это когда один основатель аутист, а другой с СДВГ. Идеальный основатель-одиночка обладает и тем, и другим.

Для дальнейшего обоснования, хотя и упрощённого:

Аутист совершенствует, уточняет и поддерживает фокус.

СДВГ исследует, адаптируется и поддерживает высокую скорость движения.

Они дополняют друг друга.

В Твиттере (X) начались первые холливары на тему новой модели Grok 3, о том что она пока не так хороша, как заявлял Маск.

@bindureddy:
Grok-3 пока не готов, как рассуждающая модель.
Та версия, которая уже вышла, не очень хорошо показала себя на трех собственных тестах, о которых они сами сообщили.
Технически сейчас нечего оценивать и тестировать!
Так что остается только ждать 🤷‍♀️

—

@ImJayBallentine:
Я пользуюсь Grok и поражен количеством «галлюцинаций», в основном связанных с данными из X (аккаунты). Время от времени он выдает случайные фразы на китайском — это тоже любопытно.

Ну и мы подождем…