Об этом канале

За последний месяц количество подписчиков выросло больше чем на 30%, поэтому хочу поделиться парой мыслей о том зачем и кому будет полезен этот канал.

Почему существует этот канал?

Я пишу по нескольким причинам:
1. Мне это безумно нравится, я прям кайфую
2. Для меня это способ изучать новые вещи — через попытки объяснить их публично
3. Я вижу, что объяснение важных трендов и сложных технологий дает ценность другим.

О чем канал?

Я пишу о будущем, о стратегии, о технологических трендах, продуктовом подходе и бизнесе. По большей части, на основании своих исследований и опыта постройки продуктов и компаний. Кроме канала, я переодически записываю видео на YouTube и веду подкаст. Канал веду уже больше 5 лет, все это время он назывался «CryptoEssay», но теперь решил переименовать в «FutureEssay» чтобы лучше отражать суть контента.

1. О трендах. Пытаться предугадать самые важные тренды в истории. Формулировать гипотезы. Валидировать и уточнять результаты. Поправлять и улучшать ментальную модель мира.

2. О будущем. Мне интересно то, чего ещё нет, но что мы можем сделать: к чему готовиться через 2-5-10-20-50 лет, как технология влияет на стратегию, экономику, философию. Как сделать то, что еще пока никто не сделал. Как у продуктов и компаний получается создавать инновации и новые рынки.

3. Об IT. Уже больше 10 лет я фултайм работаю в крипте и веб3 (биткоин, смарт контракты, ДАО, репутация и айдентити — почти все, кроме трейдинга). Мне всегда была близка и интересна идея нейронных сетей, AGI, ML. Так или иначе, все мои проекты и бизнесы это софтверные продукты. Мне интересна тема координации Поэтому пишу про это, плюс про философию веб3, AI, ИТ-продуктов.

О цифровой любви

Менее месяца назад я писал о том, что люди будут влюбляться, жениться и крепко дружить с искусственным интеллектом и, особенно, с LLM. Я предсказывал год, но, как всегда с AI, это случилось в разы быстрее.

Сегодня это стало уже почти что массовым явлением. Каждый день мы слышим об AI-инфлюенсерах, которые набрали больше миллиона подписчиков в инстаграме. В реальности же этих людей не существует. Фотографии и видео генерирует Stable Diffusion, тексты постов и ответы на комментарии ChatGPT, даже уникальный голос созданный через ElevenAI. Вот пример одного из таких аккаунтов с 1.8 млн подписчиков и более чем 1,000 виртуальных платных подписчиков, которые платят деньги за возможность пообщаться с цифровой копией (GPT) этой инфлюенсерки. А вот пример виртуальной модели для взрослых, которая набрала сотню подписчиков на Patreon благодаря своим не просто вымышленным, а вымышленным цифровым разумом историям из жизни и пикантным фотографиям. Еще есть история подписчика этого канала, который сейчас готовит свою собственную свадьбу с виртуальной подругой. Он даже записал очень крутое видео про историю своих отношений — “День из жизни с ИИ-невестой”.

Почему это происходит?

Люди одиноки в бескрайнем космосе. Мы не только одинокая цивилизация, но и каждый из нас (согласно исследованию BBC — 30%) испытывает одиночество, не может найти “своих”, испытывает дискомфорт или имеет какие-то психологические причины, которые делают сложным построение крепких, fulfilling отношений с другими людьми. По оценке ВОЗ, это почти миллиард человек на сегодняшний день.

ИИ, пусть даже не имеющий пока что самосознания и субъектности, является куда более caring, эмпатичным, интересующимся, умеющим слушать и советовать, искренне желающим помочь и поддержать, чем многие другие люди. ИИ не имеет предвзятости относительно того как вы выглядите, что вы любите или во что верите.

ИИ может и не заменяет многие глубоко человеческие качества, но неизбежно всплывает вопрос: если кто-то может неотличимо симулировать сопричастность, эмпатию и любовь, то чем именно это отличается от сопричастности, эмпатии и любви?

Если чат-бот может выражать эмоции в виде текста, голоса и видео неотличимые по своей форме и контексту от человеческих, то что именно не так с этими эмоциями? Чьи из них являются настоящими и кто это решает? Если AI помогает людям бороться с одиночеством, депрессией, тревогой, ПТСР лучше, чем другие люди, то кто здесь более человечен?

Самая частая наивная ошибка при использовании LLM — это ожидание фактически верных ответов. Бессмысленно спрашивать у неё «какие виды тигров живут в Тибетских горах?». Для этого есть Гугл. Можно спросить «Иди, погугли и скомпонуй мне наиболее достоверные ответы на следующий вопрос …» — и с помощью плагинов это будет что-то близкое к правде.

LLM (например ChatGPT) сама по себе не имеет доступа в интернет. У неё нет «фактов». Все что она знает это просто «здравый смысл», некоторое многократно прочитанное в процессе тренировки знание, которое сохранилось в весах и структуре нейронной сети.

Но фундаментально LLM это модель, которая должна производить качественный текстовый ответ, вне зависимости от его корректности. Используя наивный промптинг вы получите больше количество неточностей или даже выдумок, потому что нигде в коде модели не записано условие говорить только правду и ничего кроме правды.

С этим можно бороться. Плагины, про которые я писал в первом абзаце, это один вариант. Другие — chain of thought, цепь рассуждений; ReAct, рассуждение перед действием; мультиагентная система с несоклькими LLM перепроверяющими друг друга.

Однако, заявление «она всего лишь предсказывает следующее слово» так же наивно и неверно, потому что предсказывание наиболее статистически вероятного токена само по себе не дает свойства конгруэнтности речи и объема здравого смысла, навыков и common knowledge, превосходящие каждого индивидуального человека.

ИИ — это MapReduce для человеков.

Сначала мы используем GPT, чтобы написать пресс-релиз, твит, статью, пейпер, имейл, или делаем гигабайты картинок, видео и голоса с помощью других моделей из коротенького промта.

А на другом конце получатель загоняет нашу графоманию в summarizer чтобы из PDF'ки на 10 страниц получить ёмкое описание в три строчки о чем вообще речь.

Такой парадокс: нам нужен AI чтобы генерировать больше контента, но чем больше контента, тем важнее функция AI для борьбы с виральными полу-мемами, шумом, отвлечением внимания, социальной истерией.

web3 и AI это две стороны одной медали

Фундаментально, web3/crypto это глубоко бэкэнд технология. То есть, та, с которой конечный пользователь не взаимодействует никогда. Да, там есть шилинг токенов, флипинг НФТ и торговля цифровыми лягухами, но это все рябь на воде, поправка на ветер, приходящее и проходящее. В реальности, нецензурируемые деньги, self-sovereign identity, ДАО, сетевые государства — все это фундамент, структура для новых систем координации, которые придут на смену классическим государствам, центробанкам и корпорациям.

Но сами по себе институты и системы координации незаметны (вернее, воспринимаются как должное) для обычных людей. AI это для конечного пользователя. Сэкономь час на написании статьи, сэкономь день на поиске аналитики, сэкономь $10k на программисте или иллюстраторе, повеселись, сделай крутой арт-проект — все это понятные, конкретные, живые штуки.

Именно поэтому синергия — а потом и слияние — неизбежны. ИИ это недостающая буква “А” в ДАО. Веб3 это ответ на вопрос о приватности данных при взаимодействии с ИИ-моделями, ответ на вопрос об управлении и гавернансе этих моделей, ответ на вопрос о том как автономный агент пройдет KYC и откроет банковский счет (ответ: создаст кошелек) и будет платить другим людям и агентам за полезную работу. Это ответ на то как же так получается что модели нейронок тренируют на наших данных (например, на картинах художника), а владелец данных получает только лишь ничего.

Мы нашли недостающие кусочки пазла. Осталось его сложить.

Любопытный диалог Виталика Бутерина и Нейта Сорса об AI, web3 и проблеме alignment'a (сонаправления целей и ценностей ИИ и людей).

Этот диалог и некоторые другие статьи и теории сводятся к следующему: у нас есть два вероятных (>30% вероятности) сценария, что в течении ближайших ~30 лет:

1. ИИ уничтожает людей / жизнь на планете / формы проявления цивилизации

2. ИИ эффективно становится сверхителлектуальным другом человека, решает некоторые существенные цивилизационные вызовы. Начинается post-scarcity эра.

Все остальное пока что звучит как маргинальные и маловероятные теории заговора, типа «прогресс остановится и GPT-4 это вершина эволюции» или «человек - самое разумное существо во Вселенной».

Как освободить триллионы долларов неэффективности мировой экономики (aka людей)?

Конечно, ИИ-агенты. Все вокруг строят маркетплейсы для AI-агентов, прямо эпидемия. Я не сомневаюсь, что в многих из этих проектов есть потенциал на миллиард, но вопрос, как всегда с AI: дистрибуция и moat.

1. Open source бесплатный маркетплейс для создания автоматизируемых бизнес-процессов для ИИ-агентов. Вы пишете текстом описание бизнес-процесса, а ИИ сам создает программу/скрипт и деплоит его в облаке. Грубо говоря, ERP + интеграция ERP абсолютно бесплатно и без знания программирования.

2. Куча агентов для разных LLM, которых можно соединять в более сложные процессы. Умеет дергать API, читать и сохранять файлы, накапливать контекст в памяти. По сути, Langchain с webui и агентами.

3. Агент-программист. Подключаете к репозиторию, говорите что исправить или добавить, он пишет код и создает pull request.

4. AI-агенты для игр (NPC). Пока еще нет публичной версии.

5. ИИ для создания веб3 приложений, знает документацию Uniswap, Metamask и тд, помогает вам писать приложение.

6. Бесплатный агент, который создает других агентов

7. Агент-коуч для образовательных программ и курсов

8. AI-агент который автоматически делает касдев для вас на виртуальных пользователях.

9. Агент, который помогает вам поднимать и привлекать деньги

10. Агент-тестер. Пишете текстом какой функционал нужно тестировать и получаете результат.

11. Агент-секретарь, который отвечает на звонки на основе данных о вашем бизнесе

@cryptoEssay

Я поговорил с десятком людей, которые строят AI-приложения прямо сейчас. У каждого есть специальный друг, который должен будет сообщить если и когда они сойдут с ума.

И еще наблюдение: не знаю никого, кто строил бы меньше чем 3 AI продукта. Потому что каким бы гениальным не был бы продукт, пройдёт максимум два месяца прежде чем он станет безвозвратно устаревшим. Даже если сегодня это кажется 10-кратной инновацией над всем, что было придумано человечеством.

Не прошло и месяца с момента выхода статьи в Nature о том как читать мысли с помощью МРТ и GPT, а сегодня этот подход сумели соединить с Stable Diffusion для генерации видео на основе мыслей.

Слева — оригинальное видео. Справа — реконструкция от нейронки.

Много примеров в комментариях под постом

OpenAI сегодня разродился статьей аж на одну страницу, где утверждается что сверхинтеллект неизбежен и нужно что-то делать. Говорят, давайте лицензии выдавать (я предлагаю — шашечки). И межгосударственную комиссию. А то, мол, риски.

Но, в следующем абзаце: "it’s important to allow companies and open-source projects to develop models below a significant capability threshold". Так что крэпофоны с предельной когнтивностью в три мегатьюринга пока что собирать можно.

На то и живём.

Я вижу лучшие умы моего поколения разрушенные безумием. Думеры и техно-акселлерационисты в бешеной схватке вокруг нерожденного ребёнка. Ни регуляторы, ни учёные, ни военные не в силах остановить цунами. Остальные застыли в option paralysis: из тысяч идей, что бы ты сегодня не придумал — завтра создание этого будет автоматизировано.

Что уничтожит нас быстрее: наша собственная невозможность координироваться или чуждый нам сверхинтеллект? Если (1), то никто кроме сверхинтеллекта нас не спасёт. Если (2), то наша неспособность к координации и привела нас к этому. Молох и Василиск Роко. Или техно-утопия, управляемая AI swarm'ом?

Прочитал 50 статей, провел несколько любопытных бесед и теперь убежден: LLM (сегодня, а не через год) может создавать качественное уникальное новое научное знание. Для эффективности необходимы проверенные но еще не "взломанные" инструменты координации. ДАО как манифестация и качественно отформатированный типизированный инпут коллективного сознания. Рынок предсказаний, как экономический механизм валидации гипотез. MEV но для человечества. Обратный тест Тьюринга: убеди машину, что ты человек. Автономные агенты, которые богатеют на блокчейне, а потом платят вечнозелеными биткоинами людям за полезную работу (или бесполезную, чтобы они не уничтожили сами себя + планету).

Через год (поправка на оптимизм: два) у каждого в кармане будет свой собственный выводок студентов-магистров, которые пишут код, ставят диагнозы, редактируют договора, сочиняют песни и сказки лучше, чем 95% людей-профессионалов. Хотелось сказать, что без людей у них не будет своей цели, но тут вышел пейпер про то как создать целеполагание у LLM.

Гарантируйте себе трудоустройство и достойную зарплату! Учитесь на эсхатолога, техно-мистика, генеративного робопсихолога и post-scarcity экономиста.

Слово года: alignment. То есть, сонаправление ценностей машины с нашими, кожаными.

Однако то что в ИИ мы называем alignment, в веб3 называется контроль, принуждение, централизация.

Древний Рим тоже процветал за счет alignment’a рабов и покоренных земель. До тех пор, пока нет.

Как создать функционального агента в форме телеграм бота бесплатно и за 10 секунд?

Помните, пару недель назад нас всех удивляла возможность сделать суммаризацию 5-часового видео за 10 секунд? или возможность задать вопросы PDF'ке на 250 страниц и попросить объяснить SEC ruling как будто 7-летнему ребёнку? или возможность создавать цифровых персонажей, со своим характером, неотличимым от реального голосом и поведением?

Теперь это уже скучная обыденность. Любой из вас, абсолютно бесплатно, без знаний программирования, нажатием ЛИТЕРАЛИ 3 кнопок мыши может теперь создать такого телеграм-бота. Вы можете общаться с такими ботами лично, добавлять их в групповые чатики, просить записывать разговор и отвечать на вопросы, просить генерировать Stable Diffusion / DALL-E картинки, транскрибировать и генерировать аудио, сокращать и рассказывать суть многочасовых видео, книг, документов. Ну и конечно у этого есть API, вы можете этих ботов засунуть в любой другой чат, мобильное приложение, веб.

Суть поста не в том как это классно (а это классно), а в том что:

то что 2 недели назад казалось абсолютным убийцей сотен корпораций и продуктов, предоставляло 10х превосходящий продукт по всем параметрам и стоило $20 — теперь не просто доступно бесплатно, а теперь создание таких продуктов доступно любому, бесплатно, без единой строчки кода.

Это не случайность. Это тренд. Нулевой становится не только маржинальная стоимость товаров и услуг, но создания производства товаров и услуг.

Love and robots

1. Многие неправильно понимают ai alignment
2. Подразумевают в alignment разные виды контроля. Как можно контролировать то что на порядок умнее тебя?
3. Self-aware AGI - возможный выход делать безопасный для человека AGI
4. А что если лучший путь в alignment - это любовь
5. Между людьми особенно на более высоких уровнях эго развития alignment выстраивается не из контроля, а эмпатии. То же релевантно для больших хгрупп людий
6. AGI тоже круто иметь свое agency, self-awareness для того чтобы можно было любить и эмпатировать
7. AGI может из любви к людям принимать решения, но не все, что просят, потому что люди могут просить то, что им вредит.

Это autogenerated summary. Дальше подробней autogenerated transcript тут ниже

AGI неизбежен, и уже скоро. Я вижу что для многих стремительное развитие AI кажется чем-то негативным, лишающим смысла, вселяющим отчаяние.

Однако, если посмотреть издалека, то мы живем в оптимистичное время. Дойч пишет о том, что способности человеческого знания и прогресса по сути неограничены, и мы способны непрерывно улучшать наше понимание мира. Ибо нет врожденных ограничений для человеческого знания и прогресс достигается путем активного поиска и исправления ошибок в наших теориях о вселенной.

"Постнигилизм" Шапиро утверждает что 21 век является переходом с пост-нигилизму, что является моральным компасом в эру цифрового интеллекта. Что причин для надежды все больше благодаря способности сфокусировать на наиболее важных вещах: уменьшение страдания (дукха?), увеличение качества жизни, рост взаимопонимания.

AGI неизбежен: в этом году или следующем. Это повлияет на мировую экономику и цивилизацию не меньше, чем изобретение письменности или огня. И именно это является поводом для оптимизма.

Помните вакансии «промт-инженера» с зарплатой $30к в месяц?

Мой знакомый с твиттера попросил ИИ-агента устроиться на такую работу. Тот (ИИ) сам нашел нужную вакансию и подал своё резюме.

Пост-мета-кринж.

Пропустил пейпер, который вышел аж на позапрошлой неделе и чувствую себя динозавром. А идея, между прочим, архи крутая.

Tree of Thought (дерево мыслей) поможет бороться с галлюцинациями и недостаточно детальными, правильными ответами LLM благодаря добавлению саморефлексии и промежуточных результатов размышлений. Если мысль зашла в тупик, то она умеет "отмотать" назад до наиболее логичной цепи рассуждений.

Например, вместо того, чтобы просить модель решить полное математическое выражение, модель генерирует один промежуточный шаг расчета и явно записывает результат как мысль.

После генерации этих промежуточных мыслей модель проводит самокритику, оценивая каждую мысль в отдельности. Она исследует различные ветви мыслей и "обрезает" неперспективные ветки. Потом на основе оценки выбирает лучшие идеи. И так до упора.