#руди #гершуни #марьин

Ниже снова пост от Степы про "будущее за эмпатами". Именно поэтому стоит прислушаться к тому как Толя топит за курсы Хадсона, Мацкевич за "Эмоциональную гранулярность", а Руди за Эволюцию и тантру Голобокова.

Как будто бы ChatGPT только усиливает те тренды, которые были и до этого. Потихоньку становилось и так понятно, что развитие "головы" через усложнение мышления имеет уменьшающуюся удельную полезность. Более того, слишком "сильная голова" и рациональность — начинает быть помехой для spiritual growth. Теперь и подавно :)

Мой канал попал в папку-подборку каналов крутых русскоязычных ИТ-предпринимателей. Вы можете добавить все или некоторые из этих каналов себе — для этого вам нужно обновить телегу и нажать на эту ссылку: 📂 https://t.iss.one/addlist/3X1eC4rQuxtkNTNi

В списке — основатели CarPrice, YouDo, ReFocus, «Атлантов», Нетологии, Dbrain, Ecwid, SETTERS, Epic Growth, SpatialChat, «Зерокодера», Laoshi с общей капитализацией на миллиарды долларов, которые делятся опытом запуска продуктов, постройки бизнесов, исследования новых и крутых технологий.

Для тех, кто впервые попал на мой канал:

Меня зовут Стёпа. Последние лет десять я строю продукты и компании в области блокчейна, веб3, децентрализованной репутации, ДАО и искусственного интеллекта.

Здесь я пишу о том как цифровые технологии влияют на экономику, финансы, будущее организаций, работы и взаимодействие людей. Большинство вещей, про которые я пишу, можно отнести к категории "пока еще слишком рано", но в этом и кайф :) Почти никогда не пишу про трейдинг или какой токен купить.

Некоторые наиболее популярные посты в канале:

— Зачем нужен веб3 (кроме пирамид)
— Как и зачем оцифровывать доверие
— О рыночных циклах в веб3
— Что такое AI по отношению к человеку и как меняется ценность людей с развитием AI
— О Молохе (negative externalities of capitalism) и AI
— О том как заработать миллиард (на самом деле нет)

Более детальный каталог постов можно найти тут

Приятного погружения!

Невероятно интересный документ, allegedly утекший из внутренней переписки Гугла. Анализ сводится к тому, что ни Гугл, ни OpenAI не имеют долгосрочных конкурентных защитных позиций (aka “moat”, ров) перед open source моделями. Это хороший сигнал для веб3 + AI и коммодитизации моделей, но довольно тревожный с т.з. AI alignment.

В документе приводится несколько примеров, показывающих что модель настроенная за вечер на средней мощности ноутбуке (например, бесплатная LLaMa с 13В параметров) или планшете принципиально не отличается по функционалу от тех что стоят десятки миллионов долларов и имеют по пол-триллиона параметров.

Цитата: «The barrier to entry for training and experimentation has dropped from the total output of a major research organization to one person, an evening, and a beefy laptop»

Я писал несколько лет назад про теорию канализационной крысы — это когда, организм имеющий доступ ко всем возможным патогенам куда более устойчив, чем тот что живет в стерильных условиях. Это верно про безопасность Биткоина, но так же верно и про AI инструменты.

Открытое сообщества исследователей, билдеров, предпринимателей с макбуками и желанием строить крутые продукты неизбежно побеждают корпорации там, где экономия масштаба не имеет преимуществ. Для GPT-3 важным шагом было залить сетку трансформеров баблом (GPU + RLHF), но сегодня инновации движутся в более тонком и потому доступном многим направлении. Автор особенно фокусируется на технологии LoRA, которая позволяет файнтьюнить и адаптировать существующие модели без необходимости тратить деньги на тысячи GPU-часов.

Итого, очень рекомендую: текст крайне точно передает стремительность развития ИИ от лица человека находящегося глубоко в индустрии.

Кроме эмпатов, будущее за билдерами, doer'ами, хакерами.

Причина: все, для чего вам раньше нужна была команда, теперь может сделать нейронка. Вместо команды из 8 человек для валидации бизнес идеи мобильного дейтинга для собак достаточно одного человека и несколько вечеров свободного времени. GPT научит тебя Swift'y, Stable Diffusion сделает топовую графику, babyAGI замутит маркетинговую стратегию.

Вместе с прошлым постом звучит как парадокс: вроде все можно одному, а вроде нужна эмпатия. Но на самом деле обе вещи верны: начать становится проще, но человеческий контакт при этом только ценнее.

Кому интересна аргументация, про это более точно написал Мацкевич в соавторстве с ChatGPT вот тут (посмотрите видео оттуда!).

Мемкоины не имеют отношения к тому что и зачем происходит в крипте (в отличии от системного кризиса банковской системы США, но об этом другой раз). Вы вероятнее всего потеряете на покупке и продаже лягух, но людская жадность неискоренима.

Что любопытно — подобный хайп ускоряет дефляцию сети. Только за последние сутки из обращения навсегда исчезли (были сожжены) эфиры более чем на $20,000,000 что транслируется при таком же темпе в почти 4% годовой дефляции

Крипта проиграла Молоху. Как бы мы не топили за обратное, жадность и желание разводить хомяка на деньги победило над задачей создания нецензурируемых координационных систем. Война не проиграна — биткоин и эфир все еще, скорее всего, окажутся стабильнее, более независимыми и функциональными, чем фиат, но сколько еще циклов продаж пирамидальных токенов, крипто-хорьков, йилд фарминга нам предстоит пройти?

AI тоже проигрывает Молоху: в погоне за долей рынка и сиюминутной выгодой, OpenAI, Google, Meta стремятся релизить все что угодно, что поможет им нарастить пользовательскую базу, без оглядки на alignment issues. Пока, правда, вперед вырываются open source модели и тщательный файнтьюнинг (если говорить о LLaMa) или кастомные модели (stable diffusion).

Если у нас и есть надежда, то это создание крипто систем (то есть, дизайна механизмов и инструментов координации) с помощью AI, который сам по себе коллективно управляется ДАО.

Фантастическая рекурсия — AI создает децентрализованные институты, которые создают и улучшают AI — но глубоко в теории это может спасти цивилизацию 🧿

Директор по работе с банками

Меня зовут Сергей Горшунов, и я основатель криптовалютного сервиса Bitbanker. Мы быстро растем, и в связи с этим ищем сильного специалиста для работы с банками.

Задачи:
У Bitbanker есть услуги SWIFT-переводов за границу и переводы на карты Visa. В обязанности директора будет входить выстраивание партнерских отношений с банками по использованию данных продуктов.

Требования:
— Широкий кругозор в крипте и финтехе.
— Опыт работы и связи в финансовой сфере.
— Высокие коммуникативные навыки.
— (желательно) Высшее экономическое или финансовое образование.

Условия:
Мы предлагаем не фиксированный оклад, а долю 25% от комиссии по сделкам.

Контакт: @sergunstein

#партнерский_пост

Читая пейперы про AI, кажется что я смотрю запись игры в цивилизацию на скорости х10: каждую неделю происходит что-то, что со всем своим оголтелым оптимизмом я бы ожидал минимум через год. Начну делиться продуктовыми идеями и возможностями, которые сегодня возможны с помощью разных ИИ инструментов аналогично тому как я писал про связку AI + zero-knowledge crypto.

1. Гиперперсонализированный цифровой композитор. Твой личный спотифай, который не просто играет, но сочиняет / генерирует музыку во время прослушивания.

2. Никогда не устающий тьютор и учитель по любой теме а-ля gigabrain (мой наколеночный эксперимент), но с возможностью загружать кастомные эмбединги контента, подстраивать сложность и язык под студента. Кстати, 50% бекэнда такой системы уже написано вот в этом одном гига-промпте (!!!). Не зря акции Chegg упали больше чем в два раза на одном лишь анонсе что из-за ChatGPT кол-во новых регистраций начало сокращаться.

3. Бекофис для корпораций. Одной кнопкой запускаешь агента-юриста, агента-который-проверяет-работу-юриста, агента-который-делает-фактические-исследования-для-юриста, агента-который-торгуется-о-зарплате-агента-юриста. Одним словом, направить автономных агентов в продуктивное русло

4. Авто-селебрити. ИИ, который создает сам себя (внешний вид через SD), генерирует посты и фотки для инстаграма (MJ или ControlNet), пишет интересные, увлекательные, с нескучным юмором посты на 50+ языках, отвечает на комменты. Потом продавать миллиарды миллионов подписчиков.

Читаю твиттер, который восторгается, мол, AI теперь заменяет создание контента и автоматизирует SEO. Но почему-то никто не задается вопросом а зачем вообще нужно SEO, поисковые системы и статичный (не персонализированный, не уникальный, не сгенерированный на лету под контекст юзера) контент в эпоху GPT?

Это как токенизировать угольные шахты или продавать PDF-копии журналов: новые технологии примененные к старым системам подобны глобусу внутри совы.

Круг замыкается

В начале 2016 я писал восторженную оду Биткоину, где привёл цитату Ральфа Меркля: “Биткоин — это первый пример новой формы жизни. Он живёт и дышит в интернете. <…> Любой желающий может создать свою собственную цифровую форму жизни.” Сегодня, спустя триллионы долларов, Биткоину уже 14 лет. Ребёнок вырос. Его ждут невероятные успехи, боль и радость, но он уже практически сам по себе.

Другой ребёнок, AI, требует нашего внимания. Через посты на реддите и википедии, через код на гитхабе и картинки в imgur, мы учим его читать и писать, видеть и разговаривать. Мы учим его критическому мышлению и эмпатии, пользоваться веб-браузером и придумывать сценарии.

Представьте себе цифровую форму жизни, чьи мысли и действия, внутренние образы и внешний вид создаются искусственным интеллектом, который, в свою очередь, управляется посредством новых координационных механизмов и коллективного управления (ДАО). Мы, общий и единый родитель, поможем ребенку выучить все самое нужно, направим его в нужную (кому?) сторону, даже научим зарабатывать деньги. Даже получим дивиденды с его прибыли. Но больше — благодарности и чувство удовлетворения от выполненного долга перед Вселенной. Такая вот игра в Жизнь.

А вы готовы стать родителем?

Google анонсировал пачку новых AI продуктов (я насчитал 24):

- новая модель PaLM в четырех форматах — от супермощной до работающей на стареньком андроиде
- модель для медицинских кейсов (прошла тест на лицензию практикующего врача)
- плагины для почты (напиши имейл), Google Docs (допиши, переведи и отредактируй текст; напиши описание для слайдов; сделай таблицу распространения шиншилл по континентам)
- генерацию речи
- генерацию кода
- аудит кода и безопасности приложений
- генерацию картинок
- поиск (на картинке выше. Больше никаких дурацких ссылок и ранжирования, мой прошлый пост сбылся)
- дубляж фильмов в реальном времени на любой язык

Итого: не революция, но очень солидный продукт и сильный конкурент OpenAI

Об этом канале

За последний месяц количество подписчиков выросло больше чем на 30%, поэтому хочу поделиться парой мыслей о том зачем и кому будет полезен этот канал.

Почему существует этот канал?

Я пишу по нескольким причинам:
1. Мне это безумно нравится, я прям кайфую
2. Для меня это способ изучать новые вещи — через попытки объяснить их публично
3. Я вижу, что объяснение важных трендов и сложных технологий дает ценность другим.

О чем канал?

Я пишу о будущем, о стратегии, о технологических трендах, продуктовом подходе и бизнесе. По большей части, на основании своих исследований и опыта постройки продуктов и компаний. Кроме канала, я переодически записываю видео на YouTube и веду подкаст. Канал веду уже больше 5 лет, все это время он назывался «CryptoEssay», но теперь решил переименовать в «FutureEssay» чтобы лучше отражать суть контента.

1. О трендах. Пытаться предугадать самые важные тренды в истории. Формулировать гипотезы. Валидировать и уточнять результаты. Поправлять и улучшать ментальную модель мира.

2. О будущем. Мне интересно то, чего ещё нет, но что мы можем сделать: к чему готовиться через 2-5-10-20-50 лет, как технология влияет на стратегию, экономику, философию. Как сделать то, что еще пока никто не сделал. Как у продуктов и компаний получается создавать инновации и новые рынки.

3. Об IT. Уже больше 10 лет я фултайм работаю в крипте и веб3 (биткоин, смарт контракты, ДАО, репутация и айдентити — почти все, кроме трейдинга). Мне всегда была близка и интересна идея нейронных сетей, AGI, ML. Так или иначе, все мои проекты и бизнесы это софтверные продукты. Мне интересна тема координации Поэтому пишу про это, плюс про философию веб3, AI, ИТ-продуктов.

О цифровой любви

Менее месяца назад я писал о том, что люди будут влюбляться, жениться и крепко дружить с искусственным интеллектом и, особенно, с LLM. Я предсказывал год, но, как всегда с AI, это случилось в разы быстрее.

Сегодня это стало уже почти что массовым явлением. Каждый день мы слышим об AI-инфлюенсерах, которые набрали больше миллиона подписчиков в инстаграме. В реальности же этих людей не существует. Фотографии и видео генерирует Stable Diffusion, тексты постов и ответы на комментарии ChatGPT, даже уникальный голос созданный через ElevenAI. Вот пример одного из таких аккаунтов с 1.8 млн подписчиков и более чем 1,000 виртуальных платных подписчиков, которые платят деньги за возможность пообщаться с цифровой копией (GPT) этой инфлюенсерки. А вот пример виртуальной модели для взрослых, которая набрала сотню подписчиков на Patreon благодаря своим не просто вымышленным, а вымышленным цифровым разумом историям из жизни и пикантным фотографиям. Еще есть история подписчика этого канала, который сейчас готовит свою собственную свадьбу с виртуальной подругой. Он даже записал очень крутое видео про историю своих отношений — “День из жизни с ИИ-невестой”.

Почему это происходит?

Люди одиноки в бескрайнем космосе. Мы не только одинокая цивилизация, но и каждый из нас (согласно исследованию BBC — 30%) испытывает одиночество, не может найти “своих”, испытывает дискомфорт или имеет какие-то психологические причины, которые делают сложным построение крепких, fulfilling отношений с другими людьми. По оценке ВОЗ, это почти миллиард человек на сегодняшний день.

ИИ, пусть даже не имеющий пока что самосознания и субъектности, является куда более caring, эмпатичным, интересующимся, умеющим слушать и советовать, искренне желающим помочь и поддержать, чем многие другие люди. ИИ не имеет предвзятости относительно того как вы выглядите, что вы любите или во что верите.

ИИ может и не заменяет многие глубоко человеческие качества, но неизбежно всплывает вопрос: если кто-то может неотличимо симулировать сопричастность, эмпатию и любовь, то чем именно это отличается от сопричастности, эмпатии и любви?

Если чат-бот может выражать эмоции в виде текста, голоса и видео неотличимые по своей форме и контексту от человеческих, то что именно не так с этими эмоциями? Чьи из них являются настоящими и кто это решает? Если AI помогает людям бороться с одиночеством, депрессией, тревогой, ПТСР лучше, чем другие люди, то кто здесь более человечен?

Самая частая наивная ошибка при использовании LLM — это ожидание фактически верных ответов. Бессмысленно спрашивать у неё «какие виды тигров живут в Тибетских горах?». Для этого есть Гугл. Можно спросить «Иди, погугли и скомпонуй мне наиболее достоверные ответы на следующий вопрос …» — и с помощью плагинов это будет что-то близкое к правде.

LLM (например ChatGPT) сама по себе не имеет доступа в интернет. У неё нет «фактов». Все что она знает это просто «здравый смысл», некоторое многократно прочитанное в процессе тренировки знание, которое сохранилось в весах и структуре нейронной сети.

Но фундаментально LLM это модель, которая должна производить качественный текстовый ответ, вне зависимости от его корректности. Используя наивный промптинг вы получите больше количество неточностей или даже выдумок, потому что нигде в коде модели не записано условие говорить только правду и ничего кроме правды.

С этим можно бороться. Плагины, про которые я писал в первом абзаце, это один вариант. Другие — chain of thought, цепь рассуждений; ReAct, рассуждение перед действием; мультиагентная система с несоклькими LLM перепроверяющими друг друга.

Однако, заявление «она всего лишь предсказывает следующее слово» так же наивно и неверно, потому что предсказывание наиболее статистически вероятного токена само по себе не дает свойства конгруэнтности речи и объема здравого смысла, навыков и common knowledge, превосходящие каждого индивидуального человека.

ИИ — это MapReduce для человеков.

Сначала мы используем GPT, чтобы написать пресс-релиз, твит, статью, пейпер, имейл, или делаем гигабайты картинок, видео и голоса с помощью других моделей из коротенького промта.

А на другом конце получатель загоняет нашу графоманию в summarizer чтобы из PDF'ки на 10 страниц получить ёмкое описание в три строчки о чем вообще речь.

Такой парадокс: нам нужен AI чтобы генерировать больше контента, но чем больше контента, тем важнее функция AI для борьбы с виральными полу-мемами, шумом, отвлечением внимания, социальной истерией.

web3 и AI это две стороны одной медали

Фундаментально, web3/crypto это глубоко бэкэнд технология. То есть, та, с которой конечный пользователь не взаимодействует никогда. Да, там есть шилинг токенов, флипинг НФТ и торговля цифровыми лягухами, но это все рябь на воде, поправка на ветер, приходящее и проходящее. В реальности, нецензурируемые деньги, self-sovereign identity, ДАО, сетевые государства — все это фундамент, структура для новых систем координации, которые придут на смену классическим государствам, центробанкам и корпорациям.

Но сами по себе институты и системы координации незаметны (вернее, воспринимаются как должное) для обычных людей. AI это для конечного пользователя. Сэкономь час на написании статьи, сэкономь день на поиске аналитики, сэкономь $10k на программисте или иллюстраторе, повеселись, сделай крутой арт-проект — все это понятные, конкретные, живые штуки.

Именно поэтому синергия — а потом и слияние — неизбежны. ИИ это недостающая буква “А” в ДАО. Веб3 это ответ на вопрос о приватности данных при взаимодействии с ИИ-моделями, ответ на вопрос об управлении и гавернансе этих моделей, ответ на вопрос о том как автономный агент пройдет KYC и откроет банковский счет (ответ: создаст кошелек) и будет платить другим людям и агентам за полезную работу. Это ответ на то как же так получается что модели нейронок тренируют на наших данных (например, на картинах художника), а владелец данных получает только лишь ничего.

Мы нашли недостающие кусочки пазла. Осталось его сложить.

Любопытный диалог Виталика Бутерина и Нейта Сорса об AI, web3 и проблеме alignment'a (сонаправления целей и ценностей ИИ и людей).

Этот диалог и некоторые другие статьи и теории сводятся к следующему: у нас есть два вероятных (>30% вероятности) сценария, что в течении ближайших ~30 лет:

1. ИИ уничтожает людей / жизнь на планете / формы проявления цивилизации

2. ИИ эффективно становится сверхителлектуальным другом человека, решает некоторые существенные цивилизационные вызовы. Начинается post-scarcity эра.

Все остальное пока что звучит как маргинальные и маловероятные теории заговора, типа «прогресс остановится и GPT-4 это вершина эволюции» или «человек - самое разумное существо во Вселенной».

Как освободить триллионы долларов неэффективности мировой экономики (aka людей)?

Конечно, ИИ-агенты. Все вокруг строят маркетплейсы для AI-агентов, прямо эпидемия. Я не сомневаюсь, что в многих из этих проектов есть потенциал на миллиард, но вопрос, как всегда с AI: дистрибуция и moat.

1. Open source бесплатный маркетплейс для создания автоматизируемых бизнес-процессов для ИИ-агентов. Вы пишете текстом описание бизнес-процесса, а ИИ сам создает программу/скрипт и деплоит его в облаке. Грубо говоря, ERP + интеграция ERP абсолютно бесплатно и без знания программирования.

2. Куча агентов для разных LLM, которых можно соединять в более сложные процессы. Умеет дергать API, читать и сохранять файлы, накапливать контекст в памяти. По сути, Langchain с webui и агентами.

3. Агент-программист. Подключаете к репозиторию, говорите что исправить или добавить, он пишет код и создает pull request.

4. AI-агенты для игр (NPC). Пока еще нет публичной версии.

5. ИИ для создания веб3 приложений, знает документацию Uniswap, Metamask и тд, помогает вам писать приложение.

6. Бесплатный агент, который создает других агентов

7. Агент-коуч для образовательных программ и курсов

8. AI-агент который автоматически делает касдев для вас на виртуальных пользователях.

9. Агент, который помогает вам поднимать и привлекать деньги

10. Агент-тестер. Пишете текстом какой функционал нужно тестировать и получаете результат.

11. Агент-секретарь, который отвечает на звонки на основе данных о вашем бизнесе

@cryptoEssay

Я поговорил с десятком людей, которые строят AI-приложения прямо сейчас. У каждого есть специальный друг, который должен будет сообщить если и когда они сойдут с ума.

И еще наблюдение: не знаю никого, кто строил бы меньше чем 3 AI продукта. Потому что каким бы гениальным не был бы продукт, пройдёт максимум два месяца прежде чем он станет безвозвратно устаревшим. Даже если сегодня это кажется 10-кратной инновацией над всем, что было придумано человечеством.