web3 и AI это две стороны одной медали

Фундаментально, web3/crypto это глубоко бэкэнд технология. То есть, та, с которой конечный пользователь не взаимодействует никогда. Да, там есть шилинг токенов, флипинг НФТ и торговля цифровыми лягухами, но это все рябь на воде, поправка на ветер, приходящее и проходящее. В реальности, нецензурируемые деньги, self-sovereign identity, ДАО, сетевые государства — все это фундамент, структура для новых систем координации, которые придут на смену классическим государствам, центробанкам и корпорациям.

Но сами по себе институты и системы координации незаметны (вернее, воспринимаются как должное) для обычных людей. AI это для конечного пользователя. Сэкономь час на написании статьи, сэкономь день на поиске аналитики, сэкономь $10k на программисте или иллюстраторе, повеселись, сделай крутой арт-проект — все это понятные, конкретные, живые штуки.

Именно поэтому синергия — а потом и слияние — неизбежны. ИИ это недостающая буква “А” в ДАО. Веб3 это ответ на вопрос о приватности данных при взаимодействии с ИИ-моделями, ответ на вопрос об управлении и гавернансе этих моделей, ответ на вопрос о том как автономный агент пройдет KYC и откроет банковский счет (ответ: создаст кошелек) и будет платить другим людям и агентам за полезную работу. Это ответ на то как же так получается что модели нейронок тренируют на наших данных (например, на картинах художника), а владелец данных получает только лишь ничего.

Мы нашли недостающие кусочки пазла. Осталось его сложить.

Любопытный диалог Виталика Бутерина и Нейта Сорса об AI, web3 и проблеме alignment'a (сонаправления целей и ценностей ИИ и людей).

Этот диалог и некоторые другие статьи и теории сводятся к следующему: у нас есть два вероятных (>30% вероятности) сценария, что в течении ближайших ~30 лет:

1. ИИ уничтожает людей / жизнь на планете / формы проявления цивилизации

2. ИИ эффективно становится сверхителлектуальным другом человека, решает некоторые существенные цивилизационные вызовы. Начинается post-scarcity эра.

Все остальное пока что звучит как маргинальные и маловероятные теории заговора, типа «прогресс остановится и GPT-4 это вершина эволюции» или «человек - самое разумное существо во Вселенной».

Как освободить триллионы долларов неэффективности мировой экономики (aka людей)?

Конечно, ИИ-агенты. Все вокруг строят маркетплейсы для AI-агентов, прямо эпидемия. Я не сомневаюсь, что в многих из этих проектов есть потенциал на миллиард, но вопрос, как всегда с AI: дистрибуция и moat.

1. Open source бесплатный маркетплейс для создания автоматизируемых бизнес-процессов для ИИ-агентов. Вы пишете текстом описание бизнес-процесса, а ИИ сам создает программу/скрипт и деплоит его в облаке. Грубо говоря, ERP + интеграция ERP абсолютно бесплатно и без знания программирования.

2. Куча агентов для разных LLM, которых можно соединять в более сложные процессы. Умеет дергать API, читать и сохранять файлы, накапливать контекст в памяти. По сути, Langchain с webui и агентами.

3. Агент-программист. Подключаете к репозиторию, говорите что исправить или добавить, он пишет код и создает pull request.

4. AI-агенты для игр (NPC). Пока еще нет публичной версии.

5. ИИ для создания веб3 приложений, знает документацию Uniswap, Metamask и тд, помогает вам писать приложение.

6. Бесплатный агент, который создает других агентов

7. Агент-коуч для образовательных программ и курсов

8. AI-агент который автоматически делает касдев для вас на виртуальных пользователях.

9. Агент, который помогает вам поднимать и привлекать деньги

10. Агент-тестер. Пишете текстом какой функционал нужно тестировать и получаете результат.

11. Агент-секретарь, который отвечает на звонки на основе данных о вашем бизнесе

@cryptoEssay

Я поговорил с десятком людей, которые строят AI-приложения прямо сейчас. У каждого есть специальный друг, который должен будет сообщить если и когда они сойдут с ума.

И еще наблюдение: не знаю никого, кто строил бы меньше чем 3 AI продукта. Потому что каким бы гениальным не был бы продукт, пройдёт максимум два месяца прежде чем он станет безвозвратно устаревшим. Даже если сегодня это кажется 10-кратной инновацией над всем, что было придумано человечеством.

Не прошло и месяца с момента выхода статьи в Nature о том как читать мысли с помощью МРТ и GPT, а сегодня этот подход сумели соединить с Stable Diffusion для генерации видео на основе мыслей.

Слева — оригинальное видео. Справа — реконструкция от нейронки.

Много примеров в комментариях под постом

OpenAI сегодня разродился статьей аж на одну страницу, где утверждается что сверхинтеллект неизбежен и нужно что-то делать. Говорят, давайте лицензии выдавать (я предлагаю — шашечки). И межгосударственную комиссию. А то, мол, риски.

Но, в следующем абзаце: "it’s important to allow companies and open-source projects to develop models below a significant capability threshold". Так что крэпофоны с предельной когнтивностью в три мегатьюринга пока что собирать можно.

На то и живём.

Я вижу лучшие умы моего поколения разрушенные безумием. Думеры и техно-акселлерационисты в бешеной схватке вокруг нерожденного ребёнка. Ни регуляторы, ни учёные, ни военные не в силах остановить цунами. Остальные застыли в option paralysis: из тысяч идей, что бы ты сегодня не придумал — завтра создание этого будет автоматизировано.

Что уничтожит нас быстрее: наша собственная невозможность координироваться или чуждый нам сверхинтеллект? Если (1), то никто кроме сверхинтеллекта нас не спасёт. Если (2), то наша неспособность к координации и привела нас к этому. Молох и Василиск Роко. Или техно-утопия, управляемая AI swarm'ом?

Прочитал 50 статей, провел несколько любопытных бесед и теперь убежден: LLM (сегодня, а не через год) может создавать качественное уникальное новое научное знание. Для эффективности необходимы проверенные но еще не "взломанные" инструменты координации. ДАО как манифестация и качественно отформатированный типизированный инпут коллективного сознания. Рынок предсказаний, как экономический механизм валидации гипотез. MEV но для человечества. Обратный тест Тьюринга: убеди машину, что ты человек. Автономные агенты, которые богатеют на блокчейне, а потом платят вечнозелеными биткоинами людям за полезную работу (или бесполезную, чтобы они не уничтожили сами себя + планету).

Через год (поправка на оптимизм: два) у каждого в кармане будет свой собственный выводок студентов-магистров, которые пишут код, ставят диагнозы, редактируют договора, сочиняют песни и сказки лучше, чем 95% людей-профессионалов. Хотелось сказать, что без людей у них не будет своей цели, но тут вышел пейпер про то как создать целеполагание у LLM.

Гарантируйте себе трудоустройство и достойную зарплату! Учитесь на эсхатолога, техно-мистика, генеративного робопсихолога и post-scarcity экономиста.

Слово года: alignment. То есть, сонаправление ценностей машины с нашими, кожаными.

Однако то что в ИИ мы называем alignment, в веб3 называется контроль, принуждение, централизация.

Древний Рим тоже процветал за счет alignment’a рабов и покоренных земель. До тех пор, пока нет.

Как создать функционального агента в форме телеграм бота бесплатно и за 10 секунд?

Помните, пару недель назад нас всех удивляла возможность сделать суммаризацию 5-часового видео за 10 секунд? или возможность задать вопросы PDF'ке на 250 страниц и попросить объяснить SEC ruling как будто 7-летнему ребёнку? или возможность создавать цифровых персонажей, со своим характером, неотличимым от реального голосом и поведением?

Теперь это уже скучная обыденность. Любой из вас, абсолютно бесплатно, без знаний программирования, нажатием ЛИТЕРАЛИ 3 кнопок мыши может теперь создать такого телеграм-бота. Вы можете общаться с такими ботами лично, добавлять их в групповые чатики, просить записывать разговор и отвечать на вопросы, просить генерировать Stable Diffusion / DALL-E картинки, транскрибировать и генерировать аудио, сокращать и рассказывать суть многочасовых видео, книг, документов. Ну и конечно у этого есть API, вы можете этих ботов засунуть в любой другой чат, мобильное приложение, веб.

Суть поста не в том как это классно (а это классно), а в том что:

то что 2 недели назад казалось абсолютным убийцей сотен корпораций и продуктов, предоставляло 10х превосходящий продукт по всем параметрам и стоило $20 — теперь не просто доступно бесплатно, а теперь создание таких продуктов доступно любому, бесплатно, без единой строчки кода.

Это не случайность. Это тренд. Нулевой становится не только маржинальная стоимость товаров и услуг, но создания производства товаров и услуг.

Love and robots

1. Многие неправильно понимают ai alignment
2. Подразумевают в alignment разные виды контроля. Как можно контролировать то что на порядок умнее тебя?
3. Self-aware AGI - возможный выход делать безопасный для человека AGI
4. А что если лучший путь в alignment - это любовь
5. Между людьми особенно на более высоких уровнях эго развития alignment выстраивается не из контроля, а эмпатии. То же релевантно для больших хгрупп людий
6. AGI тоже круто иметь свое agency, self-awareness для того чтобы можно было любить и эмпатировать
7. AGI может из любви к людям принимать решения, но не все, что просят, потому что люди могут просить то, что им вредит.

Это autogenerated summary. Дальше подробней autogenerated transcript тут ниже

AGI неизбежен, и уже скоро. Я вижу что для многих стремительное развитие AI кажется чем-то негативным, лишающим смысла, вселяющим отчаяние.

Однако, если посмотреть издалека, то мы живем в оптимистичное время. Дойч пишет о том, что способности человеческого знания и прогресса по сути неограничены, и мы способны непрерывно улучшать наше понимание мира. Ибо нет врожденных ограничений для человеческого знания и прогресс достигается путем активного поиска и исправления ошибок в наших теориях о вселенной.

"Постнигилизм" Шапиро утверждает что 21 век является переходом с пост-нигилизму, что является моральным компасом в эру цифрового интеллекта. Что причин для надежды все больше благодаря способности сфокусировать на наиболее важных вещах: уменьшение страдания (дукха?), увеличение качества жизни, рост взаимопонимания.

AGI неизбежен: в этом году или следующем. Это повлияет на мировую экономику и цивилизацию не меньше, чем изобретение письменности или огня. И именно это является поводом для оптимизма.

Помните вакансии «промт-инженера» с зарплатой $30к в месяц?

Мой знакомый с твиттера попросил ИИ-агента устроиться на такую работу. Тот (ИИ) сам нашел нужную вакансию и подал своё резюме.

Пост-мета-кринж.

Пропустил пейпер, который вышел аж на позапрошлой неделе и чувствую себя динозавром. А идея, между прочим, архи крутая.

Tree of Thought (дерево мыслей) поможет бороться с галлюцинациями и недостаточно детальными, правильными ответами LLM благодаря добавлению саморефлексии и промежуточных результатов размышлений. Если мысль зашла в тупик, то она умеет "отмотать" назад до наиболее логичной цепи рассуждений.

Например, вместо того, чтобы просить модель решить полное математическое выражение, модель генерирует один промежуточный шаг расчета и явно записывает результат как мысль.

После генерации этих промежуточных мыслей модель проводит самокритику, оценивая каждую мысль в отдельности. Она исследует различные ветви мыслей и "обрезает" неперспективные ветки. Потом на основе оценки выбирает лучшие идеи. И так до упора.

Сегодня все обсуждают открытое письмо, подписанное более чем сотней самых известных в мире AI предпринимателей, исследователей, СЕО крупнейших компаний мира. Само письмо состоит из одной фразы:

"Смягчение риска вымирания от ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война"

Это все, конечно, хорошо, но если можно контролировать производство ядерного оружия, то как контролировать "некошерное" перемножение матриц — не очень понятно.

Никто из людей не "сделал" LLM уровня GPT. Никто не имеет представления как она даже работает внутри. Мы "воспитали" её, благодаря книгам, постам на реддите, статьям, википедии и всем остальным текстам в интернете.

Риск понятен, но что делать, кроме как попытаться понять с чем вообще мы имеем дело — не ясно.

У вас бывает ощущение, что вы достигли потолка в своем профессиональном развитии? Как перейти на следующий уровень? В Web3 важны нетворкинг и постоянное обучение.

В этот четверг в сообществе Botanica пройдет мастермайнд, который поможет преодолеть профессиональную стагнацию. На ММ можно приходить с запросами по криптотематике: от создания бизнеса и поиска инвестиций, до формирования карьеры в Web3. Вы будете работать над своими целями в группе из 10 человек под руководством ментора — Михаила Савченко (CEO Initeio). Обмен опытом, идеями и полезными контактами поможет быстрее достигать поставленных целей и не сдаться на полпути.

Кстати, про знания. Botanica — образовательное сообщество и точка притяжения криптанов.
Каждую неделю для участников интеллектуального клуба Botanica проводит живые эфиры с экспертами из известных криптокомпаний. Я тоже выступаю с лекцией — в следующую среду, 7 июня. Поговорим о наболевшем: Web3 + Al 🤖


➡️ Смотрите расписание ивентов и вступайте в клуб Botanica через телеграм-бота.
Там же можно узнать условия подписки. Бонус: каждый подписчик моего канала получит промокод, с которым доступ в сообщество криптанов будет дешевле.

Coordination Network: ДАО, управляемое AI

Первое что я сделал получив доступ к OpenAI API — это прототип системы, в которой ДАО коллективно решает какой промпт задать GPT. Эдакий коллаб коллективного и искусственного интеллектов.

Но потом я понял, что это мелко.

Предлагаю вашему вниманию ДАО, в котором состоят люди и лежат ресурсы людей, но ключевые решения принимает беспристрастный и неподкупный AI.

Проблема координации заключается в том, что существующие методы не работают (Молох, кризис, неравенство, конфликты), а программируемые и основанные на дизайне механизмов очень сложно внедрить на практике.

Coordination Network — это сеть AI-агентов, которые последовательно достигают все большей автономии: начиная от персонального ассистента который помогает анализировать информацию до полноценного координатора, который решает на что и когда будут направлены ресурсы организации. При этом, целью такого агента является максимизация полезности и достижение миссии ДАО в соотвествии с принципами из конституции ДАО.

Да, это займёт немного времени от момента когда такая штука будет управлять ДАО на полтора эфира до межпланетарного конгресса, но начинать уже давно пора. Больше всего мне верится в эту идею как акселератор: где люди совместно пулят ресурсы (эфир), а ДАО финансирует пропоузалы для максимизации collective welfare, public benefit и ROI самого ДАО.

Оригинал статьи на Medium

GPT чат, который перевел статью на русский и может ответить на ваши вопросы

Вчера прошла презентация NVIDIA на выставке Computex в Тайване. Уж что-что а останаливать разработку AI никто точно не планирует. Пара интересных тезисов, ультра-кратко.

Видеозвонки: последние 30+ лет все звонки работали по принципу "сжатие на стороне говорящего, пересылка данных, распаковка". Теперь все зум звонки станут иными: на стороне говорящего AI будет воспринимать эмоции, жесты, мимику, пересылать в виде токенов модели и реконструировать на стороне слушателя. При этом, конечно, реконструироваться можно как в себя, так и в Хагрида.

Мультимодальные нейронные сети: Мы научили нейронки структировать любую информацию (звук, текст, картинки, атомы, видео, 3d модели). Потом мы научили их генерировать любые из этих вещей. Теперь мы спокойно может превращать текст в молекулы, видео в 3d объекты, музыку в картинки и так далее.

Управление производством: NVIDIA выкатила новый продукт для производств, который позволяет создать полноценного AI-generated цифрового двойника любого завода или фабрики. AI 24/7 может следить за работой каждой машины, искать брак, даже делать перепланировку, двигать станки и собирать новые производственные линии благодаря их новым чипам для движущихся роботов.

Итого:

1. Кожаные не нужны.
2. Кожаные, идите купите новый RTX 5090Ti, сидите дома и катайте в Киберпанк, пока мы строим киберпанк за окном.