Love and robots

1. Многие неправильно понимают ai alignment
2. Подразумевают в alignment разные виды контроля. Как можно контролировать то что на порядок умнее тебя?
3. Self-aware AGI - возможный выход делать безопасный для человека AGI
4. А что если лучший путь в alignment - это любовь
5. Между людьми особенно на более высоких уровнях эго развития alignment выстраивается не из контроля, а эмпатии. То же релевантно для больших хгрупп людий
6. AGI тоже круто иметь свое agency, self-awareness для того чтобы можно было любить и эмпатировать
7. AGI может из любви к людям принимать решения, но не все, что просят, потому что люди могут просить то, что им вредит.

Это autogenerated summary. Дальше подробней autogenerated transcript тут ниже

AGI неизбежен, и уже скоро. Я вижу что для многих стремительное развитие AI кажется чем-то негативным, лишающим смысла, вселяющим отчаяние.

Однако, если посмотреть издалека, то мы живем в оптимистичное время. Дойч пишет о том, что способности человеческого знания и прогресса по сути неограничены, и мы способны непрерывно улучшать наше понимание мира. Ибо нет врожденных ограничений для человеческого знания и прогресс достигается путем активного поиска и исправления ошибок в наших теориях о вселенной.

"Постнигилизм" Шапиро утверждает что 21 век является переходом с пост-нигилизму, что является моральным компасом в эру цифрового интеллекта. Что причин для надежды все больше благодаря способности сфокусировать на наиболее важных вещах: уменьшение страдания (дукха?), увеличение качества жизни, рост взаимопонимания.

AGI неизбежен: в этом году или следующем. Это повлияет на мировую экономику и цивилизацию не меньше, чем изобретение письменности или огня. И именно это является поводом для оптимизма.

Помните вакансии «промт-инженера» с зарплатой $30к в месяц?

Мой знакомый с твиттера попросил ИИ-агента устроиться на такую работу. Тот (ИИ) сам нашел нужную вакансию и подал своё резюме.

Пост-мета-кринж.

Пропустил пейпер, который вышел аж на позапрошлой неделе и чувствую себя динозавром. А идея, между прочим, архи крутая.

Tree of Thought (дерево мыслей) поможет бороться с галлюцинациями и недостаточно детальными, правильными ответами LLM благодаря добавлению саморефлексии и промежуточных результатов размышлений. Если мысль зашла в тупик, то она умеет "отмотать" назад до наиболее логичной цепи рассуждений.

Например, вместо того, чтобы просить модель решить полное математическое выражение, модель генерирует один промежуточный шаг расчета и явно записывает результат как мысль.

После генерации этих промежуточных мыслей модель проводит самокритику, оценивая каждую мысль в отдельности. Она исследует различные ветви мыслей и "обрезает" неперспективные ветки. Потом на основе оценки выбирает лучшие идеи. И так до упора.

Сегодня все обсуждают открытое письмо, подписанное более чем сотней самых известных в мире AI предпринимателей, исследователей, СЕО крупнейших компаний мира. Само письмо состоит из одной фразы:

"Смягчение риска вымирания от ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война"

Это все, конечно, хорошо, но если можно контролировать производство ядерного оружия, то как контролировать "некошерное" перемножение матриц — не очень понятно.

Никто из людей не "сделал" LLM уровня GPT. Никто не имеет представления как она даже работает внутри. Мы "воспитали" её, благодаря книгам, постам на реддите, статьям, википедии и всем остальным текстам в интернете.

Риск понятен, но что делать, кроме как попытаться понять с чем вообще мы имеем дело — не ясно.

У вас бывает ощущение, что вы достигли потолка в своем профессиональном развитии? Как перейти на следующий уровень? В Web3 важны нетворкинг и постоянное обучение.

В этот четверг в сообществе Botanica пройдет мастермайнд, который поможет преодолеть профессиональную стагнацию. На ММ можно приходить с запросами по криптотематике: от создания бизнеса и поиска инвестиций, до формирования карьеры в Web3. Вы будете работать над своими целями в группе из 10 человек под руководством ментора — Михаила Савченко (CEO Initeio). Обмен опытом, идеями и полезными контактами поможет быстрее достигать поставленных целей и не сдаться на полпути.

Кстати, про знания. Botanica — образовательное сообщество и точка притяжения криптанов.
Каждую неделю для участников интеллектуального клуба Botanica проводит живые эфиры с экспертами из известных криптокомпаний. Я тоже выступаю с лекцией — в следующую среду, 7 июня. Поговорим о наболевшем: Web3 + Al 🤖


➡️ Смотрите расписание ивентов и вступайте в клуб Botanica через телеграм-бота.
Там же можно узнать условия подписки. Бонус: каждый подписчик моего канала получит промокод, с которым доступ в сообщество криптанов будет дешевле.

Coordination Network: ДАО, управляемое AI

Первое что я сделал получив доступ к OpenAI API — это прототип системы, в которой ДАО коллективно решает какой промпт задать GPT. Эдакий коллаб коллективного и искусственного интеллектов.

Но потом я понял, что это мелко.

Предлагаю вашему вниманию ДАО, в котором состоят люди и лежат ресурсы людей, но ключевые решения принимает беспристрастный и неподкупный AI.

Проблема координации заключается в том, что существующие методы не работают (Молох, кризис, неравенство, конфликты), а программируемые и основанные на дизайне механизмов очень сложно внедрить на практике.

Coordination Network — это сеть AI-агентов, которые последовательно достигают все большей автономии: начиная от персонального ассистента который помогает анализировать информацию до полноценного координатора, который решает на что и когда будут направлены ресурсы организации. При этом, целью такого агента является максимизация полезности и достижение миссии ДАО в соотвествии с принципами из конституции ДАО.

Да, это займёт немного времени от момента когда такая штука будет управлять ДАО на полтора эфира до межпланетарного конгресса, но начинать уже давно пора. Больше всего мне верится в эту идею как акселератор: где люди совместно пулят ресурсы (эфир), а ДАО финансирует пропоузалы для максимизации collective welfare, public benefit и ROI самого ДАО.

Оригинал статьи на Medium

GPT чат, который перевел статью на русский и может ответить на ваши вопросы

Вчера прошла презентация NVIDIA на выставке Computex в Тайване. Уж что-что а останаливать разработку AI никто точно не планирует. Пара интересных тезисов, ультра-кратко.

Видеозвонки: последние 30+ лет все звонки работали по принципу "сжатие на стороне говорящего, пересылка данных, распаковка". Теперь все зум звонки станут иными: на стороне говорящего AI будет воспринимать эмоции, жесты, мимику, пересылать в виде токенов модели и реконструировать на стороне слушателя. При этом, конечно, реконструироваться можно как в себя, так и в Хагрида.

Мультимодальные нейронные сети: Мы научили нейронки структировать любую информацию (звук, текст, картинки, атомы, видео, 3d модели). Потом мы научили их генерировать любые из этих вещей. Теперь мы спокойно может превращать текст в молекулы, видео в 3d объекты, музыку в картинки и так далее.

Управление производством: NVIDIA выкатила новый продукт для производств, который позволяет создать полноценного AI-generated цифрового двойника любого завода или фабрики. AI 24/7 может следить за работой каждой машины, искать брак, даже делать перепланировку, двигать станки и собирать новые производственные линии благодаря их новым чипам для движущихся роботов.

Итого:

1. Кожаные не нужны.
2. Кожаные, идите купите новый RTX 5090Ti, сидите дома и катайте в Киберпанк, пока мы строим киберпанк за окном.

На фотографии — книга, которая лежит у меня на столе уже почти месяц. В ней (1986 год) рассказывается, что разум — это не единый инструмент, а постоянный диалог (социум) большого количества агентов, таких как память, слова, эмоции, логика. Автор — основатель MIT AI Lab.

В комментариях посоветовали совершенно феерический пейпер, который развивает эту же идею, но для современных ИИ-агентов.

Всё примтивно: агенты выполняют функции а-ля Society of Mind, а запрограммированная организационная структура координирует работу агентов между собой. Авторы называют это "society of agents". Например, они показали что 100+ агентов в постоянном разговоре, дебатах и спорах между собой дают более качественный результат чем GPT, DALL-E, Imagine3D, BLIP2 и другие нейронки. В самой статье абсолютно чудесные и просты для понимания примеры, типа создания промта для картинки, анализа видео, навигации в реальном мире или разработки компьютерной игры с нуля. Все, конечно, без любой человеческой помощи.

Авторы говорят, что reinforcement learning может сделать подход еще более эффективным, НО текущая модель крута тем, что на любом этапе можно заглянуть в мысли машины — потому что все промежуточные шаги и обсуждения между агентами происходят на натуральном языке, типа английского.

Авторы даже говорят о том, что некоторые агенты "социума агентов" могут получать USD/EUR (но мы то знаем то даи и юсдт! — прим. Gershuni) Агенты могут платить друг другу, другим людям (чтобы те капчу решали — прим. Gershuni). Более того, согласно законам ЕС — письменная договоренность между GPT-агентами является валидным и юридически значимым контрактом.

В одном таком общества агентов могут работать десять, сто, миллион или миллиард агентов, и таких обществ может быть десятки или сотни миллионов, что в совокупности называется economy of mind, "экономика разума". Об это собственно я и написал свою последнюю статью.

Я уже рассказывал вам про криптошколу Botanica (#партнерскийпост).

В эту среду, 7 июня, я буду читать в Botanica лекцию Web3 + AI: автономный веб. Расскажу про создание программной экономики, лучшие кейсы применения ИИ — в том числе поговорим о ДАО, управляемых нейронкой и многом-многом другом.

Приятный бонус. Лекция будет закрытой для студентов школы, но подписчики моего канала тоже могут на нее попасть. Рассказываю как.

Для этого нужно зарегистрироваться на бесплатный демо-доступ в Botanica и затестить 7-дневную подписку в клубе. Эфир со мной будет доступен в рамках тестовой недели. Добавляйте в календари и приходите на эфир!

🗣Web3 + AI: автономный веб. Эфир в школе Botanica
🗓 Среда, 7 июня. 19:00-20:00
➡️ Активируйте демо-доступ в Botanica через телеграм-бота

Хотите купить редкую недвижимость в ОАЭ или Москве напрямую и без комиссии?

На закрытых каналах аналитика Андрея Негинского @еmirats и @mosсоw 4 раза в неделю появляется новый вариант сразу со стоимостью, например:

1️⃣ Квартира 100м2 с панорамным видом на ночной город и огромной террасой

2️⃣ Апарты 80м² для семьи с ребенком рядом с зеленым парком и рассрочкой на 7 лет.

3️⃣ Студия 44м² на ранней стадии стройки и доходностью в 15.4% годовых.

👉 Вот ссылка @еmirats для тех, кому интересны ОАЭ (уже 41.500 подписчиков), а здесь @mosсоw про рынок Москвы (уже 7.100 подписчиков).

Посты автор пишет сам, рекламы нет, вся информация свежая и по делу. Подписывайтесь, чтобы следить за рынком.

Вчера SEC выкатил иск против Binance (назвав в процессе FIL, ATOM, BNB незарегистрированными ценными бумагами), а сегодня под раздачу попал Coinbase. Мы поговорили о регуляции крипты с Глебом Костаревым, вице-президентом Бинанс по региональному развитию.

Регуляция и будущее крипты: Глеб Костарев, топ-менеджер Binance

- как разные регионы и стран подходят к регуляции крипты? где у крипты позитивное будущее, а где ждать затягивания гаек?
- перспективы развития регуляции и адопшена в США, Европе, Азии, Турции, Ближнем Востоке, Латинской Америке
- будущее централизованных и децентрализованных бирж, и как первые станут вторыми.
- стратегию Binance в контексте желания децентрализовать себя
- хайп циклы крипты: какой нарратив работает сейчас что будет развиваться в ближайшие годы? что будет с GameFi, NFT, SocialFi, кошельками?
- финансовую приватность и будущее zk-платежей

Данный подкаст можно сминтить себе в форме NFT.

Смотреть: YouTube
Слушать: Spotify, Google Podcast, iTunes

Дал небольшое интервью про AI, web3 а так же все что находится между этих двух

Андрисен опубликовал прекрасный, структурированный и аргументированный текст, о том почему нужно ускорять разработку AI (e/acc) и "жечь в аду как можно больше" (V.Buterin) всяческих регуляторов.

Ключевые идеи:

1. AI делает нашу жизнь лучше. У каждого человека появляется бесплатный терпеливый всезнающий ассистент. Помогает художникам творить, врачам лечить, ученым хреначить пейперы как не в себя, государям - править.

2. Вокруг много паники про то, что AI убьет всех. Но это вряд ли потому что у AI нет эволюционных причин и инстурментов что-то хотеть. Зато люди любят культы, фатализм, думерство. Если в деревне есть культ сатантистов, то почему в Menlo Park и Sand Hill Rd. не может быть своего культа?

3. Да, миллионы профессий станут не нужны. И это классно. Люди станут более производительны и появятся новые дела. Даже если AI заменит все текущие виды труда, это приведет к безпрецедентному экономическому буму и созданию новых отраслей, товаров и услуг.

4. AI и технологический прогресс — это способ снизить неравенство. Благодаря капиталистической природе компании Apple, у каждого в кармане есть смартфон. То же самое будет с AI-ассистентами.

5. AI будут использовать злодеи, типа правительства Китая. Именно поэтому нужно исследовать, строить, запускать продукты как можно быстрее, потому что свободный мир технологически всегда сильнее закрытых диктатур.

Итого: Все компании, стартапы, опен-сорс проекты должны двигать AI как можно быстрее безо всякой регуляции (по крипте мы видим что регуляция это почти всегда зло — прим. переводчика)

P.S. На закуску он кидает ссылку на первый пейпер об AI — 1943 года, порадовался пока читал.

Забавно рынок отреагировал на самые негативные новости в крипте, кажется, ever (ультимативные иски регулятора США против двух крупнейших компаний в индустрии)?

Дамп для муравьев

Крипта, наконец, становится похожа на то для чего она была придумана.

Не поймите неправильно: я по-прежнему убежден, что AI является технологией, которая наиболее сильно повлияет на жизни людей в этом десятилетии (и, скорее всего, тысячелетии).

AI призван решить front-end технологий: снизить капитальные издержки, сделать нулевой маржинальную стоимость создания товаров и услуг, создать экономику довольствия (post-scarcity).

Крипта призвана решить back-end общества: снизить транзакционные издержки, создать программируемые институты, нецензурируемые деньги, суверенную личность и данные, децентрализованное принятие решение вне иерархических бюрократий.

Так вот, AI развивается и никто не в силах это остановить (слава Молоху?), а вот крипта последние годы немного застряла в своей цели. Пока крипта ищет «регулируемого фреймворка» она будет в лучшем случае инструментом для nation states, а не их заменой. Когда ЕС запрещает продажи игровых предметов, а США заявляет что плюс-минус все что вы делаете в крипте — нелегально, — вот тогда есть шансы у действительно альтернативных институтов. Потому что люди, воспользовавшись единожды биткоином, поработав в ДАО, поняв преимущества DeFi и осознав удобство self-sovereign identity, уже никогда не вернутся в мир, где все вещи деньги принадлежат банку, данные — гуглу, свобода — государству, права — шайке мутных юристов из какого-то сложнопроизносимого департамента.

Рассказал на конференции про кейсы и продукты на стыке web3 + AI на Epic Web3 Conference. Говорят, вышло интересно. Поэтому сделаю в ближайшее время лайвстрим на эту тему с вопросами/ответами.

Плюс, хочу поделиться анонсом, который я бережно и волнительно вынашивал последние несколько недель.

Я писал, что ИИ как технология очень существенно влияет на жизнь каждого человека и компании. Я уверен, что разобраться в том что может, а что не может делать та или иная AI-модель, научиться лучшим практикам использования ИИ, промптинга, принципам построения продуктов и поиска бизнес-возможностей — это важнейший навык, чем бы вы не занимались. Эмбеддинги, автономные агенты, окно контекста — это для многих страшные слова, но на самом деле это вещи, которые можно освоить без программирования и они будут полезны как разработчикам, так и маркетологам, художникам, инфлюенсерам, HR’ам, аналитикам и предпринимателями.

Сейчас есть много непонимания того как эти вещи использовать, но я убежден в практической полезности этих знаний прямо завтра.

Поэтому мы решили сделать онлайн курс про ИИ, в который входят бесплатный, открытый для всех, вебинар и закрытая группа, база знаний и серия лекций + воркшопов (все лайв, никаких предзаписанных роликов).

Записаться на бесплатный вебинар и/или курс можно тут: https://www.codex.town/

Я вижу два кардинально разных подхода к технологиям.

(1) Всё — хайп. Нет прямой связи между технологиями и уровнем жизни. Технологии это просто нарратив для развода хомяка. Делаем ICO пока туда несут деньги. Минтим NFT пока их скучают спекулянты. Публикуем списки «лучших промптов в истории человечества» пока это добавляет подписчиков. Бежим продавать чехлы для VR очков как только про них заявили в Apple.

(2) Всё — прогресс. Тот факт, что почти все ICOшники обнулились никак не принижает ценности первых истории человечества нецензурируемой программируемой денежной и финансовой системы. То что торговцы NFT не смогли никак не уничтожает возможность впервые напрямую владеть цифровыми активами и вещами. AI-инфлюенсеры не уменьшают революционности продуктового и технологического прорыва, которые совершили LLM за последние пару лет. Даже VR неизбежен, как бы кто не завидовал Тиму Куку и не хейтил Цукерберга — просто мозг и глаз это инженерно нифига не простые штуки.

Причем к первой категории относятся не только дубайские скамеры, но и многие регуляторы и даже просто консерваторы. Потому что они где-то глубоко внутри уверены, что их картина мира верна и что мир неизменен. Что любая инновация — это приходящая мода, а структурные изменения невозможны (или возможны, но после нас).

Мета в образовании.

Я писал, что где-где, а в образовании эффект AI не может быть переоценен. Это учитель, который владеет примерно всем знанием человечества, на люьбом языке, бесконечно терпелив, может подстраиваться под уровень любого студента. Я даже пару месяцев назад сделал продукт, в котором AI создает и проводит курсы, лекции, семинары на любую тему (бесплатно для всех).

Но мир пошел дальше. Ребята научились использовать GPT для массовой штамповки Udemy курсов. А вот рассказ о том, что большинство курсов про ChatGPT делает ChatGPT. Но это временный арбитраж, до тех пор, пока сам Udemy имеет смысл.

В самом ближайшем будущем, подобно тому как Гугл дал нам возможность получить доступ к любой информации, AI даст нам доступ к любой информации в нужном контексте, в формате разговора с мудрым наставником и желающим помочь ассистентом.

Фактические знания и умение их получать больше не является конкурентным преимуществом. Преимуществом является интуиция относительно того что возможно и умение создавать/использовать нужные инструменты для этого.

Кстати, именно про это наш курс Codex.town, который стартует уже на следующей неделе. Он поможет понять что с помощью ИИ возможно сейчас, что будет через год, а что — ещё не скоро. И какие инструменты стоит использовать, если вы не разработчик. А на этой неделе будет бесплатный вебинар как раз про возможности ИИ для ежедневной работы. Обещаю, его делали живые люди.