Малоизвестное интересное
66.9K subscribers
121 photos
1 video
11 files
1.83K links
Авторский взгляд через призму новейших исследований на наше понимание реальности, человеческой сущности и того, как ИИ меняет их.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
Субботнее эссе The Wall Street Journal https://www.wsj.com/articles/the-liberty-of-nations-1535120837 фиксирует наступление новой эпохи трансформации мирового порядка, когда на смену глобализма идет национализм.
Эссе The Liberty of Nations (Свобода наций) - это авторская адаптация основных положений захватывающей и глубоко ученой книги известного израильского философа и политолога Йорама Хазони The Virtue of Nationalism (Достоинство национализма), которая выйдет 4го сентября.

В этом эссе (и конечно же в книге) Хазони дает развернутое обоснование следующим ключевым идеям.
✔️ Национализм растет по всему миру, - на лицо широкое возрождение националистических идеалов и устремлений. Признание этого процесса является ключом к пониманию:
• появления Дональда Трампа в США;
• движущей силы сопротивления ЕС и его политике в Великобритании, Италии, Австрии, Польше и Венгрии;
• успехов Моди в Индии, Абэ в Японии и Нетаньяху в Израиле;
• специфических идеологических и политических трендов в России, Турции и Китае.
✔️ Национализм - это не проблема, а скорее решение проблемы имперского шовинизма, источником которого в XX веке стали «глобалисты» из двух конкурирующих лагерей «либерального империализма»: «экономические либералы» и «политические либералы».
✔️ Мы должны помнить главный урок Второй мировой войны, который кажется почти забытым: «Британский, американский и российский национализм победил устремления Германии к глобальной империи». И если мы хотим свободы, мы должны бороться за сохранение мира суверенных национальных государств.
✔️ Националистический порядок является единственной реалистичной гарантией свободы в современном мире, и поэтому недостатки национализма явно перевешиваются его достоинствами.
✔️ Новая эпоха национализма знаменует окончание однополярности и глобализации, определявших мировой порядок после окончания холодной войны.

Желающим разобраться в этом сложном, но чертовски важном (если ни наиважнейшем для мира) вопросе, рекомендую (помимо эссе и книги):
1️⃣ Почитать, послушать и посмотреть самого Хазони, рассказывающего о новой книге на своем сайте https://www.yoramhazony.org/tvn/
2️⃣ Прочесть развернутые критические рецензии:
— как на саму эту книгу https://goo.gl/cJTnq7
— так и на предыдущие работы Хазони о национализме https://goo.gl/FDKizW (на русском)

❗️ P.S. Оставляя за Хазони право на отстаивание достоинств национализма, от себя лишь хочу заметить следующее.
За полтора года после моего «бестселлера» - поста «Большой войны не миновать» https://goo.gl/VHuavM его название превратилось в мем. И это неспроста.
Идеи Хазани, возможно, правильные, и глобализацию, иначе чем национализмом, не остановить.
Но беда, и куда более опасная, чем глобализация, - Большая война – может стать неотвратимым следствием принятия миром политики национализма в области ИИ.
Об этом я пишу очередной лонгрид. Не пропустите.

#Национализм #БольшойВойныНеМиновать #БББ
Революция в понимании революции глубокого обучения.
Глубокое обучение – это паровая машина XXI века.

99,9% наших современников полагают, что фантастический прогресс технологий беспилотных авто, облачных переводчиков, персональных ассистентов, всевозможных распознавалок и биржевых роботов – все то, что привнесло в жизнь человечества глубокое обучение – это плоды революции глубокого обучения, вовсю идущей на планете.
Мягко говоря, это пока что не так.
Мы всего лишь стоим на пороге революции и еще не понимаем, что нас ждет за этим порогом.
— Что за новые науки она нам откроет?
— Как будут выглядеть в жизни плоды приложений этих, пока еще не открытых наук?
— Как эти плоды изменят саму жизнь отдельных людей и целых обществ?
Так что не стоит воспринимать всерьез светлый образ будущего, рисуемый сегодняшними сценаристам Голливуда, журналистами и штатными техно-провидцам (они этим себе имя и деньги зарабатывают).
Все будет, не то что совсем не так, а просто настолько по-другому, что наши сегодняшние представления со временем будут вызывать лишь улыбки.

Сегодняшние практические успехи глубокого обучения нейронных сетей – это полное подобие построению первых паровых машин во второй половине 18 века, предвещавших скорое наступление промышленной революции.

Как и почему эти машины работают, тогда никто в мире не понимал. И потребовалось 150 лет, и великие прозрения Карно, Джоуля, Кельвина, Гиббса, Нернста и Каратеодори, чтобы создать новую науку – термодинамику.
Открытие её «начал» (от 0го до 3его) изменило все представления о физическом мире, увязав понятия температуры, объема, давления и энергии, открыв фундаментальные мировые постоянные (Авогадро, Больцмана …), совершив интеллектуальные прорывы к понятиям идеального газа, энтропии и в результате породив целый спектр новых наук: от неравновесной термодинамики до термодинамики фотонного газа (и это еще не предел).

Какой будет революция, толчком к которой станет создание «паровой машины 21 века» - глубокого обучения – пока можно только гадать. Пока что, как и 300 лет назад, мы лишь знаем:
- что «эта штука» работает и весьма эффективно;
- но как и почему, - не понятно.
А поскольку нет ни теории «этой штуки», ни, тем более, ее увязки с другими фундаментальными научными теориями, то и пределы ее практического применения нам видятся примерно так же, как виделась перспектива использования паровых машин в середине 18 века или перспектива полетов для человечества после полета братьев Райт на рубеже 20-го века.

Питать иллюзии, что разобраться, как работает «эта штука», можно будет лет за 5-10, наивно. И нет смысла кивать на то, что все сейчас сильно ускорилось. На построение первых эффективно работающих систем глубокого обучения ушло примерно столько же время, как и для паровых машин – около 40 лет. Поэтому, не стоит торопиться с прогнозами.

И если что-то может считаться уже понятным и определенным, так только одно.
Следующие прорывы, ознаменующие ход революции глубокого обучения, произойдут при достижении новых этапов в понимании структуры и принципов работы всех областей человеческого мозга.

Обо всем этом написано в новой замечательной книге одного из самых разбирающихся в этой теме супер-мега-спецов – «родителя» всего сегодняшнего глубокого обучения, в 1980-х годах бросившего вызов тогдашней версии ИИ на основе логики и символов, ученого с немыслимым числом наград и титулов, проф. Терри Сейновски.
Книга «Революция глубокого обучения» выйдет 30 октября. И в этой книге все очень точно и правильно. Все, - кроме её названия. На самом деле она не о идущей «Революции глубокого обучения», а о «Революции в понимании революции глубокого обучения», которая еще только должна начаться.

К сожалению, не могу поделиться с вами текстом книги до ее публикации. Но весьма рекомендую краткий пересказ Ника Хейса ее основных мыслей
https://www.techrepublic.com/article/the-deep-learning-revolution-how-understanding-the-brain-will-let-us-supercharge-ai/

#БББ #ГлубокоеОбучение
Будете потом жалеть, если не найдете сейчас 5 мин. на субботнее эссе Кай-Фу Ли в WSJ, озаглавленное «The Human Promise of the AI Revolution. A New Social Contract».
https://www.wsj.com/articles/the-human-promise-of-the-ai-revolution-1536935115
Это эссе о будущем «человечества + ИИ». О реальном будущем, а вовсе не об утопиях техно-оптимистов и антиутопиях техно-алармистов.
Это короткое эссе позволяет:
— увидеть технологические аспекты ИИ намного глубже и точнее, чем при чтении Рэя Курцвейла или Илона Маска;
— понять бизнес перспективы грядущей ИИ революции куда лучше, чем из отчетов MIT и McKinsey;
— осознать социальные последствия этой революции в планетарном масштабе.

Но главное, - эссе содержит принципиальное социально-политическое предложение,
✔️ как человечеству избежать практики тотального «экономического обезболивания» с помощью безусловного дохода последствий ИИ революции;
✔️ как «Стипендия социальных инвестиций» могла бы предотвратить превращение большинства населения Земли в «обеспеченных идиотов», а экономики Земли – в фабрику-кухню для их жизнеобеспечения.

Ну а если кому-то не удастся пройти за пэйвол WSJ, чтобы прочесть это эссе прямо сейчас,
- прочтите «развернутую преамбулу» автора этого эссе, о которой я написал в апреле с.г. – «Так говорил Кай-Фу Ли. Пост для всех и ни для кого» https://goo.gl/J5eDsD;
- а через 10 дней купите Бестселлер Ближайшего Будущего «AI Superpowers: China, Silicon Valley, and the New World Order», главой которого является это эссе.
https://www.amazon.com/AI-Superpowers-China-Silicon-Valley-ebook/dp/B0795DNWCF

#БББ #ИИ #НовыйМировойПорядок
«Беспокоитесь, что ИИ станет слишком умным и захватит мир?
Но реальная проблема, — что, будучи предельно глуп, ИИ уже это сделал»


Эти слова Педро Домингоса – автора бестселлера 2017 «Мастер-алгоритм» - были бы отличным эпиграфом для недавней статьи Мелани Митчелл в NYT, озаглавленной «ИИ сталкивается с барьером смысла».
Статья резюмирует основную идею новой книги Мелани «ИИ – руководство для мыслящих людей», которая выйдет в следующем году и имеет отличные шансы стать бестселлером 2019.

Беда, как обычно, не с инструментарием (коим ИИ является), а с людьми. И ладно бы они, хоть и бездумно, но пользовались все новыми и новыми приложениями машинного обучения для пустяков – типа пресловутого заказа столика в ресторане.
Так нет же. Безумные энтузиасты и жадные корпорации (так уж они устроены) все более расширяют границы допустимых областей применения приложений машинного обучения (нахально и безосновательно называемых ими ИИ).

— Неважно, что «читающие» юридические документы программы могут быть легко обмануты (ведь и юристы ошибаются – говорят самозашоренные энтузиасты).
— Ерунда, что самоуправляемое авто при какой-то никому пока не известной игре освещения и теней может не распознать человека на своем пути (а сколько гибнет под колесами людей – парируют энтузиасты).
Мелани Митчелл приводит дюжину не менее опасных примеров, показывающих, как люди своими руками создают при внедрении т.н. ИИ все новые классы потенциальных уязвимостей: для отдельного человека и для всего человечества, допускающих физическое и ментальное негативное воздействие с никому неизвестными масштабами негативных последствий.

И все упирается
✔️ в выбранный ложный путь – симуляция «умного поведения» по определению безумными (в смысле ума совсем нет) программами на основе машинного обучения,
✔️ в неостановимую гонку коммерциализации т.н. ИИ систем, которые работают «достаточно хорошо» по узким задачам,
✔️ ну и, конечно, в безразмерную тупость и жадность людей, уповающих, что, мол, как и раньше бывало с революционными инновациями, все как-нибудь со временем рассосется.

А ведь есть только один способ остановить это безумие:
— Признать, что акторами «умного поведения» в реальной жизни людей (а не в лабораториях экспериментаторов) должны быть лишь реально разумные интеллектуальные системы.
— А для этого нужно, наконец, понять, описать, многократно проверить, что же такое разум, как он устроен и как может быть воспроизведен рукотворно.

Теория и практические подходы для этого существуют (и похоже, мне более не стоит откладывать про это написать).
Осталось лишь серьезно взяться, не уповая на коммерциализацию в ближайшие 12 месяцев.

Подробней:
Статья Мелани Митчелл https://www.nytimes.com/2018/11/05/opinion/artificial-intelligence-machine-learning.html
Информация к размышлению вокруг статьи https://mindmatters.ai/2018/11/machines-just-dont-do-meaning/

#БББ #ИИ #МашинноеОбучение
​​Лучшие нонфикшн книги мира 2018 года
Если что и брать с собой почитать в длинные НГ каникулы, так что-то из этих книг (благо есть номинации на любой вкус).
Рекомендации канала «Малоизвестное интересное», с полным осознанием ответственности, делегированы самой, имхо, интеллектуальной и беспристрастной мировой премии нонфикшн книг Non-Obvious Book Awards.
Победителями этой премии в 2018 стали:

1. Самая интересная деловая книга года - «Формула» Альберта-Ласло Барабаши.
Что если настоящий секрет знаменитости Эйнштейна был в том, что он оказался в нужном месте в нужное время? Почему только лидеры получают все лавры за коллективные достижения? Почему известные художники остаются известными, независимо от того, насколько хороши их работы? Первая в мире книга, посвященная науке об успехе.
подробней
2. Самая актуальная книга года - «Бесполезные работы» Дэвида Гребера.
Вследствие ИИ автоматизации, у всё большего количества людей работа становится бессмысленной. Есть ли какая-то польза от однообразной рутины? Диагноз и эпидемиология вопроса.
подробней
3. Самая полезная книга года - «Фактологичность» Ганса Рослинга.
Десять причин, по которым мы ошибаемся насчет мира и почему все лучше, чем кажется» - о стереотипах мировоззрения, не имеющих ничего общего с реальность, и причинах, искажающих восприятие.
подробней
4. Самая оригинальная книга года - «Победители забирают всё» Ананд Гиридхарадас
О том, что «всё могут богачи» и что истинная власть в развитых странах находится в руках финансовых титанов, которых править согражданами никто не выбирал.
подробней
5. Самая разшариваемая книга года - «Бунтарский талант» Франчески Джино.
Нарушение правил игры сотрудниками помогает усилить позиции компании на рынке. Перед тем, как увольнять, изучите другие варианты. Почему принимать на работу сотрудников-бунтарей – один из эффективных способов для развития бизнеса.
подробней

Но это еще не всё!
Это – шорт лист из 15 книг

А здесь все списки:
- 5 лучших книг,
- 15 книг шорт-листа,
- 35 книг лонг-листа, включая отличнейшие книги, которые я уже рекомендовал:
от «21 урок для XXI века» Харари
до «Сверхдержавы ИИ: Китай, Силиконовая долина и новый мировой порядок» Кай-Фу Ли

И поверьте, лучшей подборки из 35 книг для чтения в течение всего 2019, - не найдете! 👍

#БББ
ИИ как синтез 2го Пришествия и Апокалипсиса.
Выбор между ИИ-Добром и ИИ-Злом не однозначен для человечества.

В будущем о нашем времени будут говорить, как о времени «Пришествия ИИ»:
• поворотном моменте, определившем все последующие важнейшие события в истории человечества 21 века;
• воплотившем в себе одновременно и 2е Пришествие и Апокалипсис и переведшим стрелку дальнейшего пути человечества то ли на путь к немыслимым ранее высотам ИИ-Добра, то ли в эсхатологическую бездну ИИ-Зла.

60+ лет назад математик и философ Норберт Винер опубликовал книгу о месте машин в обществе, которая заканчивалась предупреждением: "Мы никогда не получим правильные ответы, если не будем ставить правильные вопросы....
В конце 2го десятилетия 21 века пришёл час поставить главный вопрос современности, поскольку выбор между дальнейшим движением в сторону ИИ-Добра или ИИ-Зла нужно делать сейчас, и этот выбор уже нельзя отложить.

Но разве выбор между ИИ-Добром и ИИ-Злом не однозначен для человечества?

Известный энтузиаст просвещения и основатель Edge Джон Брокман убедительно показывает нам:
✔️ выбор не просто неоднозначен, а в принципе неопределен;
✔️ траектория дальнейшего движения – это не выбор из 2х альтернатив;
✔️ это выбор в, как минимум, 25-мерном пространстве возможных вариантов, в чем-то похожих, а в чем-то принципиально разных.

Каждый из этих 25 вариантов – это видение одного из важных научных умов, посвятивших десятки лет изучению всевозможных аспектов ИИ: от математики до философии.
Они собрались вместе на импровизированный круглый стол не затем, чтобы найти единый правильный ответ, - такого ответа просто нет.
А затем, чтобы, как писал Винер, поставить правильные вопросы.

Вопросы о том:
- почему в распространении кибернетической идеи на людей концепции Винера не достигли своей цели?
- пора ли вводить законы против незаконно обучаемых машин?
- как человечеству ограничиться разработкой интеллектуальных инструментов, не ввергаясь в экзистенциальные риски разработки искусственных сознательных агентов?
- как ограничивать сверхускорение прогресса за счет широкого внедрения ИИ, чтобы этот безудержный процесс не достиг столь космических масштабов, что человечество просто не вынесет биологически?
- может ли развитие ИИ, подобно развитию человеческого разума, застрять в локальном минимуме?

И еще один, возможно, наиболее общий из вопросов, не формулируемый одним предложением.
• вот уже десятки веков человечество экспериментирует с гибридным суперинтеллектом в форме национальных государств и корпораций;
• этот опыт показывает, что все формы таких гибридных суперинтеллектов обладают свойством генерации собственных целей, не всегда соответствующих интересам людей, которые их создали;
• так неужели же этот вполне осязаемый и доступный для изучения опыт не останавливает нас от создания гибридного суперинтеллекта нового типа?

Через 2 недели книга «Possible Minds: Twenty-Five Ways of Looking at AI» будет опубликована.
https://goo.gl/cvi1Un
Прочтя многие из её рабочих заготовок по текстам участвовавших в книге авторов, смело рекомендую вам книгу в качестве бестселлера ближайшего будущего.

#БББ
Прогресс остановился. Но мы этого еще не видим.
Ситуация похожа на подъем по эскалатору, идущему вниз. Мы пытаемся ускорить подъем и бежим все быстрее. Но эскалатор тоже ускоряется, и в результате мы остаемся на месте.
Сила, что все более ускоряет эскалатор, - это нарастающая сложность решаемых задач, способов их решения и, в целом, - экспоненциальное нарастание сложности мира, как интегральный результат всех наших предыдущих усилий.

Вот что об этом пишет в предисловии к своему бестселлеру ближайшего будущего профессор Сколтеха Жан-Франсуа Женест, 30+ лет занимающийся исследованиями в оборонной и аэрокосмической промышленности, в том числе на посту главного научного консультанта Airbus Group Innovations.

Вера в прогресс, обещающий счастье человечеству, умерла уже несколько десятилетий назад. Тем не менее, большинство людей во всем мире все еще считают, что человечество прогрессирует очень быстро.
Но так ли это?
Когда вы смотрите на автомобили, они все выглядят примерно одинаково. Вы можете предположить, что в их основе заложены разные технологии, но и это не так.
То же самое справедливо не только для большинства промышленных изделий, но и для методов управления компаниями и целыми странами, поведения людей и т. д.
34 моих студента Сколковского Института науки и технологий в 2017-2018 пытались найти "исключения, подтверждающие правило". Но они не могли их найти.
Цель этой книги состоит в том, чтобы дать научное теоретическое обоснование того, что мы наблюдаем. И, конечно же, попытаться сделать из этой теории некоторые дополнительные выводы, - возможно весьма неожиданные.
Определив задачу обосновать наблюдаемую верхнюю асимптоту прогресса, мы неизбежно приходим к вопросу, как устранить эту асимптоту таким образом, чтобы человечество не оказалось в ловушке стагнации и рецессии.
Для тех, кто поставит перед собой такую задачу, это будет болезненный путь. Им будет гораздо тяжелее, чем их предшественникам.
Пожалуйста, попытайтесь просто погрузиться в реалии мира, понять, что здесь происходит, и тогда уж решать, как действовать дальше.


Новая книга проф. Женеста называется «THU$ WORK€D HUMANKIND» и будет лично представлена автором завтра 26го июня в Кафе Журфак на Большом Афанасьевском переулке, 3, с. 3. Презентацию книги организует Общество Четвертой Среды (Fourth Milieu /Wednesday Society) в рамках своих ежемесячных интеллектуальных встреч за пинтой пива или стаканом вина.
#БББ #Прогресс
Антиутопия сегодня – мир управляемый рейтингами.
Среди которых уже нет объективных.

Основным фактором, определяющим будущее мира, являются не квантовые компьютеры, цифровая экономика или ИИ. Все это важно, но не самое главное. Главное то, - что повседневно управляет мировосприятием и поступками миллиардов людей: от глав государств до конторских клерков, от профессоров до школяров, от интеллектуалов до домохозяек. Это рейтинги.

За последние 10 лет мир кардинально изменился, но мы этого не заметили. Повсеместно – в науке и искусстве, политике и экономике, социологии и спорте, маркетинге и пиаре - рейтинги стали определять, что важно, а что нет. Политический вес и статусы научных журналов, важность новостей и значимость идей, качество обучения или товара – все теперь определяется исключительно рейтингами. Да что там! Репутация человека теперь тоже исключительно продукт рейтингов. Выбор друзей и романтических связей – тоже.

Впервые входя в сетевой инфо-мир, дети начинают узнавать его с помощью алгоритмов рейтингования поисковых систем. Именно они – алгоритмы ранжирования Google и Яндекс – формируют знания, мировоззрение, отношение к другим людям, материальным и нематериальным объектам мира.

Короче, нет на Земле сегодня чего-любо более важного, чем рейтинги. А теперь вопрос - насколько эти рейтинги объективны?
Короткий ответ – неизвестно. Каков уровень предвзятости и манипуляций, стоящий за формированием тех или иных рейтингов, - в большинстве случаев точно определить невозможно.

Сегодняшний инфо-мир – это океан данных, в котором работают гигантские водочерпалки, фильтры которых ежеминутно модифицируются, оптимизируя работу черпалок под узкий набор установочных целей (напр. «вовлечение», рассчитываемое по числу кликов пользователей, или «удовлетворение» рассчитываемое по числу лайков).

Вот всего два примера, - имхо, самые впечатляющие.
1) Рейтингование величайшего в мире хранилища видео-контента, на 70% определяющее, какое видео вы дальше посмотрите на Ютубе.
Это откровение сотрудников Google на проходившей на прошлой неделе в Дании конференции RecSys '19.
https://dl.acm.org/citation.cfm?id=3346997
Как отозвался об этом докладе Джек Кларк из OpenAI:
«Это захватывающий документ, поскольку читается как заметки техперсонала, обслуживающего какую-то гигантскую машину, которую они едва понимают. Мы здесь находимся в области, где объемы данных настолько велики, что единственным методом понять, как работает система - провести живой эксперимент и посмотреть, что получится. Мы используем простые оценки в качестве прокси для куда более серьезных проблем, - напр. таких как предвзятость. Понимая при этом, что истинные «ценности» рейтингования, скорее всего, скрыты от нас.»

2) Скоро выходящий «бестселлер ближайшего будущего» - «Рейтингование: неписанные правила социальной игры, в которую мы все играем», написанная Петером Эрди - всемирно известным специалистом по сложности на стыке вычислительной нейробиологии и системной биологии.
https://global.oup.com/academic/product/ranking-9780190935467?cc=gb&lang=en&
Это потрясающая инди-книга показывает на многих реальных примерах, почему и как строятся рейтинги – плод пересечения реальности, иллюзий и манипулирования. Эрди открывает механизмы, которые мы, чаще всего, не осознаем. Он показывает на примерах, насколько мощное и удручающее влияние эти механизмы оказывают на жизни людей, ошибочно полагающих, что их мировоззрение и поступки находятся под их собственным контролем.

#Рейтинги #БББ
Станет ли ИИ Големом 21 века?
Как встраивать этику в алгоритмы машинного обучения.

Это самый важный вопрос в симбиозе человека и машины. А такой симбиоз – не в будущем. Он уже вовсю идет. И самый важный и приоритетный среди его вызовов - решение проблемы нечеловеческого поведения алгоритмов, нарушающих права конкретных людей, да и вообще, человеческие принципы.
Что за реклама вам показывается?
Что за цена вам предлагается?
Дадут ли вам ссуду?
Получите ли вы страховку?
Возьмут ли вас на эту работу?
Как вас будут лечить?
Попадете ли вы под наблюдение спецслужб?
Это и многое другое в жизни каждого из нас все больше решают уже не люди, а алгоритмы. И это не преувеличение, а факт.

Как создавать более совершенные алгоритмы, в которые встроены точные определения справедливости, точности, прозрачности и этики?
Не научившись делать это, все достижения машинного обучения, создаваемые во благо человечества, будут обращены против конкретных людей.

После Второй мировой войны многие ученые Манхэттенского проекта переключили свои усилия, чтобы обуздать использование атомного оружия, которое они изобрели. В случае алгоритмов вред является более рассеянным и труднее обнаруживаемым, чем в случае с ядерными бомбами. Но и то, и другое - примеры необратимых технологий, которые можно контролировать, но нельзя отменить или устранить.

Те, кто разрабатывает алгоритмы машинного обучения, могут сыграть решающую роль в выявлении внутренних ограничений алгоритмов и разработке их новых разновидностей, сбалансированных по предсказательной силе с социальными ценностями, такими как справедливость и конфиденциальность.
Но это нужно делать сейчас, а не завтра. Ибо алгоритмы машинного обучения – это новые виды акторов на Земле, от поведения и действий которых теперь зависят судьбы миллиардов людей.

Станут ли эти новые виды акторов Големом 21 века?
Ведь и Голем, созданный праведным раввином Лёвом из глины, задумывался для исполнения разных чёрных работ и трудных поручений. Но по легенде Голем превысил свои «полномочия», проявив свою волю, противоречащую воле его создателя.
Искусственный человек стал делать то, что по закону «неприлично» или даже преступно для человека …
Это ли ни прообраз истории ИИ, алгоритмы которого могут повторить путь Голема?

Но выход есть. Существуют иные методы разработки алгоритмов, способные обуздать их нечеловеческое поведение. Алгоритмы могут быть прозрачными. В них может встраиваться справедливость и этика при принятии решений.

Как это может и должно делаться, рассказывает Бестселлер Ближайшего Будущего – только что вышедшая книга профессоров Майкла Кернса и Аарона Рота «Этический алгоритм: наука о разработке социально-ориентированных алгоритмов».
https://www.amazon.com/Ethical-Algorithm-Science-Socially-Design/dp/0190948205
Кто не найдет время на чтение 232 стр. книги, послушайте хотя бы в ускоренном режиме 70-минутный рассказ Майкла Кернса, предваряющий выход книги.
https://www.youtube.com/watch?v=B1tw2Dd_EVs

#БББ #Этика #ИИ
Операция «Американский братишка»
За 30 лет здесь изменилось всё … кроме людей
В рубрике Бестселлеры Ближайшего Будущего я рекомендую читателям только книги, 100%-но заслуживающие стать бестселлером, если бы это зависело только от моей оценки. Таких книг, к сожалению, немного, и потому посты в рубрике БББ вы видите не часто. Но сегодня рубрике повезло. И я делюсь с вами впечатлением от нового романа Александра Павлюкова Операция «Американский братишка».

Этот роман - весьма глубокая метафора последних 30 лет нашей истории. До сих пор единственной удачной метафорой новейшей России, мне виделся роман А. Иванова «Ненастье». Как хорошо сформулировал Д. Быков, этот роман - метафора страны, в которой не к кому прислониться, страны, которая лишилась мифа, стержня. Метафора романа А. Павлюкова совсем иная и, как мне кажется, еще более меткая и печальная.
Это метафора страны, в которой за 30 лет изменилось все, кроме людей, в которой элита и ширнармассы, чиновничество и спецслужбы, сменив свои внешние атрибуты, остались ровно теми же, что и были здесь всегда.
И каждый из героев романа – главных и эпизодических, - помимо своей основной роли в детективной интриге, играет общую метафорическую роль представителя одного из сословий, неизменных в России при любом общественно-политическом строе и экономическом укладе.

«Государевы люди» Смирновы – высшая номенклатура цековских, совминовских, министерских и генеральских. «Независимо от того, какой общественно-политический строй стоял на российском дворе, они были твердо уверены в своем праве руководить и направлять, давать и отбирать, казнить и миловать».
Смирнов-старший, при старом режиме три десятка лет проработал в Управделами союзного Совмина. А при новом режиме он заслуженный пенсионер и орденоносец, по совместительству занимая пост председателя правления одного из крупных банков, «не нуждающегося в рекламе по определенным причинам».
Его сын – в прошлом заведующий подотделом Госплана РСФСР, а ныне – член правления того же банка. Понятно, что он «не нуждался в дополнительных фишках, за него играли отцовские и женины мозги, папино и собственное кресла».
«Русское купечество» Коноваловы – торговая номенклатура, да еще и при деньгах.
Старший Коновалов - при старом режиме неизменный заместитель председателя облпотребсоюза, - за многолетние труды добился для сына должности директора кооперативного магазина.
А при новом режиме, потомственный кооператор Коновалов-младший становится руководителем совместного предприятия и пайщиком смирновского банка. Короче, весьма состоятельным человеком с недвижимостью в Чехии.

И так со всеми героями: что при старом режиме, что при новом, меняются лишь вывески, а сословное положение и статус – те же, естественно, при возросшем благополучии. Ибо здесь никогда не было и нет главного – настоящего рынка. А без него нет классов и их отношений, нет судебной системы, вместо денег финансовые ресурсы, и даже коррупции нет, а есть только сословные отношения. И никакой межсословной мобильности - каждый вассал выступает помещиком по отношению к нижестоящему вассалу.

В научной форме это неизбывное устройство России превосходно описал С. Кордонский. А в литературной – это впервые удалось А. Павлюкову. Причем сделано это ненавязчиво – фоном для оригинальной детективной интриги, описанной легким ироничным языком.

Всё это, на мой взгляд, гарантирует, что вы дочитаете роман до конца. И более того - не пожалеете о затраченном времени. А многие ли признаваемые бестселлерами романы оставляют приятное и умное послевкусие? Увы, нет.
Так что выбирая между новыми романами Пелевина и Павлюкова, я бы точно проголосовал за второго.
#БББ
​​Самая долгая игра в долгую.
Великая стратегия Китая по смене американского миропорядка

«За более чем столетие ни один противник США или коалиция противников - ни нацистская Германия, ни императорская Япония, ни даже Советский Союз - не достигли 60% ВВП США. Китай - единственное исключение, и он быстро превращается в глобальную сверхдержаву, которая может соперничать, если не затмить, США» - пишет Раш Доши, директор по Китаю в Совете нацбезопасности США, а ранее - директор Brookings China Strategy Initiative.

 Почему это произошло?
 Куда это ведет?
 Может ли что-то это изменить?

Ответам на эти три вопроса посвящена только что вышедшая книга Доши «Игра в долгую: Великая стратегия Китая по смене американского миропорядка».

Трудно пытаться ужать 400+ страниц плотного текста, изобилующего цитированием малоизвестных китайских источников, до нескольких ключевых тезисов. Но я все же попробую.

Китай пошел своим путем, принципиально отличным от всех предыдущих соперников США.
Этот путь стоит на сдвоенном основании:
1. Небывалая в истории долгосрочность стратегии.
Китай начал 100-летний стратегический марафон с целью стать мировым гегемоном, способным изменить мир в соответствии с китайскими ценностями (среди которых нет демократии), еще в 1949, когда к власти пришел Мао Цзэдун и была образована КНР. Через 100 лет после этого в 2049 году Китай планирует победить в этом марафоне.
Китай играет в самую долгую геополитическую игру из когда-либо задуманных, гораздо более длительную, более тонкую и всеобъемлющую, чем любая другая кампания, которую когда-либо предпринимала какое-либо из западных государств.
2. Китай не разделяет экономические и военные преимущества.
Следуя заветам трактата «Искусство войны» Сунь-цзы, идеал для Китая - победить противника, не сделав ни единого выстрела: «Одержать сто побед в ста битвах — это не вершина воинского искусства. Повергнуть врага без сражения — вот вершина».
И хотя военная мощь по-прежнему будет иметь значение в конкуренции между США и Китаем, в конечном счете победит тот, кто будет более эффективно управлять своей экономикой и сможет более эффективно влиять на формирование глобальной экономики.

В книге Доши описывается в деталях долгая и методичная игра Пекина по вытеснению США из регионального и глобального порядка с помощью трех последовательных «стратегий вытеснения». В книге показано, как стратегия Китая преломлялась в череде ключевых событий, меняющих восприятие американской мощи в мире:
• окончание холодной войны;
• глобальный финансовый кризис в 2008;
• популистские выборы в США в 2016;
• пандемия коронавируса в 2020.

Наконец, в книге предлагается всеобъемлющая, но абсолютно асимметричная стратегия эффективного ответа США на вызов Китая.
Её суть в том, что в марафоне двух сверхдержав - экономической и технологической гонке, которая, вероятно, продлится несколько поколений, - США должны конкурировать с Китаем, а не сдерживать его.

Хотя это соревнование имеет множество геополитических измерений (вкл. военное, дипломатическое и идеологическое), суть соревнования является геоэкономической. Технологии и инновации решат исход как будущей военной, так и экономической конкуренции.

Ну а начинать США нужно с того (как я уже про это писал), что:
прекратить вешать лапшу на уши миру, будто противостояние США и Китая в области технологических экосистем – это борьба добра со злом (ибо для большей части остального мира – это борьба двух зол);
• и оставить надежды, будто только ограничениями в стиле «суперкомпьютерный Blacklist» можно выиграть конкуренцию у Китая.

#Китай #США #Геополитика #БББ
Каким будет мир победившего ИИ.
Наиболее точное из предвидений 2041года от Кай-Фу Ли.

Став электричеством 21 века, ИИ через 20 лет будет основой новой цивилизационной парадигмы – т.е. будет использоваться повсюду, и жизнь без него будет считаться «пещерным веком». Однако, будет ли это утопия или антиутопия, - человечеству еще предстоит решить. Возможны оба варианта.

Существующие предвидения мира победившего ИИ:
• либо чаруют и пленяют сюжетом и языком, но при этом, к сожалению, поверхностны (подобно романам Пелевина);
• либо содержательны и точны, но не в состоянии привлечь внимание широкой аудитории читателей (что относится даже к лучшим образцам научпопа: AI Superpowers Кай-Фу Ли, Human Compatible Стюарта Рассела и Life 3.0 Макса Тегмарка)

При этом оба класса предвидений страдают общим недугом – необходимостью быть оптимистичными. Ведь плохие прогнозы мало кто любит, кроме профессиональных алармистов.

Легендарный визионер, техно-инвестор и стратег Кай-Фу Ли замахнулся на невозможное. Он решил написать точный содержательный прогноз мира победившего ИИ через 20 лет с захватывающим сюжетом и легко читаемым языком. И написал, объединив талант и усилия со знаменитым китайским писателем-фантастом Чэнь Цюфанем.

Получилась интересная 3-х частная схема.
• Кай-Фу Ли рассказывал Чэнь Цюфаню о вызовах и рисках ИИ в 10 разных областях жизни;
• Чэнь Цюфань написал про это 10 увлекательных новелл из жизни людей в разных странах в 2041;
• Кай-Фу Ли сопроводил каждую из новелл профессиональным пояснением сути ИИ технологий, ведущих к их детективным или триллерным историям.

Каково будет жить в мире победившего ИИ:
• когда Большой Брат через страховые компании будет контролировать все аспекты жизни людей, путем динамического перерасчета их рисков (что люди делают, как себя ведут и т.д., в духе сегодняшнего социального рейтинга в Китае);
• когда главным инструментом власти и криминала станет не насилие, а ИИ технология DeepMask - преемник сегодняшних DeepFake, - выявить подделки которой станет невозможно;
• когда поехавший крышей физик решит с помощью ИИ технологий отомстить миру за его жестокость, в одиночку уничтожив человечество;
• когда ИИ технологии бесконтактных коммуникаций, бурно развившиеся после начавшейся в 2019 серии пандемий, приведут людей к переходу на «бесконтактную любовь»;
• и еще 6 новелл о совсем иной, чем сейчас, жизни в мире победившего ИИ.

«Мы – хозяева своей судьбы» - считал Уинстон Черчилль.
«И никакие технологические инновации этого никогда не изменят» - продолжил фразу Черчилля Кай-Фу Ли, сопроводив ею AI 2041: Ten Visions for Our Future.

В контексте новой книги Кай-Фу Ли, этот лозунг можно трактовать двояко:
• люди в силах изменить свое будущее, какие бы потенциальные риски ни несли им новые технологии (но захотят ли люди что-либо менять в направлении развитии ИИ?)
• риски новых технологий не являются их непреложным последствием, а лишь следствие выбора использующих их людей (насколько мудры, нечестолюбивы и нестяжательны те, от кого зависит развитие ИИ?)

Трейлер выходящей на следующей неделе книги https://www.youtube.com/watch?v=cyT8JD1HvHk
Разговор о книге с Чэнь Цюфань https://www.youtube.com/watch?v=S43MeqjFfHM
#ИИ #БББ
​​Безопасность и удобство для всех, кто не сопротивляется.
Усыновление Большого Брата - главная цель 3-го срока Си.

Си умен и опытен. Он понимает, что превратить свой 3й срок в пожизненное правление будет трудно. На этом пути серьезные проблемы в экономике: экономический рост замедлился, а растущий долг, контроль над пандемией и демографическое давление угрожают свести его в 0. На это накладывается страх сотен влиятельных партийцев перед новым культом личности.

Предвидевший эти трудности еще несколько лет назад, Си решил действовать иначе.
Его главным козырем на 3-й срок будет не обещание своим гражданам повышения благосостояния и возможностей обогащения, а предсказуемый, безопасный и удобный Китай, в котором тысячи ИИ-алгоритмов нейтрализуют угрозы и устраняют социальные трения.
Данный козырь на пути превращения Си в нового китайского Большого Бога должно обеспечить «усыновление» им Большого Брата.

Это воистину грандиозный по амбициям план - создание способного соперничать с демократией нового типа власти, основанного на алгоритмах, больших данных и массовом цифровом наблюдении.
Его логика проста и эффективна.
• У богатых нет стимула создавать проблемы – им и так хорошо
• Обездоленным тоже не до претензий к власти – им надо выживать
• Но у людей посередине есть и стимулы стремиться к лучшему и возможности что-то делать для этого
И значит главный вопрос – что будет видеться среднему классу в качестве лучшего варианта будущего.

Этим лучшим будущим и должен стать новый общественный договор – безопасность и удобства предсказуемого завтра в обмен на поддержку власти (вседозволенность для Большого Брата в его службе на Большого Бога).

Новый общественный договор может реально очень многим понравиться. Это не разводка. Будет реально удобно и безопасно:
✔️ речь не о тупом «социальном рейтинге»,
✔️ а о системах типа уже запущенного в Ханчжоу «Мозга города» (City Brain).
Основанная на ИИ огромная система помогает городскому правительству оптимизировать все - от дорожного движения до управления водными ресурсами. Параллельно с этим многочисленные продукты и платформы «Мозга города» снижают для жителей оплату коммунальных услуг, облегчают проезд, получение кредитов и даже подачу исков в онлайн-суд.

Представьте себе более продвинутый вариант наших Гос- и Мосуслуг, вкупе с полностью автоматизированными ЕРЦ, вкупе с еще более удобным онлайн-кабинетом ФНС, вкупе с сервисами, коих у нас еще нет и даже не задуманы.
Это действительно круто: удобно, надежно, быстро.

В качестве примера, пара сервисов «Мозга города».
1. Автоматическое разруливание с помощью ИИ пробок и заторов в городе в реальном времени (в итоге почти двукратное снижение пробок и заторов).
2. Индивидуальное управление светофорами для везущих больных машин скорой помощи, обеспечивающее им «зеленую волну» до приемных отделений больниц (в итоге снижение среднего времени в пути на 50%)
И как бы мы не пинали Китай за его COVID стратегию:
• тотальная установка на телефонах приложений Health Code, отслеживающих все: перемещения людей, статус их вакцинации, результаты тестов, подверженность риску,
• дроны-наблюдатели и роботы-собаки, рыщущие по жилым комплексам, преследуя тех, кто не соблюдает правила изоляции, -
но китайцам это нравится. Они прагматично смотрят на результат – сравнительный уровень смертности от коронавируса в Китае и других странах (согласно данным Института Джона Хопкинса на август: 315 на 100 000 граждан в США против 1 на 100 000 в Китае).

Резюме.
• Альянс ИИ с авторитаризмом таит в себе заманчивые обещания безопасности и эффективности в эпоху войн, пандемий, обвала доверия и роста поляризации.
• Привлекательность идеально спроектированного общества реальна.
• Насколько широко распространится эта модель, будет зависеть не от Си, а от того, как мировые демократии будут справляться с теми же проблемами.

Подробней в выходящей завтра книге
#Китай #БББ
Где проходит грань сознания человека, животных и ИИ?
Понимание схожести этих трех типов неопределенности должно определять направления разработок ИИ.

Существует целый ряд случаев на грани сознания, - когда серьезные решения зависят от того, считаем ли мы, что сознание (коротко и неформально это "этически значимый опыт") присутствует или отсутствует: у человека, животного или другой когнитивной системы.
Этот ряд включает людей с нарушениями сознания, эмбрионы и плоды, нейронные органоиды, других животных (особенно беспозвоночных) и технологии ИИ, которые воспроизводят функции мозга и/или имитируют человеческое поведение.
Эти 3 случая стоит изучать вместе не потому, что между ними есть моральная эквивалентность, а потому, что они представляют нам схожие типы неопределенности.
Для выбора новых направлений разработок ИИ, нам нужны системы, помогающие управлять этой неопределенностью и принимать решения.
Вопросы о грани сознания комплексные.
• Способны ли осьминоги чувствовать боль и удовольствие?
• А как насчет крабов, креветок, насекомых или пауков?
• Как определить, может ли страдать человек, не реагирующий после тяжелой травмы мозга?
• Когда у плода в утробе начинаются осознанные переживания?
• Могут ли даже рудиментарные ощущения возникать в миниатюрных моделях человеческого мозга, выращенных из стволовых клеток человека?
• И главное, - а как насчет искусственного интеллекта?
Все эти вопросы окружены огромной, дезориентирующей неопределенностью. Ставки огромны, а пренебрежение рисками может иметь ужасные последствия.
Нам нужно проявлять осторожность, но часто совершенно неясно:
✔️ что на практике должно означать в данном случае "проявление осторожности"?
✔️ когда мы заходим слишком далеко?
✔️ когда наша предосторожность недостаточна?


Выходящая 15 августа книга "Грань сознания" профессора Джонатана Бёрча (главный исследователь проекта Foundations of Animal Sentience и один из 3х инициаторов Нью-Йоркской декларации этого года о сознании животных) представляет комплексную систему предосторожности, призванную помочь нам принимать этически обоснованные решения на основе доказательств, несмотря на нашу неуверенность.

Бесплатно получить электронную версию этой интереснейшей и крайне важной 386 страничной книги с массой ценных ссылок (сэкономив при этом $40 при покупке на Амазоне!)
https://telegra.ph/file/55d44f55b80f8f1b83823.jpg
вы сможете по этой ссылке
https://academic.oup.com/book/57949

Поделитесь этой ссылкой, пока она бесплатная, ибо книга хороша и полезна многим, интересующимся темой сознания человека, животных и ИИ.
#Сознание #БББ