Внушенные галлюцинации ИИ
Можно без натяжки сказать, что, по сравнению с человеком, ИИ обладает куда более развитыми истерическими свойствами.
Так здоровый, но внушаемый (с истерическими чертами характера) человек может вслед за больным "увидеть" черта, ангелов, летающие тарелки и, вообще, что угодно. Однако, подобные люди – редкость (их порядка процента).
В отличие же от людей, каждый ИИ – законченный истерик. Заставить его видеть вместо стула – черта, вместо шишек – ангелов, а вместо милиционера – летающую тарелку, - совсем не бином Ньютона.
Называется этот трюк - использование «враждебных данных» (adversarial inputs), заставляющих ИИ видеть какие-то обманные образы (а по сути, - вызывать у ИИ внушенные галлюцинации).

Вот перед вами 3 картинки
✔️ Левая –фото ленивца, распознаваемого ИИ с вероятностью > 99%.
✔️ Средняя – фото гоночного авто. Это галлюцинация, которую нужно внушить ИИ, показавая ему слегка модифицированное с помощью «враждебных данных» фото ленивца.
✔️ Правая – это результат: модифицированное с помощью «враждебных данных» фото ленивца, в котором ИИ с вероятностью > 99% распознает гоночное авто.
❗️ Объем «враждебных данных», потребовавшихся для внушения ИИ галлюцинации гоночного автомобиля, видимого им вместо ленивца, пренебрежительно мал – всего 0,0078 отличий в пикселях правого и левого фото (человеческий глаз этого просто не видит – хотя вы можете попробовать).

Представить потенциал ущерба от использования «враждебных данных» злоумышленниками можете сами. Лишь замечу, - теоретически, он сопоставим с ядерным оружием.

И если вы думаете, что внушением галлюцинаций для ИИ никто на практике не занимается, вы жутко ошибаетесь. Всего один, но замечательный пример.

В Китайских соцсетях и мессенджерах фильтруется весь контент, затирая в ноль всё запрещенное партией и правительством (в этот список входит несколько тысяч тем!).
— Сначала фильтровали только текст.
— Но пользователи приспособились и для обмана фильтров стали запрещенные слова прятать в картинки.
— Тогда государство посадило 10 тыс. цензоров для фильтрации картинок. Но они не справились – дюже много работы.
— И вот тогда мобилизовали ИИ на фильтрацию картинок.

Вот как это выглядит. Китайский пользователь WeChat послал картинку – обложку отчета про кампанию репрессий, получившую название "облава 709" (709 Crackdown). ИИ-цензор эту картинку удалил.

И тут внимание.
Ушлые ребята из THECITIZENLAB придумали использовать ИИ для подбора «враждебных данных», способных внушить галлюцинации «ИИ-цензорам», ведущим фильтрацию. В исходных картинках меняется совсем чуть-чуть (как в примере с ленивцем). Поэтому людям эти изменения нипочем – они их просто не замечают. Тогда как «истерический характер ИИ» заставляет его видеть вместо картинок из черного списка что-то совсем иное. И крантец фильтрации – свобода китайским пользователям!
Вот пример. Изображения С и D фильтруются ИИ-цензором, в изображения A и B – нет 😳

Так ИИ-броня ИИ-цензуры оказалась легко пробиваема ИИ-снарядами «враждебных данных».
Но это не конец. ИИ-броня совершенствуется (равно как и ИИ-снаряды).
Детали этой борьбы можете прочесть в отчете
А это подробно про то, как работают «враждебные данные»

#МашинноеОбучение #AdversarialInputs

Все что сегодня известно о креативности ИИ
Рассказывает «Супергерой ИИ», соучредитель DeepMind Демис Хассабис в прекрасно структурированной, визуально привлекательной и содержащий все, что нужно для понимания темы лекции Фонда Ротшильда: 50 мин. + 20 мин интересных Q&A.

Почему это важно. Эта тема определяет будущее десятков профессий. Тот, кто её понимает, получит серьезное преимущество. Но объяснить её просто за 50 мин. могут единицы. И это - тот самый случай.

1. Два подхода в ИИ: экспертная или обучающаяся системы.
2. Почему экспертный подход оказался тупиком (на примере шахмат и го)
3. Как двигаться дальше – к интуиции и креативности ИИ. Чего не хватает для этого у ИИ.
4. Что важнее всего: концепции, абстракции, аналогии, воображения. Похоже, что последнее.
5. Как мы воображаем: от эпизодической памяти – раскладке по полочкам к обратному процессу – воображению.
6. 1я реализация этого подхода - «Генерирующая сеть запросов» (GQN) - машина воображения для порождения 3D сцен (куму нужно, подробней здесь
7. Кейсы простого использования в искусстве, дизайне и науке.
8. А дальше путь к мета-решениям – инструментам превращения ИИ в акселератор прорывных научных открытий и недосягаемых ранее взлетов искусства.

В качестве приложения: Жизнь и карьера супергероя ИИ в фото и картинках

#ИИ #Креативность #Лекция

Мир не иллюзия, а конкуренция иллюзий.
Так работает наиважнейший для эволюции нейро-алгоритм.
Знаменитый Калифорнийский институт технологий (Caltech) предъявил миру новую гениально простую «Иллюзию Кролика», позволяющую каждому удостовериться в справедливости заголовка.
— Нет никакого объективного мира.
— Наш мозг получает информацию от органов чувств и строит по ней модели мира, необходимые для принятия решений (это и есть вершина эволюции для обеспечения выживания и воспроизводства).
— Т.к. чувств несколько, приходится строить много моделей: моно-модели для каждого из чувств и мульти-модели для кросс-сенсорных пересечений.

Все эти модели нужно как-то интегрировать (иначе как принимать решения?)
Алгоритм интеграции – уникальный копирайт эволюции:
• какая из моделей возьмет верх – большой вопрос (хотя, казалось бы, модель на основе зрительной инфы должна доминировать);
• для того нас и так много, чтобы эволюции экспериментировать с этим важнейшим для нее супер-алгоритмом (подбирая параметры и подстраивая алгоритм на каждом из уникальных индивидов).

N.B. Эксперименты с «Иллюзией Кролика» также показывают, что Эйнштейн был прав, говоря «время - это иллюзия». На деле, «Иллюзия Кролика» – это иллюзия путешествия во времени (авторы так и называют её Time-Traveling Illusion)

Предлагаю каждому самому убедиться в вышесказанном:
- пройдите тестирование на «Иллюзию Кролика» (это займет 49 сек) https://www.youtube.com/watch?v=yCpsQ8LZOco&feature=youtu.be
- прочтите описание того, как она работает https://www.sciencedaily.com/releases/2018/10/181009113612.htm
- для углубленного изучения вот доступ к авторским материалам (тексты, видео, таблицы …)
https://authors.library.caltech.edu/90151/
- если кому-то нужно на русском https://thebigtheone.com/?p=2927 (со странным заголовком))
А также:
Про предыдущее не столь научное, но очень красивое подтверждение иллюзорности мира https://t.iss.one/theworldisnoteasy/479

#Мозг #Нейронаука #Сознание

Последнее решение «бить или не бить» навсегда должно остаться за людьми.
Революция в ИИ-революции начинается - «черный ящик» пытаются заменить на «стеклянный».
COO DeepMind Лила Ибрахим в пятничном групповом интервью «пятерки посвященных» о самом важном в современном развитии ИИ сказала: критически важно, чтобы ИИ системы объясняли, как она принимают решения.
За этим признанием стоит позиция Гугла, от которого направление развития ИИ зависит, как от никого другого. И значит теперь есть шанс, что революция в ИИ-революции начинается.
Ведь 1е прорывное ИИ решение DeepMind, способное объяснять принимаемые решения уже создано. Это медицинский ИИ, разработанный DeepMind совместно с лондонской клиникой Moorfields Eye и Университетским колледжем Лондона, для подбора лечения при 50+ заболеваний глаз.

Нужно понимать, что все ИИ разработки, основанные на глубоком обучении (а это практически все прорывные решения в современном ИИ) – это наихудший путь с т.з. объяснений, почему ИИ принимает это решение, а не другое. Вот иллюстрация того, что среди разных методов реализации ИИ, глубокое обучение – лучше всех по точности прогнозов и хуже всех по возможности объяснить свои прогнозы. Эта необъяснимость решения современных ИИ называется проблемой «черного ящика»

Я начал писать на своем канале про этот важнейший для ИИ вызов с момента его создания. Писал уже о многом:
- о «Проекте объяснимого ИИ» - XAI, начатом DARPA в 2016;
- о «черной метке черным ящикам», полученной от госсектора США;
- о нарастающих здесь рисках
- и даже о литературной интерпретации этого вызова Пелевиным.

Но сейчас с приоритезацией этого вызова DeepMind, ситуация в корне меняется.
Неделю назад на '2018 International Explainable AI Symposium' Дэвид Ганнин - руководитель DARPA’вского проекта XAI – рассказал, что в мае исследователи XAI уже продемонстрировали раннюю модель системы объяснительного обучения, а в ноябре будет озвучена оценка результатов 1й фазы проекта.

Решением этого вызова фокусно занимается не только DARPA. Новейшие и уникальные доки по этому вопросу желающие найдут на ресурсах:
- Heatmapping.org (совместный проект Fraunhofer HHI, TU Berlin, SUTD Singapore) – см. подробный туториал по теме в 4х частях;
- корейского Центра объяснимого ИИ XAIC

Однако, самым важным в исследованиях названных выше центров стало открытие новыго колоссального вызова:
Объяснимый ИИ не решает всех проблем – нужен ИИ в формате «прозрачного ящика», т.е. НЕ САМ объясняющий себя людям, а дающий возможность людям видеть его насквозь, самостоятельно постигая смысл и логику его решений и рекомендаций.

Причина этого оказалась в том, что, пользуясь людской ограниченностью и зашоренностью, ИИ в состоянии так «объяснить» свои решения, что люди не смогут увидеть «разводку» со стороны ИИ.
И это значит, что последнее решение «бить или не бить» навсегда должно остаться за людьми.
Подробней об этом здесь

#РискиИИ

Расшифрована «блок-схема» нейроалгоритма стыда.
Он определяет ваши действия и защищает вашу психику от разрушения.
Построена неявная ментальная «карта движения» процесса, определяющего, какие из доступных вам действий вы предпримете, а какие нет. Движением по этой карте управляет система «ментальных стрелок», устанавливающих уровень стыда, который вы готовы перенести (буквально, как боль – физическую или душевную) в результате ваших неправедных действий.

Фраза «позор тебе» оказывает разрушительное воздействие на психику человека.
Но почему? Как создается ощущение стыда и какова его цель?
- Некоторые теоретики утверждают, что чувство стыда - это патология, своего рода болезнь, которую нужно вылечить.
Другие отвергают это как бесполезную, уродливую эмоцию.

Все оказалось совсем не так. Новейшее исследование показывает - позор был встроен в природу человека эволюцией в качестве важнейшей нейро-фичи, необходимой охотнику-собирателю.
Принцип работы алгоритма этой нейро-фичи примерно таков.
• Я живу в составе небольшого племени и подвергаюсь по жизни всяким рискам - то в яму упаду, то на медведя нарвусь, то жрачка закончится … – короче, жизнь тяжелая и опасная.
• Моё выживание напрямую зависит от того, помогут ли мне мои соплеменники (из ямы выбраться, от медведя отбиться, корм найти …)
• Но станут ли мне мои соплеменники помогать – зависит от их отношения ко мне. Назовем это кармой. Если карма высокая – все мне помогают. Если низкая – рассчитывать на помощь вряд ли стоит.
И тут возникает вопрос – что дороже,
✔️ здесь и сейчас спереть или отнять у соплеменника кусок жирного вкусного мяса, но нанести ущерб собственной карме?
✔️ или черт с ним, пусть жрёт, а я потерплю, но зато нет ущерба для кармы?

Вот тут-то эволюция и придумала, как интенсивность ожидаемого чувства стыда соизмерить с внутренне сгенерированным предсказанием того, насколько может обесцениться карма и какие это может иметь для меня последствия.

Эта модель проверена на 15 лингвистически, этнически, экономически и экологически разнообразных обществах, принадлежащих разным культурам. Всюду модель работает как часы. Интенсивность чувства стыда от воображаемых различных действий - типа воровства, проявления скупости, лени и т. д. – растет прям-таки в четкой функциональной зависимости от моделируемого ущерба для кармы (ну а последнее, конечно, зависит от конкретной культуры и условий жизни).

Таким образом, авторы показали следующее.
1) Стыд и позор – не просто чувство или мотиватор. Это важнейшая нейро-фича предсказания и балансировки компромисса между выгодой от действий и снижением кармы.
2) Дабы работа этой фичи ощущалась нами максимально сильно, эволюция реализовала её по лекалам нейро-алгоритмов боли. В результате при сильном стыде и позоре душевная боль сродни физической.
3) И хотя раньше считалось, что 3 разных типа существующих на Земле культур доминантно ориентированы на вину, страх и позор, - чувство стыда (позора) оказалось универсальным для всех культур.

Итого оказалось, что стыд - это биологическая способность, являющаяся частью человеческой природы (как например, способность говорить на человеческом языке), а не культурное изобретение, которое присутствует только в некоторых популяциях (типа способности читать или писать).

Как все это тестили в 15 традиционных малых обществах на четырех континентах, читайте:
- популярно в «Универсальность стыда»
- и по серьезному
«Кросс-культурные инварианты в архитектуре стыда»
«Истинный триггер позора: социальной девальвации достаточно для предотвращения неподобающего поведения»

А здесь предыдущий пост - как была расшифрована «блок-схема» нейроалгоритма гордости

#ЭволюционнаяПсихология

Создана кардинально новая теория информации
Это может быть переломным моментом для десятка наук и технологий: от биологии до ИИ
Революционная работа Артемия Колчинского и Дэвида Вольперта «Семантическая информация, автономное агентство и неравновесная статистическая физика» только что опубликована в трудах Королевского общества.

Мои постоянные читатели знакомы с предысторией этой фантастически интересной и бесконечно важной работы.
А) В январе в посте «70 лет человечество бредет по худшему из лабиринтов» было рассказано, что:
— с 1948 г. доминирующей интерпретацией понятия «информация» стала «бессмысленная информация»;
— эта интерпретация вот уже 70 лет ведет нас по худшему из возможных лабиринтов – вовсе не сложному и запутанному, в состоящему из одного единственного абсолютно прямого пути, ведущего в никуда.
Б) В июле в посте «Создана единая теория смысла информации, универсальная для живого и неживого» сообщалось о разработке проф. Дэвидом Вольпертом математической теории:
— формально описывающей семантическую информацию для широкого спектра наук: от философии и психологии до физики и биологии;
— применимой как для живых существ, так и для любой иной физической системы;
— объясняющей и математически описывающей, почему одна и та же информация для одного человека (и вообще, для любой физической системы) имеет смысл, а для другого – нет.

Новая работа Вольперта и Колчинского дает полное и законченное описание революционной теории информации.
Из этого описания следует:
— Семантическая информация определена, как синтаксическая информация, которую физическая система имеет о своей среде, и которая причинно необходима системе для поддержания своего собственного существования.
— «Причинная необходимость» определяется в терминах гипотетических вмешательств (counter-factual interventions), которые рандомизируют корреляции между системой и ее средой, а «поддержание существования» определяется с точки зрения способности системы держаться в низком энтропийном состоянии.
— Впервые дано математическое определение до сих пор чисто интуитивных понятий: ценность информации», «семантический контент» и «автономный агент». Сущностной связкой этих понятий является базовое положение, что физическая система является автономным агентом в той мере, в какой она располагает бОльшим объемом семантической информации.

Будучи принятой, кардинально новая теория информации:
✔️ изменит вектор развития математико-кибернетических дисциплин и, в первую очередь, ИИ;
✔️ сможет привести к разгадке самого интригующего вопроса биологии - как эволюционировали самые ранние формы жизни и как теперь адаптируются существующие виды, и в частности:
• увеличивается ли объем семантической информации в ходе эволюции?
• является ли обучение совершенствованием навыка сбора осмысленной и важной для существования организма информации?
✔️ поменяет все наши привычные инструменты работы с информацией – и в первую очередь – поисковики (привет поисковым алгоритмам Гугла и Яндекса).

#Семантика #Информация

Новые кейсы для эффективного самообучения.
Среди всех изобретенных способов самообучения, самым эффективным мне видится «Исследуемые объяснения» (Explorable Explanations) великолепного Ники Кейса (Nicky Case).
Об этом чрезвычайно полезном и жутко интересном интерактивном обучающем научно-популярном нон-фикшине я писал в июле https://t.iss.one/theworldisnoteasy/527.
На тот момент коллекция включала 122 «исследуемых объяснения» в 15 областях: искусство, биология, химия, обществоведение, науки о земле, экономика, журналистика, математика, философия, физика, программирование, психология, исследуемые разъяснения и «не классифицируемые улёты».

Сейчас их уже 133 https://explorabl.es/all/
А в результате проходящего «джема исследуемых объяснения», добавилось 23 кандидата https://explorabl.es/jam/ в каталог «исследуемых объяснений».
В их числе (просто для примера):
1) Все о 1D клеточных автоматах!
2) Понимание Фрактала Мандельброта
3) Как делать хорошие головоломки
4) Как своими ушами услышать математику
5) Как работает клеточная мембрана при секреции инсулина
6) Пчелократия – децентрализованная модель выработки консенсуса с помощью танца

Лучшего способа разобраться в сложных вещах – просто, понятно, играючи – мне не известно.
Ну а для самообучения – это вообще клад.
Посему пропагандировал, пропагандирую и буду это продолжать.

Посмотрите на выходных. И детям показать стоит.
Прикольно, интересно, полезно.

#Визуализация #Edutainment #ExplorableExplanations

ИИ губочитка – это конец приватности.
Китай демонстрирует: лидер – это тот, кто владеет данными.
• С перлюстрацией люди научились бороться – просто пишем «об этом писать не буду - обсудим при встрече».
• С прослушкой тоже научились – «это не по телефону», говорим мы.
• И даже с дистанционной подслушкой научились – оставляем мобильники и выходим «покурить» у входа в ресторан или совместно «помыть руки» в туалет или просто фланируем по улице.
Новый подарок человечеству от глубокого обучения – ИИ губочитка – лишает нас этой возможности. Ведь всюду теперь камеры. А если их где-то еще нет, то будут.
Осталось только научить ИИ слету читать по губам в т.н. естественных условиях (с разных ракурсов, в движении, и т.д.)

И вот Китайцы показали, кто в лавке хозяин.
Только-только 1го октября Google DeepMind сообщил, что ИИ снова порвал в тряпки людей, - теперь по части точности чтения по губам. Их ИИ губочитка показала Word Error Rate равный 40.9%. Это в 2+ раза лучше показателей людей - профессионалов губочтения 86,4% - 92,9% (это не процент ошибок, а 4х частная формула, суть которой - чем меньше, тем точнее).
Но спустя всего 2 недели 16 октября китайцы сообщают, что достигли 38,19%. И хотя это очень круто, но сенсация все равно не в этом. А в том, что китайский ИИ губочтец распознает не «студийную начитку», а т.н. «речь в естественных условиях», т.е. практически с любой камеры видеонаблюдения, показывающей говорящего под любым ракурсом.

Секрет прорыва прост – ломовой набор данных для обучения ИИ губочтеца (1К+ классов фонем, 2К+ спикеров, видео натурального разрешения плюс совмещение 2D и 3D методов распознавания).
Понятное дело, пока что распознается мандарин – официальный язык на диалектах северокитайского. Но у Google DeepMind, сами понимаете, английский. А подрядить пару тысяч китайцев наговорить тысяч 5 часов видео в естественных условиях – для Китая дело техники.

Резюме печальное – приватности приходит конец. Осталась только невербальная коммуникация и разговоры самих с собой. Но не обольщайтесь. Китайцы уже начали разработки:
- ИИ чтеца языка тела;
- ИИ чтеца показателей индивидуальных трекеров (пульс, давление …) с геопозиционированием. И попробуй только мысленно в сердцах матюгнуться, проходя мимо портрета нацлидера: твой браслет это отследит, ИИ чтец проинтерпретирует, и получай минус 100 баллов в свою социальную репутацию.

#ГлубокоеОбучение

Festina lente может статься покруче алгоритма Google.
Предложен метод проектного планирования, способный экономить триллионы долларов.
Мир стал кардинально другим после изобретения алгоритмов ссылочного ранжирования типа пэйдж-ранк. И теперь нашим вниманием, осведомленностью и даже знаниями правят поисковики Google и Яндекс.
А казалось бы, всего делов-то - просто изобразили мировую информационную сеть в виде графа и начали тупо рассчитывать для поисковиков числовую меру важности (авторитетности) страницы сайта по количеству и качеству ссылок на неё.
Но экономэффект от внедрения таких алгоритмов исчисляется теперь десятками миллиардов долларов. Возможен ли алгоритм, внедрение которого способно принести нечто подобное?

Есть такой!
Это алгоритм снижения эффекта каскадных сбоев, возникающих вследствие задержек при выполнении отдельных этапов проектов.
Цена вопроса здесь просто колоссальна.
Согласно Мировому банку, 20%+ мирового ВВП (около $80 трилл.) производится на проектной основе. Известно, что сделать проект согласно плану – нетривиальная задача. Из 10+ тыс. проектов в 10+ отраслях и в 30 странах общей стоимостью $6+ млрд., проанализированных PricewaterhouseCoopers, только 254 (около 2%) были выполнены в срок.
Среди 1417 крупных IT проектов, 236 проектов показали перерасход денег более 200% и времени более 70%. Страшно осознавать, но цифры перерасходов на проектах с каждым годом только растут.

И вот замаячил поворотный момент!
Предложен алгоритм (на основе 6и методик), способный помочь в уменьшении перерасходов на проектах.
Внешне это похоже на граф WWW, на котором работают алгоритмы типа пэйдж-ранк. Но в случае проектов, этот граф - ни что иное, как сетевой график проекта (или переведенная в граф диаграмма Ганта).
Цель нового алгоритма – уменьшить распространение каскадов задержек, инициируемых задержкой, случившейся при выполнении конкретной работы. Как только такая задержка случается, запускается схема подавления каскада последующих задержек (их накопления и взакимоусиления).
Основной инструмент алгоритма – оперирование со свободным резервом времени (free float time) - разность между временем окончания работы и началом следующей за ней работы).
Каждая работа (узел сети) ранжируется. И при возникновении задержек идет расчет минимизации последствий распространения каскадов задержек (в обычных условиях они растут, как лавина).
Основной трюк алгоритма в том, что каскад можно минимизировать банальной задержкой времени начала некоторых работ, следующих в сетевом пути графика за работой, на которой уже произошла задержка. В результате таких искусных задержек минимизируется вероятность разрастания каскада задержек.

Короче, опять древние оказались правы. А нам открылся еще один, доселе скрытый смысл латинской мудрости - Festina lente (поспешай медленно).

Ну и самое интересное.
Как думаете – почему пэйдж-ранк покорил мир, и теперь его работой пользуется каждый?
Думаете, потому, что алгоритм такой полезный?
Полагаю, нет.
Секрет успеха в том, что был найден способ его монетизации в поисковиках.

Ау, стартапы! Кто первым выпустит приложение на основе этого алгоритма для экономии времени и денег при выполнении проектов?
Ведь это нужно всем: от строителей до программистов!

Препринт работы Христоса Эллинаса и Наоки Масудо «Modelling project failure and its mitigation in a time-stamped network of interrelated tasks» с примерами, поясняющими работу алгоритма.
https://bit.ly/2yIYNod

#Менеджмент #УправлениеПроектами #ТемпоральныеСети

Не прочесть этот лучший за последний год лонгрид о влиянии связки «ИИ – Геополитика – Экономика» на судьбы мира, - будет большой ошибкой. Уровень проникновения в тему и точность вИдения ближайшего будущего – беспрецедентны для СМИ (эссе выйдет в ноябрьском журнале WIRED).
Ну а пока вы его еще не прочли, желающие могут прочесть мой резюме https://bit.ly/2AACEdW

#ИИ #БольшаяВойна #Геополитика

Новый виток войны е-Добра и е-Зла.
В её основе MIP - методика идентификации пропаганды.
Первым полем битвы е-Добра с е-Злом, как и ожидалось, оказались социальные сети.
Как обычно, первый удар нанесло е-Зло с целью взять под контроль новостную повестку человечества.

Инструментом е-Зла стали соцботы, искажающие повестку в нужную сторону, раздувая одни новости (в том числе фейковые) и тем самым оттирая внимание от других.
Боты е-Зла преуспевают. На прошлой неделе, среди самых обсуждаемых тем в Twitter, до 60% твитов сгенерировали соцботы.
Twitter, потративший последний год на борьбу с ботами, с треском проигрывает этот бой.
Боты е-Зла научились эволюционировать.
Теперь они не просто выдают себя за людей (что худо бедно научились распознавать средства ПБО (противоботовой обороны) Twitter, а вовлекают в свои инфокаскады людей, прячась за их спинами и тем самым скрываясь от ПБО.

Как всегда, силы е-Добра неизмеримо малочисленнее. Но это вовсе не значит, что слабее. Доблести, отваги и креатива им не занимать.
Организованный двумя студентами UC Berkeley стартап Robhat Labs, имеет сегодня в штате всего восьмерых. Но они сумели мобилизовать на бой с ботами наиболее изысканный машинный интеллект – машинное обучение:
- на основе машинного обучения была разработана методология, выявляющая ботов по паттернам их поведения в сети;
- первый продукт команды, расширение Chrome под названием BotCheck.me позволяет пользователям выявлять в своей ленте наиболее вероятных ботов;
- второй инструмент getsurfsafe.com помогает детектировать фейковые новости;
- третий - запущенный вчера Factcheck.me – это Шерлок Холмс в расследовании поведения ботов. Он умеет даже выявлять ботов-провокаторов, подстрекающих людей к распространению нужного е-Злу контента. А еще он ловко определяет картинки-завлекатели (amplified images) и вирусные ссылки.

Если хотите быть на стороне е-Добра, у вас теперь есть неплохой инструментарий.

Подробней:
- о том, как боты разбушевались на прошлой неделе
- методика идентификации пропаганды от Robhat Labs
- о вчерашнем запуске Factcheck.me

О становлении е-Зла также см. посты канала по тегу
#Соцботы

Инновационная «Теория интеллекта тысячи мозгов», бросает вызов привычным взглядам и способна кардинально поменять не только ИИ, но и нейронауку будущего.
Но самое поразительное, что эту революционную теорию начинают признавать, и значит она может прорваться в научный мейнстрим.
Поводом для такого утверждения стала позавчерашняя публикация в Psychology Today статьи Cami Rosso «New Theory of Intelligence May Disrupt AI and Neuroscience», рассказывающей о новейшем исследовании, раздвигающем рамки новой теории “The Thousand Brains Theory of Intelligence”.

Это исследование «A Framework for Intelligence and Cortical Function Based on Grid Cells in the Neocortex» было в октябре опубликовано компанией Numenta и представлено идеологом и основателем Numenta Джеффом Хокинсом на проходившем в Маастрихе Human Brain Project Summit.

Суть «Теории интеллекта тысячи мозгов» проста и элегантна, как Е=mC2.
В мозге создаются сотни, если не тысячи, моделей для каждого из объектов окружающего мира. Их интеграция происходит в каждом кортикальном столбце. И это происходит не только на всех уровнях иерархии, но и параллельно.

Из этого следует очень многое. И в частности, что многое из уже написанного здесь – правда:
• «Мир – это не просто галлюцинация», а «Конкуренция множества иллюзий»
• «Новая теория того, как мозг строит модель мира, - это прорывной шаг к построению сильного ИИ»
• «Куда идет ИИ – уже не столь уж большой секрет»

#ИИ #Нейронаука

Математически доказано — надо идти на выборы.
Демократия заканчивается при низкой явке.
А наблюдаемый в мире раскол — математическое следствие роста “диванной оппозиции”.
Новое исследование Института комплексных систем Новой Англии (NECSI) и MIT дает математически обоснованные ответы на два важнейших вопроса современного устройства общества.
Детали в моем новом посте (4 мин.), завершающем семилетний цикл статей о выборах и расколе https://bit.ly/2P7aCj6

#Выборы #Раскол

Всё что нужно знать о будущем ИИ, Китая и мира.
Можно увидеть в динамике за 2 минуты.
Есть разные мнения о будущем ИИ, Китая и мира.
Но как бы то ни было, - этот ролик https://goo.gl/QgYBeu завораживает и прочищает мозг.
• с 60ых по 80ые Китай за пределами ТОР10
• в 1980 вползает в ТОР10
• в 1980 вылетает из ТОР10
• в 1992 снова заползает в ТОР10
• в 1995 вскарабкивается на №8
• в 2004 подтягивается до №6
• в 2011 уже №2
• с 2012 ракетой уходит в отрыв ото всех, неуклонно догоняя США

Это было про экономику. А теперь про объем данных, которым владеют ТОР10 стран мира.
Ролик показать пока не смогу (еще делается).
Но посмотрев статичные заготовки, заверяю вас:
— картинка такая же, как в ролике про GDP в последние 20 сек. (с 1:24);
— но Китай уже №1 и уходит в отрыв ото ВСЕХ, включая США.

#Китай

​​«Нобелевский король» оказался голым
Сегодня, в 21 веке, Нобелевская премия присуждается по лекалам 19 века.
Это означает:
1) Премия присуждается не в областях сегодняшних научных прорывов (сейчас, это преимущественно междисциплинарные работы), а в областях, бывших на острие прорыва … 100+ лет назад: физика, химия, науки о жизни (физиология и медицина).
В результате ни одно междисциплинарное исследование на стыках новых революционных областей (ИИ, Сетевая наука, Наука о сложности и т.д.) Нобелевку получить просто не может – см. рис а.
2) Премии вручается за открытия давно минувших дней. А как может быть иначе, если среднее время между публикацией научной работы и присуждением ей Нобелевки … 20 лет! А если учесть, что междисциплинарная революция началась только после 1995, то лишь самые первые из междисциплинарных работ (прошлого века) сейчас могли бы попасть в очередь на Нобелевку (но все равно не попадут – см. п.1).

Так что «Нобелевский король» оказался голый. И это убедительно показано на цифрах в только что опубликованной работе – A Nobel opportunity for interdisciplinarity
Это превосходный анализ 108 научных работ, получивших Нобелевку, и 59 тыс. научных статей, ссылающихся на них.

Пояснение к приложенному рисунку - его интерактивная версия, где можно прочесть про каждую из научных статей, здесь
Рисунок a.
Положение 108 получивших Нобелевку научных работ в треугольнике областей "физика–химия–науки о жизни" определяется относительной долей цитирований, полученной каждой работой от соответствующего сообщества.
Например, работа в центре треугольника получила равное количество цитирований от работ из всех трех областей, в то время как угловая позиция работы означает, что она цитируется только статьями из одной области.
Размер обозначает количество цитирований после десяти лет, а цвет обозначает область премии: оранжевый, физика; желтый, химия; синий, физиология/медицина.
Внутренний розово-сиреневый треугольник – область междисциплинарных исследование.
Как видите, там Нобелевок вообще нет.
Рисунок b
Среди 10 000 наиболее цитируемых статей по прошествии десяти лет только 220 междисциплинарные (лежат в розово-сиреневом треугольнике). 9780 узкодисциплинарных работ на рисунке b не показаны. Самые большие группы среди междисциплинарных работ: искусственный интеллект (ИИ; 16 документов), сетевой науки (18 работ), геология (15 документов), обработки сигналов (11 документов) и квантовыми точками (10 статей).
За них, хоть убейся, Нобелевок пока не дают.

Резюме словами М. Жванецкого – «Может, в консерватории что-то подправить?»

#МеждисциплинарныеИсследования

Грех не поделиться новым интерактивным гайдом-погружением «5/50» от McKinsey. Ведь вопрос, как привлечь внимание к своим идеям и финансирование под них, волнует далеко не только стартаперов.
Секрет известен – помимо удачи, все зависит от триады: правильные слова, собранные в правильный рассказ и сказанные с правильным эмоциональным зарядом.
Осталось понять, что же такое эта «правильность»? И как её добиться?
Для более или менее толкового ответа на эти вопросы уже написаны сотни и сотни страниц многих бизнес-бестселлеров.
А можно ли это так структурировать, чтобы толково на вскидку объяснить всего за 5 мин, а за 50 мин. объяснить уже в деталях?

McKinsey учится это делать в своем цикле интерактивных гайдов-погружений «5/50».
Вот как это выглядит для сформулированной выше задачи.

А здесь перечень со ссылками на другие гайды-погружения «5/50». Там найдете много интересного.
Например:
- Бояться или не бояться роботов?
- Что такое цифровизация бизнеса?
- Как получить отдачу от HR аналитики?

Разные профи относятся к McKinsey по-разному. Но в одном, пожалуй, McKinsey равных нет.
Как же классно они умеют структурировать!
И гайды-погружения «5/50» - отличный тому пример.

#McKinsey

Новость от EurekaAlert! – впервые заработал cуперкомпьютерный «Человеческий мозг» с 1 млн. процессоров

Крупнейший в мире нейроморфный суперкомпьютер, спроектированный и построенный подобно человеческому мозгу, - SpiNNaker («Spiking Neural Network Architecture») - впервые был включен в прошлую пятницу. Потребовалось десятилетие на его проектирование и десятилетие на построение. Он моделирует больше биологических нейронов в реальном времени, чем любая другая машина на планете, выполняя при этом более 200 миллионов нейронных спайков в секунду.
Создатели компьютера в конечном итоге стремятся смоделировать до миллиарда биологических нейронов в реальном времени (т.е. в 5 раз больше нынешнего).
Чтобы дать представление о масштабе, мозг мыши состоит из около 100 миллионов нейронов, а человеческий мозг в 1000 раз больше.
Один миллиард нейронов составляет 1% от масштаба человеческого мозга, который состоит из чуть менее 100 миллиардов клеток мозга или нейронов, которые все связаны друг с другом примерно через 1 квадриллион (это 1 с 15 нулями) синапсов.

✔️ Остается самое важное – понять, как из работы этой гигантской сети нейронов появляются разум и сознание.
Пока же это не ясно, суперкомпьютер работает так, как его спроектировали люди.
И если вдруг в этом суперкомпе проявятся элементы разума и/или сознания, то лишь по случайности.
Хотя кто знает, может и наш разум, и наше сознание – продукты случайного творчества эволюции.
https://www.eurekalert.org/pub_releases/2018-11/uom-103118.php

#HumanBrainProject

Хватит морочить голову: ИИ – это не технология.
Дальнейшее бездумное использование привычного термина всеми, от бизнеса до военных, размывает цели и сбивает с толку.
У нас уже есть устройства, с которыми мы можем поговорить, но они при этом не понимают из сказанного ни слова. У нас есть автомобили, которые, при ошибке GPS, будут упорно пытаться проехать там, где и ребенку видно, что дороги нет. Машины распознают фото, не понимая, что на них. И даже есть машины, способные победить чемпионов мира в шахматах и Go, но не способные при этом ответить на элементарный вопрос «зачем мама мыла раму?». Мы освоили компьютинг, тралим океаны данных и преуспели в машинном обучении.
Но все это вовсе не ИИ, а лишь наши достижения на пути поиска возможностей создания ИИ – машины, умной как люди и даже ещё умнее.

Посему, хватит морочить головы:
• умеющие бегать и т.п. роботы – это не ИИ, а роботы, умеющие что-то там делать;
• самоуправляемые авто – тоже не ИИ, а автомобильный автопилот;
• и распознавание чего-либо, и машинный голос в колцентре, и компьютерное зрение, и помощь в принятии решений – все это тоже не ИИ.

ИИ – это не технология, а цель.
На пути к этой цели создается множество технологий, совершенствуются существующие и возникают новые области знаний, открываются новые сегменты бизнеса (потребительские и корпоративные, товарные и сервисные).


Однако, мало понять, что ИИ – это цель. Потому что ИИ – это еще и наука. Любая наука имеют свою цель. Цель физики – приблизиться к истинному пониманию природы Вселенной. На пути к этой цели физики разработали массу технологий, изменивших жизнь человечества (от оптики и электричества до атомной энергии и квантовых технологий). Но эти технологии не являются физикой - это побочные продукты поисков понимания устройства Вселенной.
Точно так же машинное обучение, компьютерное зрение и робототехника – всё это побочные продукты нашего стремления к пониманию и созданию ИИ.
Ну а надуманные понятия - «слабый ИИ»» и «сильный ИИ» - лишь путают и сбивают с толку.
Не бывает «слабой и сильной физики», и не бывает «слабого и сильного пути».

ИИ – это цель и наука, прокладывающая путь к цели.

Всё сказанное – совсем не новость для тех, кто серьёзно занимается ИИ, а не просто оседлал этот хайп, чтобы рубить бабло и пиарить свой бизнес.

Однако, когда такое пишется в Forbes, - значит лёд тронулся, и начинает понемногу доезжать даже до начальства.

Читайте Artificial Intelligence Is Not A Technology

#AI #ИИ

​​Мир не прост – на примере ожирения.
Есть простая и в принципе правильная формула:
Еда = Энергозатраты ➡️ вес не меняется
Еда > Энергозатраты ➡️ жиреешь
Еда < Энергозатраты ➡️ худеешь
Однако, на практике эта формула далеко не всегда работает. Причин тому масса: от психологии до обмена веществ.

Если же поставить задачу на системном уровне – хотим остановить эпидемию ожирения она становится практически неразрешимой из-за огромного количества влияющих факторов и колоссальной сложности их связей (положительных и отрицательных).
Чтобы понять уровень сложности, достаточно взглянуть на cистемную карту проблемы ожирения.

Страшно интересно (и полезно) поиграть пару минут с этой картой.
А потратив еще 3 мин, можно посмотреть 3D версию карты на видео.
Ну а желающим реально разобраться, можно поиграть с интерактивной версией этой карты, изучая взаимосвязи её кластеров и отслеживая петли обратных связей.
Наконец, можете даже окунуться в английский Форсайт-проект, где системная карта проблемы ожирения исследуется в мельчайших деталях.

Сложно, аж жуть!
А ведь это хоть и актуальная, но далеко не самая сложная проблема человечества.
Системные карты жизненно важных для выживания человечества проблем куда сложнее.
Поэтому мой канал и называется @theworldisnoteasy.

#Complexity

Вот мы и стали Богами.
Но вдруг выяснилось - единобожия нет, а разные Боги видят проблему жизни и смерти по-разному.
Уже ездящие по дорогам самоуправляемые авто постепенно превращают человека в Бога. А как иначе сказать? Ведь это инженер-программист теперь должен запрограммировать решение вопроса, ранее бывшее всегда за Богом - кому жить, а кому умереть?
Это решение (точнее, сценарные варианты оценки решений) инженеры должны заложить в самоуправляемый автомобиль.
Кому подарить жизнь, а кому даровать смерть:
— пешеходам или пассажирам?
— молодым или старым?
— богатым или бедным?
— тем, кого больше (например, пятерым пешеходам) или меньше (водитель и его жена с маленьким ребенком в автокресле)?

И тут человечество ждал сюрприз – с единобожием не задалось. Боги, решающие, кому выжить в данном конкретном сценарии, думают по-разному, в зависимости от страны проживания, уровня доходов, вероисповедания, национальности и расы.
Самый крупный из когда-либо проведенных обзоров «машинной этики», опубликованный на днях в Nature, обнаруживает, что многие моральные принципы, которые определяют решения водителя, зависят от страны. Например, в сценарии (всего сценариев 13), в котором некоторая комбинация пешеходов и пассажиров погибнет при столкновении, люди из относительно зажиточных стран с сильными институтами с меньшей вероятностью пощадят пешехода, который незаконно вступил в движение. Т.е. например, в Финляндии и Японии пешехода раздавят, а в Нигерии или Пакистане - спасут.
Опрос 2,3 миллиона человек со всего мира показал, что проблема 21 века – какой должна быть «машинная этика» - не имеет единого решения. Как и в старые времена, этика не универсальна или варьируется между культурами.
Более того. Здесь существует парадокс, впервые вскрытый еще 2 года назад. Опросы показывают:
— во многих странах люди отдают предпочтение самоуправляемым автомобилям, сохраняющим жизнь пешеходов, даже если это означает жертвовать своими пассажирами;
— но те же люди говорят, что они не будут себе покупать самоуправляемый авто, который запрограммирован таким образом.
Опрос показал, что в вопросе сохранения жизни при автокатастрофах люди разделяются, как минимум, на три разных вида Богов.
• Боги А живут в Северной Америке и несколько европейских стран, где христианство исторически было доминирующей религией.
• Боги Б живут в таких странах, как Япония, Индонезия и Пакистан, с сильными конфуцианскими или исламскими традициями.
• Боги В живут в Центральной и Южной Америке, а также Франции и бывших французских колониях.
Эти три вида Богов сильно разные, и решают проблему «кому жить, а кому умирать» принципиально по-разному. Например, Боги А предпочитают жертвовать пожилой жизнью, чтобы спасти молодых. А Боги Б – наоборот.

Значит ли вышесказанное,
✔️ что общемировой консенсус по «машинной этике» невозможен?
✔️ и что настройки выбора «жизни и смерти» для пассажиров, водителя и пешеходов будут прошиваться автодиллером конкретной страны?
— все это остается под большим вопросом.

Подробней:
• Видео на 4,5 мин (просто и понятно) Moral Machines: How culture changes values

• Популярно How should autonomous vehicles be programmed?
• С деталями Self-driving car dilemmas reveal that moral choices are not universal
Полное описание The Moral Machine experiment – скайхаб вам в помощь.
Сайт опроса (на всех языках, включая русский) – думайте сами, решайте сами, давить или не давить.

#Этика #БеспилотныеАвто