ИИ обладающий эмпатией и сознанием
Шоумо Банерджи из Математического института Оксфордского университета не перестает меня удивлять. И похоже, что уже в этом году его вместе со всеми его работами купит какой-нибудь Google или IBM, после чего все эти работы засекретят.
Но пока нам раздолье, и можем свободно читать.
Только что Банерджи передал на рецензирование научной общественности новую революционную работу на стыке ИИ и двух теорий: Адаптивных самоорганизующихся и Мультиагентных систем.
Работа называется «A framework for designing compassionate and ethical artificial intelligence and artificial consciousness» (Основа для разработки способного к состраданию и этике ИИ, а также искусственного сознания) https://goo.gl/BnTres

Революционность этой работы в том, что это 1я в мире попытка, если не примирить, то хотя бы сблизить две полярные точки зрения на сознание.
Несколько упрощая, эти 2 полярные точки зрения таковы.
1) все элементы сознания так или иначе сводимы к вычислительным процессам (и, следовательно, могут быть воспроизведены компьютером);
2) есть нечто большее в человеческом осознанном поведении, что невозможно описать вычислительным процессом (например, творчество или чувство свободы, которыми обладают люди, похоже, не связаны с логикой или расчетами).

Что стоит за каждой из этих 2х точек зрения, я, пожалуй, напишу поподробней в отдельном посте. Здесь же лишь отмечу, каким образом Шоумо Банерджи предлагает решение на стыке 2х полярных подходов.
Это – «гибридный интеллект», обладающий верхним уровнем сознания.
По сути, подход Банерджи продолжает и расширяет подход IBM, реализуемый в IBM Watson.
Но если Watson основан на глубоком обучении компьютера с использованием обширного корпуса сетевых текстов, подход Банерджи предусматривает включение в контур глубокого обучения еще и человека-оператора.

Описывать здесь детали подхода Банерджи не вижу смысла. Это будет длинное и не простое переложение текста статьи Банерджи. Кому интересно – прочтет сам в оригинале.
Но если будете читать, обратите внимание, что ключом к переходу от моделирования интеллекта к моделированию сознания, Банерджи называет способностью компьютера сопереживать и сострадать. И не только другому человеку, но и другому компьютеру.

О предыдущей работе Шоумо Банерджи - революционной теории преступности и насилия в городах, построенной по аналогии с иммунной системой человека, где преступность (и сами преступники) уподобляется патогенным инфекциям, а ответ на нее со стороны общества (полиция, суд и тд) – иммунным ответам организма - см. https://t.iss.one/theworldisnoteasy/292 . Фантастический сплав современной теории городов, как биологических организмов, вычислительной социобиологии и теории искусственных иммунных систем.
#ИИ #АдаптивныеСамоорганизующиесяСистемы #МультиагентныеСистемы

О том, что чувство вины – наше ключевое эволюционное преимущество,

о новом шаге в решении эволюционной головоломки «Зачем человеку совесть?», заодно уточняющем, почему Творец (Бог, природа, экспериментатор инопланетного сверхразума и т.д.) пошел иным путем, нежели создатели ИИ,

о только что опубликованной работе «Когда хорошо чувствовать себя плохо: эволюционная модель вины и извинения»,

- мой новый пост на 3 мин. чтения https://goo.gl/AiHwSS

#ЭволюционнаяПсихология #МультиагентныеСистемы #КогнитивныеСистемы

Как становятся смелым.
И как смелость группы (от банды до нации) зависит от смелости её лидера
Давно известно:
— характеристики личности формируются окружением;
— коллективное поведение группы (от банды до нации) зависит от её лидера.
Но как это происходит, - до сих пор было не понятно.

Не так давно узнали:
— жизнь всех социальных видов (вкл. людей) организована в виде социальных сетей (реальных, а для людей, с недавнего времени, еще и интернетовских);
— сетевые взаимодействия (обмен информацией) сильно влияют, как на индивидуальное поведение участников, так и на их коллективное поведение;
—поскольку личность определяется ее устойчивыми паттернами поведения, значит сетевые взаимодействия формирую личность.
Но как это происходит, - до сих пор было не понятно.

Новое междисциплинарное исследование проливает свет на эти важнейшие для понимания человека и общества вопросы, исследовав взаимосвязь
• смелости и коллективных сетевых взаимодействий;
• динамику распространения смелости среди членов группы под влиянием ее лидера.

Но сначала нужно пояснить.
1) Над человеческими сообществами в условиях реальной жизни – фиг поэкспериментируешь в силу многих причин.
Как обычно, на помощь приходят социальные животные. Но это, хоть и не так хлопотно и дорого, как с людьми, но все равно не просто.
А вот социальные насекомые – в самый раз. Причем не «добряки и социалисты» - муравьи, а во многом похожие на нас «агрессивные индивидуалы» - пауки, тем не менее, по жизни вынужденные собираться в коммуны в целях социального взаимодействия (stegodyphus dumicola из семейств эрезидов).
2) Чтобы из наблюдения за пауками сотворить некую теорию, нужна модель: с повторяющимися результатами и проверяемая на практике.
Так и сделали. Построили стохастическую акторно-ориентированную модель.

В итоге, длительная и тщательная серия экспериментов над stegodyphus dumicola с использованием названной объясняющей модели, показала следующую взаимосвязь смелости и коллективных сетевых взаимодействий.
А) Смелость особей растет в результате социальных взаимодействий. Причем сильнее всего растет смелость наиболее пугливых (трусливых) особей.
Б) В обратную сторону это не работает. Объем социальных взаимодействий с ростом смелости не растет.
В) Как только смелость индивида начинает увеличиваться, процесс самоускоряется, т.к. включается механизм положительной обратной связи. Но со временем (с возрастом) смелость все же падает.
Г) Природе смелость нужна, поскольку способствует эффективному коллективному поведению, например, - коллективному нападению на добычу или коллективному изготовлению инструментов (плетению паутины).
Д) В любой группе (соцсети) всегда выделяется самый влиятельный – «отец группы» (или крестный отец или нацлидер и т.д.). Эксперимент показал – он самый смелый. Это, вроде как, не особо удивительно. Но вот, что удивительно. «Отец группы»
— может «вводить в заблуждение» свою группу, давая им неправильную информацию;
— способствует повышению смелости сразу среди многих сородичей, находящихся с ним в социальной связи;
— влияет на динамику болезней в коммуне.

Два обобщенных ключевых вывода
✔️ Смелость в бОльшей степени определяется социальным окружением, нежели врожденными качествами личности (в среде ботаников не станешь так смел, как в среде шпаны)
✔️ Смелый лидер – залог смелости всего сообщества (он буквально заражает сообщество смелостью).

Так у пауков и, предположительно, прочих социальных животных.
Полагаю, что и у людей все это работает аналогично.

Отчет по исследованию
https://rspb.royalsocietypublishing.org/content/285/1886/20181366
(скайхаб вам в помощь)

#ЭволюционнаяБиология #ПоведенческаяЭкология #Collective_Behavior #МультиагентныеСистемы

Социальные группы живых особей и, в частности, человеческие общества – это сложные комплексные системы, характеризуемые наличием «переломных моментов» - резких изменений в динамике систем, возникающих при совсем небольших изменениях условий окружающей среды.

Супер-популярный бестселлер Гладуэлла «Переломный момент: Как незначительные изменения приводят к глобальным переменам», сделавший термин «переломный момент» массово популярным, писался 20 лет назад. Потому описанные в книге концепция и ее механизм действия, мягко говоря, несколько отличаются от современных научных представлений в этой междисциплинарной области на стыке социологии, поведенческой экологии, коллективного поведения, психологии, мультиагентных систем, экономики, эпидемиологии и еще полдюжины дисциплин.

А ведь здесь в последние годы сделано несколько важнейших открытий, приближающих нас к пониманию двух, возможно, самых важных вопросов развития человеческого общества
– почему и как происходят революции?
– и почему они не происходят в условиях, когда, казалось бы, должны происходить.

Об этом мой новый пост на еще 3,5 мин. чтения здесь https://goo.gl/6PdZpk

#ЭволюционнаяБиология #ПоведенческаяЭкология #Collective_Behavior #МультиагентныеСистемы #ПереломныйМомент