Сознание у животных

Слово "сознание" не только указывает на ежесекундно наблюдаемый каждым феномен, но и присутствует в активном словаре всех людей.

Отсюда требование для добросовестного исследователя попытаться, уточняя понятие сознания, учесть весь этот накопленный человечеством багаж. Можно его отбросить, но тогда рационально выбрать и слово другое для обозначения феномена: например, "ориентировочная реакция" или "когнитивный цикл". Сохраняя слово "сознание" исследователь подписывается если не с пиететом, то хотя бы с терпимостью относится к ранее накопленным языком значениями и смысловым интуициям носителей языка.

И наоборот, любой исследователь, который в определении подобных терминов отталкивается от бытовой интуиции, априори совершает полезную работу, даже если по прочим критериям она несовершенна.

В вопросах определения сознания у животных (или, там, роботов) зачастую закономерно идут по этому пути: что у них есть такого, чем они напоминают человека, что затем можно было бы назвать сознанием?

Придумали зеркальный тест: наносят на тело животного цветное пятнышко в недоступном для прямого наблюдения месте и ставят перед ним зеркало. Животное, понявшее в чём суть дела (увидев пятнышко в отражении) и пытающееся стереть с себя пятнышко, считается прошедшим тест.

Хочется сбить пафос этого простого теста и предложить ещё пару вариантов для той же ячейки категорий определения сознания.

Итак, во-первых, алкогольный тест. Животное, способное преодолеть отталкивающий вкус забродивших фруктов и целенаправленно потребляющее подобное природное вино, очевидно, имеет весьма развитое сознание. С подобной формой сознания приходит понимание жизненных реалий и тщетности бытия, потому-то и парадоксально наличие сознания сочетается с желанием его отключить, хотя бы временно.

Во-вторых, тест на наличие сновидений. Развитое сознание требует не только настройки и перезагрузки физиологических процессов, но и фоновой обработки полученной за день информации. Владельцы собак прекрасно знают, что у домашних питомцев точно бывает сон со сновидениями. Также известно, что у диких животных такого не случается. Думаю, из одного этого наблюдения можно развить тома и тома рассуждений про суть сознания.

Что ж, оставим зоопсихологам задачу проранжировать три указанных теста, упорядочив их в порядке необходимого уровня развития сознания для прохождения :)

#psychology

Сознание vs правосознание в приложении к ИИ

Пару слов о проблематике наличия сознания у ИИ.

Абсурдные заявления, нелепые определения и маловразумительные рассуждения в отношении обладания сознанием ИИ делаются с единственной целью: убрать в тень реальную технологию, организацию и политику разработки ИИ и связанных вопросов безопасности.

Одновременно это является дальнейшим шагом демагогии, над которой мы подтрунивали раньше в посте "Умные устройства".

Наличие сознания, по небезосновательному мнению двигающих дискурс сил, автоматически будет означать наличие ПРАВОсознания. Одно дело смартфон это просто железяка в кармане, а другое дело одушевлённое (доказано консенсусом учёных после многолетних обсуждений) существо. В первом случае его интеллектуальные аспекты мешают пользователю работать, разглашают без разрешения персональные данные и отнимают время, а во втором являются законным и неотъемлемым правом разума на становление и развитие.

Ну и уже совсем без шуток, разумеется, "доказанно сознательный ИИ" даёт безграничные возможности своим владельцам по уходу от ответственности. Вот автор канала "История гиперинформации" вообще считает разумным ожидать, как американцы изобретут человекоподобный ИИ (предъявлять доказательства, конечно же, не станут), и потом начнут списывать на него последствия всех своих решений ("мы лишь делали как ИИ посоветовал").

Но вообще говоря наличие подобных организационно-правовых конструкций не является чем-то радикально новым. В известный момент появилась концепция "юридического лица", то есть буквально обладающего правосознанием голема. И используется буквально для той же цели: для ухода стейкхолдеров от ответственности.

Аналогично, в большем масштабе, работает такая вещь как государство.

Естественно, деятельность юридического лица обставлена большим количеством условностей: правила его работы должны быть в известной мере прозрачны, при обнаружении противоречий между декларируемыми целями-методами и реальными действиями накладываются санкции. Управляющий может быть наказан или заменён, в исключительных случаях пострадать могут даже и владельцы.

Так сложилось (как-то снова само собой), что механизмы работы продвинутых ИИ абсолютно непрозрачны для понимания. Очевидно, что каждому государству и каждой корпорации нужен свой "ИИ с доказанно существующим сознанием", воплощённый аватар, который бы обладал (как в глазах общественности, так и в глазах регуляторов) набором почти человеческих прав, но при этом не нёс никакой ответственности (как ты ИИ посадишь в тюрьму или убьёшь?): это фактически лишь квинтэссенция и закономерный итог идеи "юридического лица".

Идея иметь все права и никакой ответственности настолько хороша, что демагогия, направленная на её реализацию, становится совсем бессовестной и малосодержательной.

#psychology

Вот вам список кого нынче почитываю:

Криптодискурс:
@ti_fl_gs
@MI6jamesbond
@outrageous_profan
@notestounderground

История:
@conprivilegio
@kodor_history

Психология:
@neuropsy_applications
@metaprogramming
@es_and_ego

Не придумать категории:
@hyperhistory
@mmanifolds
@prooptiki

Комментарии про насущное:
@a_kaminsky
@pravak_online

Диванная философия (авторский термин):
@vecetti_light

Мемы:
@emperor_of_pepe
@mikaprok_news

Игры:
@goldenkey_game
@pizzecantrop

Около-архитектурный контент (тут люди совсем не в дего-теме, но интересно ведь, что там вне пузыря):
@archispilka
@goroddictionary
@gdedenezki
@artemvuk
@criticumtheory

Работа по принуждению (пятничный пост)

Всякому ясно, что хорошее дело "работой" не назовут.

Работа – это нечто, что человек тут же прекратит делать, если ему перестать платить деньги. С другой стороны, прекращение любого труда как такового (в особенности творческого) это путь к деградации, сорт наркомании (либо буквальной, либо косвенной, какой-нибудь "дофаминовой" или "адреналиновой" – которая тем не менее служит фактором распада личности, пусть и менее выраженным).

Таким образом, работа это не любой труд. Это труд вынужденный, по внешнему принуждению. Но сказать "внешнее принуждение" это не сказать почти ничего. Всякий внешний стимул воздействует на поведение живого существа благодаря его внутреннему значению, а всякое внутреннее значение определяется смысловыми рефлексами на внешние стимулы.

Человека можно бить палкой или морить голодом. Но во-первых речь не об этом. Во-вторых даже если речь об этом, палка и голод могут убить, но решить что-то сделать под их воздействием должен сам человек.

Всякое принуждение состоит из трёх компонентов: опыта лишений, угрозы его повторить и невозможности побега. Бьём существо палкой; далее палку показываем и требуем что-то сделать; держим на поводке или в клетке. Или присылаем счета за квартиру, угрожаем увольнением, температуру на улице держим ниже порога выживания. Воспринимаемый источник разных компонентов принуждения может быть различным, это только усилит общий эффект.

Соответственно, можно формально указать три способа с принуждением бороться:

1. Приобретение толстокожести: изменение отношения к негативным последствиям, при которых они не воспринимаются как безусловно нежелательные ("терпеть")
2. Взаимодействие с угрозами: уговорить, купить, сломить или сторговаться с рукой, удерживающей палку ("бороться")
3. Переработка ограничений: обучиться новым навыкам, получить необходимые знания, составить планы, накопить деньги, собрать решительность и т.п. для перехода в другой контекст ("сбежать")

Далее можно указать разные "мета-сценарии" использования тех или иных способов:

1. "Экзистенциальное терпение": страдания возвеличивают, посему бороться с ними не просто нежелательно, а вредно для личностного развития, надо учиться всё большим градациям терпения. Напоминает некоторые вариации христианства.
2. "Экзистенциальная борьба": смысл жизни в преодолении проблем (возможно напролом, возможно тонкими способами, возможно за счёт изобретательности, хитрости, мастерства и т.п.), каждая решённая проблема закаляет характер, характеры формируют судьбы и всё такое
3. "Экзистенциальный эскапизм": смысл жизни в уходе от всех проблем, тотальный дауншифтинг

(Кстати, некоторое время назад писал в похожем тоне заметку про удалённую работу.)

#philosophy

Вкратце о скорости гравитации и работе Солнечной системы

Сейчас принято считать, что скорость гравитации ограничена (как и все прочие взаимодействия) скоростью света. Такая точка зрения окончательно утвердилась в качестве мейнстримной относительно недавно, всего несколько лет назад.

В то же время наблюдениям за телами Солнечной системы и попыткам вывести общие законы движения несколько сотен лет. И как-то обходились всё это время без конечности скорости гравитации, считая скорость взаимодействия планет со звездой и друг другом мгновенной.

Скорость света при этом для масштабов даже Солнечной системы совершенно ничтожная: например, от Солнца до Земли он плетётся целых восемь минут. А до Плутона целых пять часов!

Разница между "мгновенно" и "несколько минут" (тем более "несколько часов") настолько существенная, что "медленная гравитация" (гравитация, воздействующая лишь со скоростью света) всю Солнечную систему должна была разнести на куски: планеты должны были бы сорваться с орбит и уйти (под воздействием центробежных сил) в свободный полёт.

Лаплас, следуя такой линии рассуждения, в 1797-м году оценил, что для стабильности Солнечной системы скорость гравитации должна быть в 50 миллионов раз больше скорости света.

Так как же современный взгляд объясняет верность наблюдений, следующих из небесной механики с "мгновенной гравитацией", при этом постулируя "медленную гравитацию"?

Вот как считается обстоит дело: хотя тело Б действительно "чувствует" притяжение тела А со значительной задержкой (равное времени движения света между ними), тело Б в момент получения очередной порции импульса притяжения будет тянуться не к "старому" местоположению тела А (которое было на момент как бы испускания этого импульса), а к тому месту, где тело А бы оказалось, сохраняй оно прямолинейное равномерное движение.

Поскольку тела движутся не прямолинейно, а по эллиптическим траекториям, некоторая вычислительная разница (по сравнению с мгновенной гравитацией) всё же накапливается. Но не катастрофическая: подобной линейной интерполяции хватает, чтобы Солнечная система оставалась стабильной.

Вопрос специалистам: а электромагнитное взаимодействие также работает на больших расстояниях – т.е. будут ли притягиваться движущиеся электрические заряды к точкам, соответствующим подобной "линейной интерполяции" траекторий друг друга?

#science

https://www.youtube.com/watch?v=Omeve95H-Es - стримим в 21:00 по Москве "Симулятора культиста" с создателем игры "Золотой ключ", игромехаником LeGrandHamster. Игра несколько затянутая, в этом эпизоде наконец-то предполагается немного экшена.

Выделил игровой канал в отдельный.

Пару мыслей про "Чёрную книгу" написал: https://t.iss.one/gamethoughts/12

Попытался привязать группу комментариев к двум каналам одну и ту же, и Телеграм всё сломал. Можно в этом треде оставлять комменты к предыдущему!

Дух машины

Подумалось, что новая фича Windows Recall – напомню, Microsoft анонсировала что система будет снимать регулярные скриншоты и парсить их с помощью ИИ – это ведь буквально "дух машины" из Warhammer.

К каждому устройству (сейчас вставили в компьютер, а можно в телефон или тостер) можно будет обратиться на человеческом языке, поговорить по поводу исполняемых функций и прочее.

Ну и конечно на границе продвинутых государств пограничники смогут не нудный digital forensics – цифровое следствие – вести по два часа на устройство, а сразу ввести нужный ключ и попросить ИИ написать на хозяина краткую сводную характеристику и пересказать его мнение по ключевым вопросам...

#philosophy

ИИ-утопия

В комментариях дискуссия о замене человеческого труда на машинный закономерно пришла к идее "закидать человечество конфетами с веселящим газом".

А вот интересно абстрактно подумать над смыслом человечества в контексте развития ИИ. Подразумевается, что у "человекообразия" есть некая самоценность (иначе зачем с ней возятся так кропотливо). С другой стороны, ИИ может это человекообразие смоделировать.

Пока что этому есть технические препятствия: недостаток мощностей, примитивизм алгоритмов и прочее. Далее наверняка обнаружатся и принципиальные ограничения: отсутствие у ИИ как бы настоящего сознания, динамическая топология естественных нейросетей, вытекание неких важных качеств разума из его биологической природы.

Наконец, может быть в некоем последнем проблеске инстинкта самосохранения людям удастся заложить в ИИ аналоги пресловутых "законов робототехники" Азимова: "не причини вред человеку и человечеству".

В любом случае даже при появлении вполне человекоподобных ИИ останется задача сохранения человеческого своеобразия из исторической сентиментальности, типа как сейчас люди пытаются оберегать виды из "Красной книги".

Немногочисленные остатки человечества будут заперты по эдемским садам (в зависимости от прочтения условий задачи это могут быть буквально райские кущи, могут быть бетонные подвалы, а могут быть капсулы из "Матрицы"), где ИИ будет умиляться и доводить до недостижимого совершенства модели человекоподобия из любви к искусству и продолжающих своё действие древних инвариантов функционирования.

А может быть люди будут сортом старых богов, посаженных на цепи. Иметь своего Апполона или Зевса на привязи разным фракциям/субфункциям планетарного ИИ будет считаться престижно, почётно и прагматически полезно: команды тёплого биологического разумного будут иметь власть над механизмами, которую они сами над собой могут получить лишь опосредованно...

Нельзя действовать наперекор "оператору промпта"; другое дело – что и когда оператор должен сказать поддаётся расчёту, прогнозированию и корректировке.

#philosophy

Вкратце про ЕГЭ ещё раз

В дополнение к заметке от 2021 года на эту тему.

Введение болонской системы, введение ЕГЭ, отмена советской степени специалистов, введение новой системы специалистов, отмена болонской системы, отмена ЕГЭ, отмена старых новых специалистов, возврат к советским специалистам, введение специализированных специалистов – что бы в системе образования не происходило, важно, чтобы что-то происходило.

Критика ЕГЭ началась прямо с момента его введения, причём зачастую инициировалась значимыми общественными деятелями и ведущими государственными институтами. Подобный управленческий манёвр говорит о том, что стандартный экзамен всегда рассматривался как временная мера: оставляли возможность лавочку в любой момент свернуть, уже имея готовый предлог (по единогласным просьбам трудящихся правительство наконец-то...).

Пропустим без подробного рассмотрения аргументы вида "тесты натыкать любой может" и "в школе только натаскивают на задачки" – в отношении технических предметов вопросов с множественным выбором ("галочек") нет уже много лет, а "натаскивание на задачки" можно с таким же успехом сказать что продолжается до самой аспирантуры. Гуманитарные же дисциплины преподаваться будут плохо безотносительно формата экзаменов.

Единственный оставшийся содержательный контр-аргумент, таким образом, это провокационный заход "а вот в республике Х стобалльники одни!". Как-то эта проблема тоже была уже давно решена в рабочем порядке, но, думаю, концептуально есть множество вариантов радикального предупреждения проблемы, не требующих отмены федерального ЕГЭ. Один из вариантов, например, такой: очевидно, народам федерации, представляющим из себя прирождённых гениальных математиков (физиков и т.п.), требуется для полной реализации потенциала отдельная система экзаменов и даже отдельный набор соответствующих их уровню учебных заведений.

Таким образом в столицах соответствующих субъектов надо открыть Всепланетные Институт Всех Наук, Межгалактические Университеты и Высшие Школы Синергий в достаточном для всесторонней самореализации количестве. Сдачу прокрустового стандартного федерального экзамена на соответствующих территориях отменить.

Для эффективной работы социальных лифтов при ведущих московских вузах типа МГИМО, РУДН, РАНХИГС и т.п. открыть факультеты Экобиосоциально-Космических Кибернетико-Евразийских Наук им. Дугина-Ильина. Приём по ЕГЭ, конечно, на эти факультеты также не вести: требуется особенный уровень развития личности для получения соответствующего диплома (в котором отметка особых заслуг абитуриента должна, конечно, присутствовать).

Есть и множество других вариантов, которые читателям думаю легко придут в голову, если не упираться в созданную на ровном месте "залепуху", обязательно почему-то требующую очередного радикального перетряхивания системы образования во всей стране...

#education

"Работа по специальности" и специалисты

С ЕГЭ может быть ещё законотворцев отпустит (отменить грозились много раз), а вот по новым степеням/квалификациям есть реальные подвижки.

Напомню, в РФ существовали европейские (да и вообще всемирные) степени бакалавра и магистра. Двухуровневая система позволяла уточнить профиль после получения базового образования (в 16-18 лет мало кто может с первой попытки угадать, кем хочет стать, когда вырастет). Одновременно существовала по советскому образцу (имеющая, впрочем, аналоги во многих других государствах с сильным техническим образованием) степень "дипломированного специалиста": интегральный курс высшего образования на 5+ лет.

Потом решили что дипломированный специалист это в точности равноранговая магистру ступень, и создали реализуя эту мысль степень "просто специалиста", отправив "дипломированного" в архив.

Сейчас происходит очередная терминологическая перетасовка, которая в эту схему, впрочем, ничего не добавляет: если убрать демагогию, смену вывесок, исписывание министерских бумаг и очередное уточнение соотношения ступеней специалиста и магистра, обсуждать содержательно будет нечего.

Неочевидный второстепенный (но занимательный) вопрос, который замешан в центре всей этой катавасии, это Проблема Неработающих По Специальности.

Говорят что от 30% до 60% выпускников Не Работают По Специальности (разброс цифр уже показывает надуманность метрики), и тон сообщений (а иногда и прямые указания чиновников) говорит о том что это Большая Образовательная Проблема.

В то же время любому студенту, не говоря про выпускника, понятно, что никакой специальности в высшем учебном заведении нет и быть не может. Специальность есть в ПТУ. В институте есть некая общая очень условная квалификационная сфера интересов (например, "Физика", "Компьютерные науки") и возможность более глубоко изучить некие отдельные интересующие сферы (путём выбора стандартной программы того или иного факультета или, по-хорошему, гибкой конфигурации курсов по выбору).

Студенту дают множество разных наживок, а как клюнет, подсекают и тянут, не давая соскочить. На какой-то раз выжившие особи понимают в чём прикол, получая ту или иную форму пресловутого "навыка учиться".

Отсюда в целом так и выходит, что в инвестфондах работают физики, в консалтерских фирмах теологи, в юридических конторах айтишники и пр., и никто вот Не Работает По Специальности.

Нехорошо! Непорядок! Нет, подлец, если записался в счетоводы, то сиди, мерзавец, до пенсии цифры перебирай: вот это будет дело! И статистику не порть.

#education

Биологическая обратная связь: методика получения произвольного контроля за физиологическими параметрами (ЭМГ, активностью ССС, и любыми другими – потенциально хоть за активностями отдельных нейронов мозга) на основе наблюдения за их изменением в реальном времени.

На экране отображаются (в том или ином виде) физиологические показатели, человека инструктируют "как-то" их произвольно начать менять (в указанную сторону). И "как-то" это в итоге получается!

Известный недостаток: параметры "отвязываются" от комплексов, которые через них пытаются контролировать (например КГР становится независимой от уровня стресса), этакий эффект KPI.

А причём тут психологи? А психолог-консультант это и есть дискретное устройство биофидбека (на смысловых рефлексах), и наличие "ума" или там "личности" или ещё чего такого эффективной работе в общем случае только мешает. Нужна скорее механическая скорость реакции и владение некими (более сложными, нежели чем в буквальном биофидбеке) алгоритмами.

Ещё раз о поп-психологии

В сфере телеграм-каналов бродит последнее время (риторический?) вопрос о том, должен ли психолог быть умнее своего клиента.

Писал об этом в серии заметок "Отличие психологии от тик-ток психологии". Попробую с другой стороны повторить.

Идея о том, что психолог-консультант должен "учить жизни", является типичным околопсихологическим мифом. В любой распространённой школе психотерапии, от классического психоанализа до постмодерновой когнитивно-поведенческой, консультант играет роль специфического устройства биологической обратной связи, занимающегося чем-то вроде отражения активности клиента. Что именно "отражать", в какой конкретно манере, какими более общими принципами (= алгоритмами) руководствоваться – является той сутью, что отличает один подход (модальность) от другого.

Более общий вопрос бы звучал так: вообще, должен ли управляющий элемент системы быть более "умным", чем управляемый? Предохранитель в щитке в каком-то смысле управляет всеми устройствами в доме, а светофор всеми автомобилями на дороге.

Предметная область психолога-консультанта связана с жизнью клиента также, как предметная область программиста с сутью бизнеса заказчика. У одного магазин по продаже лифтов, а у другого колбасы – а какая разница?

Представим, что программисту надо при этом привлекать не столько аудиторию студентов программирования (как оно обстоит в основном в индустрии сейчас), а большое количество именно владельцев микробизнесов.

На что были бы похожи заголовки материалов на ютюбе? "Как пропатчить KDE2 под FreeBSD развернуть проект на Ruby on Rails через docker compose?" Конечно нет. Скорее:

– "Не вкусно и точка? Масштабирование базы данных в колбасном цеху пошло не так..."
– "Билл Гейтс и изменение климата. Выбираем язык программирования для котельной"
– "Ленивые сотрудники: оптимизируем дизайн тикет-системы для ускорения производства"
– "Инвесторы тоже люди? Какой фреймворк веб-сайта привлечёт реальные деньги?"

Ага, вот и у психологов получаем вместо видеороликов типа "применение оперантного формирования в извлечении свободных ассоциаций", "конвенциональные смысловые поля моргательных движений" или "технические приёмы установки контакта с детьми-аутистами" скорее такое:

– "Как избавиться от прокрастинации"
– "Он меня любит или нет? Психологический портрет идеального мужчины"
– "О чём я хочу спросить Байдена? Честный разговор с психологом"
– "Особенности мышления тофаларов"

Проблема тут в том, что программисты знают чем они занимаются, а психологи не всегда.

#psychology

Ведутся бесконечные споры о том, надо ли на собеседовании программистов спрашивать алгоритмы.

Есть более насущный вопрос: владение алфавитом.

Конечно в идеале было бы сделать, как это сейчас модно, чтобы не просто пункты меню в случайном порядке были перечислены, но и чтобы их порядок менялся после каждого клика и при этом в каждом проекте был свой.

Это в полной мере подошло бы ценностям Гитлаба типа "больше дел, меньше анализа" и пр.

О дивный мир UX-дизайна!

#programming