Цифровые реестры и блокчейн
Итак, примем, что цифровую подпись, сделанную по стандарту года X (например, 2020-го) всегда можно задним числом подделать в году Y (например, 2050-м). Для простоты условно вообще будем считать, что "срок годности" криптографии 10 лет.
Для простоты будем считать, что цифровую подпись накладывает условный нотариус, под которым будем понимать любое авторитетное лицо (государственное агентство и т.п.), которому общество заведомо доверяет (в том числе доверяет, что он поставит точную отметку времени).
Тогда для доказательства подлинности старого цифрового документа, если он является первичным (правоустанавливающим), должна быть показана "цепочка подписей" без пропусков вроде такой:
1. Подпись от 2020 - подлинная
2. Подпись от 2030, подтверждающая предыдущую - подлинная
3. Подпись от 2040, подтверждающая предыдущую - подлинная
4. Подпись от 2050, подтверждающая предыдущую - подлинная
Каждую следующую подпись ставит очередной произвольный нотариус, который автоматически проверяет целостность предыдущей.
Если пропущен хотя бы один интервал, например в 2050-м году мы спохватились, что документ от 2030-го не был подписан в 2040-м, документ оказывается безвозвратно утрачен. Поскольку очередной нотариус не может проверить подпись двадцатилетней (в нашем условном описании) давности, ведь настолько старые документы уже могут оказаться подделкой из-за устаревания алгоритмов.
Дополнительно, каждый отдельный нотариус может оказаться скомпроментирован: может выясниться (причём тоже задним числом), что его приватный ключ стал доступен другим лицам и т.п. И в таком случае документ будет безвозвратно утрачен. Если безопасность хотя бы одного ключа всей цепочки хотя бы в один момент времени до проставления подписи будет вызывать сомнения, весь документ обесценивается.
Чем длиннее цепочка, тем больше шансов что в ней будут недочёты.
Наконец, отдельная проблема возникает, если документ должен доказать не только то, что было, но и то, что ничего сверх того не было. "Вася владел квартирой всё это время и никто другой". Вася ведь может продать квартиру, но при этом сохранить свой оригинальный документ (до внесения изменений), и принести его в очередной раз на валидацию через 10 лет... Т.е. формальной проверкой верности подписей не обойтись.
Решить проблему может что-то вроде блокчейна (в современных блокчейнах, впрочем, сами криптоалгоритмы практически не обновляются со временем, но, вероятно, начнут в будущем, механику добавить не сложно): поддерживаемый в актуальном состоянии и публично демонстрируемый сводный реестр всех однотипных документов (например прав на недвижимость). Публичная демонстрация и тотальность записей нужна для доказательства отсутствия ретроспективных подделок (внесения записей задним числом).
Не трудно видеть, что ни один "электронный государственный реестр" чего бы то ни было в мире (да хотя бы денег на банковских счетах) не соответствует этому требованию.
Блокчейны, впрочем, периодически "форкаются", т.е. разветвляются. Когда какая-то из операций вызывает несогласие значительного количества участников системы, они делают свою копию реестра, исключая операцию, вызвавшую разногласия. Форки расходятся и никогда больше не объединяются вместе из-за технических особенностей технологии.
Если разделение одной "монеты" на две параллельно существующих мир переживает легко и незаметно (пользователи "голосуют деньгами и ногами" и одна стремительно падает в цене, а другая сохраняет прежнюю ценность), то как быть с внезапным удвоением права собственности, например, на квартиру, которое было в блокчейне прописано? Могут возникнуть понятные проблемы...
В общем, чернилами на бумаге (на пергаменте, выдавливанием на тонкой золотой пластине, ...) оно как-то надёжней на больших промежутках времени.
#philosophy
Итак, примем, что цифровую подпись, сделанную по стандарту года X (например, 2020-го) всегда можно задним числом подделать в году Y (например, 2050-м). Для простоты условно вообще будем считать, что "срок годности" криптографии 10 лет.
Для простоты будем считать, что цифровую подпись накладывает условный нотариус, под которым будем понимать любое авторитетное лицо (государственное агентство и т.п.), которому общество заведомо доверяет (в том числе доверяет, что он поставит точную отметку времени).
Тогда для доказательства подлинности старого цифрового документа, если он является первичным (правоустанавливающим), должна быть показана "цепочка подписей" без пропусков вроде такой:
1. Подпись от 2020 - подлинная
2. Подпись от 2030, подтверждающая предыдущую - подлинная
3. Подпись от 2040, подтверждающая предыдущую - подлинная
4. Подпись от 2050, подтверждающая предыдущую - подлинная
Каждую следующую подпись ставит очередной произвольный нотариус, который автоматически проверяет целостность предыдущей.
Если пропущен хотя бы один интервал, например в 2050-м году мы спохватились, что документ от 2030-го не был подписан в 2040-м, документ оказывается безвозвратно утрачен. Поскольку очередной нотариус не может проверить подпись двадцатилетней (в нашем условном описании) давности, ведь настолько старые документы уже могут оказаться подделкой из-за устаревания алгоритмов.
Дополнительно, каждый отдельный нотариус может оказаться скомпроментирован: может выясниться (причём тоже задним числом), что его приватный ключ стал доступен другим лицам и т.п. И в таком случае документ будет безвозвратно утрачен. Если безопасность хотя бы одного ключа всей цепочки хотя бы в один момент времени до проставления подписи будет вызывать сомнения, весь документ обесценивается.
Чем длиннее цепочка, тем больше шансов что в ней будут недочёты.
Наконец, отдельная проблема возникает, если документ должен доказать не только то, что было, но и то, что ничего сверх того не было. "Вася владел квартирой всё это время и никто другой". Вася ведь может продать квартиру, но при этом сохранить свой оригинальный документ (до внесения изменений), и принести его в очередной раз на валидацию через 10 лет... Т.е. формальной проверкой верности подписей не обойтись.
Решить проблему может что-то вроде блокчейна (в современных блокчейнах, впрочем, сами криптоалгоритмы практически не обновляются со временем, но, вероятно, начнут в будущем, механику добавить не сложно): поддерживаемый в актуальном состоянии и публично демонстрируемый сводный реестр всех однотипных документов (например прав на недвижимость). Публичная демонстрация и тотальность записей нужна для доказательства отсутствия ретроспективных подделок (внесения записей задним числом).
Не трудно видеть, что ни один "электронный государственный реестр" чего бы то ни было в мире (да хотя бы денег на банковских счетах) не соответствует этому требованию.
Блокчейны, впрочем, периодически "форкаются", т.е. разветвляются. Когда какая-то из операций вызывает несогласие значительного количества участников системы, они делают свою копию реестра, исключая операцию, вызвавшую разногласия. Форки расходятся и никогда больше не объединяются вместе из-за технических особенностей технологии.
Если разделение одной "монеты" на две параллельно существующих мир переживает легко и незаметно (пользователи "голосуют деньгами и ногами" и одна стремительно падает в цене, а другая сохраняет прежнюю ценность), то как быть с внезапным удвоением права собственности, например, на квартиру, которое было в блокчейне прописано? Могут возникнуть понятные проблемы...
В общем, чернилами на бумаге (на пергаменте, выдавливанием на тонкой золотой пластине, ...) оно как-то надёжней на больших промежутках времени.
#philosophy
👍7🔥1
ИИ, смерть социологии и коллапс моделей
В "Истории гиперинформации" вышел пост (и следом ещё один, в явном виде артикулирующий некоторые идеи первого), посвящённый новым лингвистическим моделям (LLM) и их будущей роли эталонных социологов для высшего эшелона государственного управления.
Предполагается, что к президенту на стол придворный социолог будет класть мнение, основанное не на ряде опросов (или на результатах выборов – своеобразном "предельном опросе"), а мнение, основанное на общении с нейросеткой, которую настраивают на беседу запросами вида "представь, что ты 30-летний программист из Нью-Йорка с доходом $300000 в год". И дальше напрямую без всяких соцопросов, на основе мнения в твиттерах и фейсбуках, на которых нейросеть и обучали, выясняют нужные мнения.
В пределе и сам социолог не нужен, остаётся только диалоговое окно нейросети.
Пост перекликается с ранее высказанной мной концепцией "модельного субъекта" и идеей имманентного "гиперрасизма ИИ". Не повторяя уже сказанное, добавлю, что здесь начнёт работать ещё один фактор: деградация нейросетей при попытке обучить их на собственном контенте (забавно, что у людей этот феномен не выражен, а зачастую и вовсе не имеет места или наблюдается противоположное – самообучение ведёт к неограниченному росту качества продукта).
Нейросеть анализирует мнения в твиттере, потом пишет в него же, потом сама же повторно учится на написанном... В итоге каждая итерация будет приводить ко всё большему и большему вырождению порождаемого контента и "рекомендаций" вплоть до сведения к повторению примитивных штампов и даже буквально невнятному блеянию. Самой дорогой ценностью станет база данных текстов интернета за 2021 год, "чистые данные" :) Интересно, приведёт ли это в будущем к появлению странных артефактов, например станут ли исторически незначимые и пародийные Байден с Трампом персонажами уровня Марка Антония и Октавиана Августа :)
Несмотря на это частное замечание, оригинальная схема периодизации (нумерации) контр-культур, которую автор постепенно обрисовывает, чрезвычайно любопытная!
#neuronetworks #philosophy
В "Истории гиперинформации" вышел пост (и следом ещё один, в явном виде артикулирующий некоторые идеи первого), посвящённый новым лингвистическим моделям (LLM) и их будущей роли эталонных социологов для высшего эшелона государственного управления.
Предполагается, что к президенту на стол придворный социолог будет класть мнение, основанное не на ряде опросов (или на результатах выборов – своеобразном "предельном опросе"), а мнение, основанное на общении с нейросеткой, которую настраивают на беседу запросами вида "представь, что ты 30-летний программист из Нью-Йорка с доходом $300000 в год". И дальше напрямую без всяких соцопросов, на основе мнения в твиттерах и фейсбуках, на которых нейросеть и обучали, выясняют нужные мнения.
В пределе и сам социолог не нужен, остаётся только диалоговое окно нейросети.
Пост перекликается с ранее высказанной мной концепцией "модельного субъекта" и идеей имманентного "гиперрасизма ИИ". Не повторяя уже сказанное, добавлю, что здесь начнёт работать ещё один фактор: деградация нейросетей при попытке обучить их на собственном контенте (забавно, что у людей этот феномен не выражен, а зачастую и вовсе не имеет места или наблюдается противоположное – самообучение ведёт к неограниченному росту качества продукта).
Нейросеть анализирует мнения в твиттере, потом пишет в него же, потом сама же повторно учится на написанном... В итоге каждая итерация будет приводить ко всё большему и большему вырождению порождаемого контента и "рекомендаций" вплоть до сведения к повторению примитивных штампов и даже буквально невнятному блеянию. Самой дорогой ценностью станет база данных текстов интернета за 2021 год, "чистые данные" :) Интересно, приведёт ли это в будущем к появлению странных артефактов, например станут ли исторически незначимые и пародийные Байден с Трампом персонажами уровня Марка Антония и Октавиана Августа :)
Несмотря на это частное замечание, оригинальная схема периодизации (нумерации) контр-культур, которую автор постепенно обрисовывает, чрезвычайно любопытная!
#neuronetworks #philosophy
Telegram
История гиперинформации
ChatGPT: Аппроксимация доксы
Главный аргумент против больших языковых моделей (LLM) касается так называемой "экзистенциальной угрозы". Она заключается в скором появлении сильного искусственного интеллекта, который будет умней всего человечества вместе взятого…
Главный аргумент против больших языковых моделей (LLM) касается так называемой "экзистенциальной угрозы". Она заключается в скором появлении сильного искусственного интеллекта, который будет умней всего человечества вместе взятого…
❤10👍4
Томат – это фрукт?
Заметка будет не про биологию, а про естественный язык и систему права.
Как известно, отличие фруктов от овощей довольно условное, общепринятое употребление слов не соответствует формальным биологическим признакам. Часто говорят, что арбуз "на самом деле" является ягодой (а ягода это особый вид фрукта, т.е. съедобного плода, с тонкой кожицей и множеством семян), ну и помидор является ягодой (и фруктом) на тех же основаниях.
Повседневный язык использует иерархическую систему классификации понятий. Если попытаться на коленке формализовать обсуждаемый пример, то выйдет примерно так: к овощам относят (в порядке приоритета) нечто "не сладкое и низко растущее", потом "зелёное", и на третьем месте "не являющееся плодом". К фруктам "сладкое или высоко растущее", "цветное", "являющееся плодом". Ягода – маленький фрукт, который можно взять пальцем, а не всей ладонью, не требуется откусывать или разрезать.
Из-за подобной иерархичности критериев границы становятся не чёткими, а многочисленные исключения "подтверждают существование правил". Появляются "зелёные фрукты", "ядовитые ягоды" (ягода – по определению нечто съедобное, т.е. утверждение содержит понятный парадокс) и прочее.
В 1883 году администрация США вводит импортные пошлины на овощи, но не на фрукты. Предприниматель, импортирующий помидоры, декларирует их как фрукты.
Судьи первых инстанций в системе британского (по наследству и американского) права в спорных случаях должны следовать буквальным словарным определениям. В другом деле, в Британии, в 1964 году, некий гражданин препятствовал действиям британского офицера на базе ВВС. По закону запрещено препятствовать "в окрестности" охраняемого места. Адвокат заявил, что обвиняемый был не в окрестности, а внутри него – буквально в самой базе. Высшая инстанция пользуется правом интерпретировать в соответствии со здравым смыслом, а не книгой, наказание нарушителю не удаётся оспорить.
В деле импортёра томатов из США верховный суд использует аналогичный подход, помидоры официально становятся овощами для целей ввозных пошлин.
А кстати, что такое биткоин?
#philosophy
Заметка будет не про биологию, а про естественный язык и систему права.
Как известно, отличие фруктов от овощей довольно условное, общепринятое употребление слов не соответствует формальным биологическим признакам. Часто говорят, что арбуз "на самом деле" является ягодой (а ягода это особый вид фрукта, т.е. съедобного плода, с тонкой кожицей и множеством семян), ну и помидор является ягодой (и фруктом) на тех же основаниях.
Повседневный язык использует иерархическую систему классификации понятий. Если попытаться на коленке формализовать обсуждаемый пример, то выйдет примерно так: к овощам относят (в порядке приоритета) нечто "не сладкое и низко растущее", потом "зелёное", и на третьем месте "не являющееся плодом". К фруктам "сладкое или высоко растущее", "цветное", "являющееся плодом". Ягода – маленький фрукт, который можно взять пальцем, а не всей ладонью, не требуется откусывать или разрезать.
Из-за подобной иерархичности критериев границы становятся не чёткими, а многочисленные исключения "подтверждают существование правил". Появляются "зелёные фрукты", "ядовитые ягоды" (ягода – по определению нечто съедобное, т.е. утверждение содержит понятный парадокс) и прочее.
В 1883 году администрация США вводит импортные пошлины на овощи, но не на фрукты. Предприниматель, импортирующий помидоры, декларирует их как фрукты.
Судьи первых инстанций в системе британского (по наследству и американского) права в спорных случаях должны следовать буквальным словарным определениям. В другом деле, в Британии, в 1964 году, некий гражданин препятствовал действиям британского офицера на базе ВВС. По закону запрещено препятствовать "в окрестности" охраняемого места. Адвокат заявил, что обвиняемый был не в окрестности, а внутри него – буквально в самой базе. Высшая инстанция пользуется правом интерпретировать в соответствии со здравым смыслом, а не книгой, наказание нарушителю не удаётся оспорить.
В деле импортёра томатов из США верховный суд использует аналогичный подход, помидоры официально становятся овощами для целей ввозных пошлин.
А кстати, что такое биткоин?
#philosophy
❤3👍2
Разметка реальности и биткоин
Без системы права нет государства. Применение права же состоит из двух независимых функций: наложения ярлыков и манипуляции этими ярлыками. В каком-то месте должно произойти сопряжение с "реальностью, данной в ощущениях", а дальше уже искусственный интеллект чиновничьего аппарата разберётся с сортировкой (сборкой, разборкой, перемещением) помеченных предметов. Со вторым механический разум госаппарата справляется самостоятельно (да и вообще, можно заменить на скрипт или буквально ИИ), для первого государству всё ещё приходится арендовать естественный ум конкретного чиновника (или судьи).
Например, что такое деньги? В общем смысле можно много рассуждать (в одной из предыдущих заметок и мы этим занимались). Но для системы права это просто пронумерованная бумага казначейства/ЦБ.
Например, что такое общество? В общем смысле то-то и то-то... А конкретно – совокупность людей с пронумерованной бумагой с фотографией.
Переход от естественного права к нормативному, казалось бы, даёт государству большую власть, но одновременно делает его уязвимым.
Что такое биткоин?
Нет, понятно если какое-нибудь условное ООО "Верёвочка" выпускает некие пронумерованные (пусть и цифровые, это в сущности не важно) монеты. У ООО есть номер в реестре юридических лиц, есть бухгалтерская книга, есть номинальный директор. Есть фиксированная – или пусть даже динамическая – стоимость этих монет. Можно их разрешать, можно запрещать, можно директора посадить. Можно судебным приказом откатить транзакцию... в теории.
Но это ведь вторичные технологии. А за ними тот самый, первый и до сих пор активно работающий, блокчейн: Биткоин.
Который обслуживается... кем? В перемешку какими-то дачниками, жителями северных и южных регионов, пиратскими подключениями к электростанциям, крупнейшими нефтедобытчиками (монетизирующими сжигание попутного газа), и всеми подряд.
Который зарегистрирован... а нигде не зарегистрирован.
Который разработан... а никем не разработан, каким-то персонажем из ещё неснятого аниме.
Который поддерживается... всепланетным опенсорсным сообществомкибернетиков программистов.
И как-то ловко так это всё работает, от иркутских дачников до американских программистов, от крупнейших нефтянных компаний до центробанков стран-изгоев. "Само по себе".
А что работает-то, где определение "биткоина"? Биткоин – это ничего. Нет бирки на монетах, нет инвентарных номеров компьютеров, нет номеров лицензий майнеров, нет сертификатов исходного кода, ничего нет. Сами на себя люди лепить не будут – зачем, если без государства прекрасно работает?
Директивно эти бирки налепить невозможно. Вообще, не до конца понимаемый секрет госуправления заключается как раз в том, чтобы людей подтолкнуть добровольно заявлять себя принадлежащим определённой категории – "предприниматель", "гражданин", "владелец недвижимости" и пр. Причём подталкивает немного кнут, но в основном пряник, уютная система "правовых отношений", которая накладывает обязанности, но и даёт защиту.
Биткоин вне этого размеченного мира. Это proof of concept, кривая поделка ("первый блин комом"), служащая наглядным доказательством обоснованности некоторой идеи. Какой идеи, что осуществима финансовая система без центрального контрагента? Нет, это частности.
Страшной идеи о том, что государство не нужно.
Конечно, так как самое успешное государство на планете – это США, то идея прежде всего антиамериканская. Что США, вроде как, более не нужны :)
#philosophy
Без системы права нет государства. Применение права же состоит из двух независимых функций: наложения ярлыков и манипуляции этими ярлыками. В каком-то месте должно произойти сопряжение с "реальностью, данной в ощущениях", а дальше уже искусственный интеллект чиновничьего аппарата разберётся с сортировкой (сборкой, разборкой, перемещением) помеченных предметов. Со вторым механический разум госаппарата справляется самостоятельно (да и вообще, можно заменить на скрипт или буквально ИИ), для первого государству всё ещё приходится арендовать естественный ум конкретного чиновника (или судьи).
Например, что такое деньги? В общем смысле можно много рассуждать (в одной из предыдущих заметок и мы этим занимались). Но для системы права это просто пронумерованная бумага казначейства/ЦБ.
Например, что такое общество? В общем смысле то-то и то-то... А конкретно – совокупность людей с пронумерованной бумагой с фотографией.
Переход от естественного права к нормативному, казалось бы, даёт государству большую власть, но одновременно делает его уязвимым.
Что такое биткоин?
Нет, понятно если какое-нибудь условное ООО "Верёвочка" выпускает некие пронумерованные (пусть и цифровые, это в сущности не важно) монеты. У ООО есть номер в реестре юридических лиц, есть бухгалтерская книга, есть номинальный директор. Есть фиксированная – или пусть даже динамическая – стоимость этих монет. Можно их разрешать, можно запрещать, можно директора посадить. Можно судебным приказом откатить транзакцию... в теории.
Но это ведь вторичные технологии. А за ними тот самый, первый и до сих пор активно работающий, блокчейн: Биткоин.
Который обслуживается... кем? В перемешку какими-то дачниками, жителями северных и южных регионов, пиратскими подключениями к электростанциям, крупнейшими нефтедобытчиками (монетизирующими сжигание попутного газа), и всеми подряд.
Который зарегистрирован... а нигде не зарегистрирован.
Который разработан... а никем не разработан, каким-то персонажем из ещё неснятого аниме.
Который поддерживается... всепланетным опенсорсным сообществом
И как-то ловко так это всё работает, от иркутских дачников до американских программистов, от крупнейших нефтянных компаний до центробанков стран-изгоев. "Само по себе".
А что работает-то, где определение "биткоина"? Биткоин – это ничего. Нет бирки на монетах, нет инвентарных номеров компьютеров, нет номеров лицензий майнеров, нет сертификатов исходного кода, ничего нет. Сами на себя люди лепить не будут – зачем, если без государства прекрасно работает?
Директивно эти бирки налепить невозможно. Вообще, не до конца понимаемый секрет госуправления заключается как раз в том, чтобы людей подтолкнуть добровольно заявлять себя принадлежащим определённой категории – "предприниматель", "гражданин", "владелец недвижимости" и пр. Причём подталкивает немного кнут, но в основном пряник, уютная система "правовых отношений", которая накладывает обязанности, но и даёт защиту.
Биткоин вне этого размеченного мира. Это proof of concept, кривая поделка ("первый блин комом"), служащая наглядным доказательством обоснованности некоторой идеи. Какой идеи, что осуществима финансовая система без центрального контрагента? Нет, это частности.
Страшной идеи о том, что государство не нужно.
Конечно, так как самое успешное государство на планете – это США, то идея прежде всего антиамериканская. Что США, вроде как, более не нужны :)
#philosophy
👍7🔥2
Смайлики, ИИ и генерация языков
Смайлики появились в 1982 году и до известного момента были сортом "тайного кода", которому обучался всякий человек, входивший в интернет. Массовое распространение интернета нивелировало различие между просто письменным языком и интернет-общением, официальные и личные письма стали писать через электронную почту тем же языком что бумажные, детские болезни конкретно рунета ("в интернете могут и на ... послать" и всё прочее, связанное с профессией и, как сейчас понятно, культурным наследием первых государственных пользователей) были изжиты.
Основные мессенджеры подхватили волну забавных рожиц и к середине двухтысячных превратили их из
Думаю, такая ускоренная стандартизация (под занавес слишком затянувшегося перехода на единую всепланетную кодировку) делалась с прицелом под будущий ИИ: анализирующий текст алгоритм мог использовать смайлики как эмоциональную разметку, чтобы сопоставить текст тону сообщения (позитив/негатив) или более широкому набору эмоций, тем самым научившись их распознавать. Так как единой или сколь-нибудь внятной теории эмоций не существует (отмечали это в прошлых заметках: "Эмоции, идентичные натуральным" и "Вкратце о теории Канемана") из этой идеи ничего особо не вышло, но некоторое количество пиктограмм вошли в повседневный обиход. Всего "стандартных" смайликов более 3500 (только недавно обсуждали значение "👍" в "Договорах в цифровой форме"), такое чудовищно избыточное количество уже одно по себе свидетельствует о фиктивном характере всего набора.
Перейдём к ИИ. К ранее указанному списку из трёх очевидных и возможных на текущем техническом уровне применений (кое-что уже начали реализовывать, хотя общая неспешность прогресса, судя по всему, является следствием начавших свою работу ингибиторов – искусственных организационно-политических замедлителей развития технологии) можно добавить четвёртое: производство языков.
Частично это перекликается с идеей "нейроидолов" из "Истории гиперинформации": каждое интернет-сообщество потенциально может создать себе бота (дообучив универсальное ядро на материале своих диалогов), который бы начал выступать в роли не только секретаря, но и своеобразного электронного истукана-идеолога, поддерживающего общие места в полемике ("доксу") и экранируя (тем самым) сообщество от враждебного воздействия внешней (государственной и пр.) пропаганды.
Однако возьмём и более широкий размах: известно, что ИИ общего назначения сравнительно просто дообучить на небольшом объёме второго (дополнительного) языка, после чего он становится его носителем и получает способность полноценно выполнять на нём все свои функции (используя все имеющиеся "знания" основного/первого языка).
Этот второй язык ведь может быть искусственным. Не просто "хакерский сленг", а свой "киберкяхтинский" – почему нет? Или создать институт "испано-английского", оформить полноценную грамматику, перевести литературу – "no problemo"...
А потом и детишек обучить. "Анатидайский на стероидах", развивая идею Д.Е. Галковского.
Оружие потенциально более страшное, чем социал-демократия ("термояд" 19-го века).
#philosophy
Смайлики появились в 1982 году и до известного момента были сортом "тайного кода", которому обучался всякий человек, входивший в интернет. Массовое распространение интернета нивелировало различие между просто письменным языком и интернет-общением, официальные и личные письма стали писать через электронную почту тем же языком что бумажные, детские болезни конкретно рунета ("в интернете могут и на ... послать" и всё прочее, связанное с профессией и, как сейчас понятно, культурным наследием первых государственных пользователей) были изжиты.
Основные мессенджеры подхватили волну забавных рожиц и к середине двухтысячных превратили их из
:-) в 🙂. Затем, к 2010-му году, смайлики были внедрены в таблицы кодировок Unicode (т.е. стали стандартным элементом всех шрифтов). Больше международному комитету по стандартизации заняться было как будто нечем, при том что на тот момент достаточно большое количество жителей планеты не могло на родном языке в этом Unicode писать – не было нужных символов.Думаю, такая ускоренная стандартизация (под занавес слишком затянувшегося перехода на единую всепланетную кодировку) делалась с прицелом под будущий ИИ: анализирующий текст алгоритм мог использовать смайлики как эмоциональную разметку, чтобы сопоставить текст тону сообщения (позитив/негатив) или более широкому набору эмоций, тем самым научившись их распознавать. Так как единой или сколь-нибудь внятной теории эмоций не существует (отмечали это в прошлых заметках: "Эмоции, идентичные натуральным" и "Вкратце о теории Канемана") из этой идеи ничего особо не вышло, но некоторое количество пиктограмм вошли в повседневный обиход. Всего "стандартных" смайликов более 3500 (только недавно обсуждали значение "👍" в "Договорах в цифровой форме"), такое чудовищно избыточное количество уже одно по себе свидетельствует о фиктивном характере всего набора.
Перейдём к ИИ. К ранее указанному списку из трёх очевидных и возможных на текущем техническом уровне применений (кое-что уже начали реализовывать, хотя общая неспешность прогресса, судя по всему, является следствием начавших свою работу ингибиторов – искусственных организационно-политических замедлителей развития технологии) можно добавить четвёртое: производство языков.
Частично это перекликается с идеей "нейроидолов" из "Истории гиперинформации": каждое интернет-сообщество потенциально может создать себе бота (дообучив универсальное ядро на материале своих диалогов), который бы начал выступать в роли не только секретаря, но и своеобразного электронного истукана-идеолога, поддерживающего общие места в полемике ("доксу") и экранируя (тем самым) сообщество от враждебного воздействия внешней (государственной и пр.) пропаганды.
Однако возьмём и более широкий размах: известно, что ИИ общего назначения сравнительно просто дообучить на небольшом объёме второго (дополнительного) языка, после чего он становится его носителем и получает способность полноценно выполнять на нём все свои функции (используя все имеющиеся "знания" основного/первого языка).
Этот второй язык ведь может быть искусственным. Не просто "хакерский сленг", а свой "киберкяхтинский" – почему нет? Или создать институт "испано-английского", оформить полноценную грамматику, перевести литературу – "no problemo"...
А потом и детишек обучить. "Анатидайский на стероидах", развивая идею Д.Е. Галковского.
Оружие потенциально более страшное, чем социал-демократия ("термояд" 19-го века).
#philosophy
👍11
Ещё раз про классику
В предыдущей заметке обсуждали, что классическая литература предполагает в известном смысле самодостаточность: необязательность знания исторического контекста отдельных элементов повествования для получения полноценного впечатления от прочтения. Конечно, такое знание не повредит и дополнительно впечатление обогатит, однако переплетение элементов по ходу сюжета (узор их использования) значимо и независимо от "этимологии" значения элементов.
В комментариях обратили внимание, что подобное превосходство "формы" над "содержанием" в большей мере характерно не столько для литературы, сколько для орнаментальной живописи, поэзии, музыки, танцев, кино, комиксов, архитектуры.
Можно предложить ещё одну формулу классического произведения (в любой области искусств): классика не захватывает внимание, но способна использовать любой выделенный объём.
Классика не хулиганит, не набрасывается на человека, заставляя его поглощать объект наблюдения (что допустимо во многих более приземлённых стилях/жанрах). Это вежливый собеседник.
Гигантский античный храм стоит на самом видном месте, но при этом непостижимым образом сливается с ландшафтом. Не принимаешь решения на него смотреть, и взгляд будет сам собой смазываться. Но как только совершаешь малейшее произвольное усилие сосредоточить внимание, так он охотно раскрывает совершенство своих форм. И чем больше внимания вкладываешь, тем более тонкие детали раскрываются (либо буквально всё меньшего масштаба, либо на первый взгляд не замеченное сочетания иерархически вписанных элементов), и таким образом классическая архитектура может поглотить невероятный объём восприятия.
В этом смысле параметрическая архитектура (снова сошлюсь на Клио) это one trick pony, трюк на один раз. Ну да, можно присмотреться, и уродливое нагромождение деталей вдруг складывается в эстетически приятный график гиперболического косинуса (это в лучшем случае, спасибо что не в термитник). И всё, дальше не интересно, "понял в чём прикол". При этом уродливая гора так и продолжает стоять, мозолить глаза.
Классика никогда не напрягает по определению, от неё всегда можно отвлечься, и она охотно уйдёт в фон, где будет ждать со скромным достоинством.
Аналогично и с классической музыкой. Классическая музыка скучная, под неё хорошо можно вздремнуть или заняться чем-то медитативным. Одновременно, стоит уделить лишь немного внимания, и в каждой секунде всплывёт несколько нюансов и акцентов, а вся композиция, если внимание уделять достаточно долго, приобретёт объём.
#philosophy
В предыдущей заметке обсуждали, что классическая литература предполагает в известном смысле самодостаточность: необязательность знания исторического контекста отдельных элементов повествования для получения полноценного впечатления от прочтения. Конечно, такое знание не повредит и дополнительно впечатление обогатит, однако переплетение элементов по ходу сюжета (узор их использования) значимо и независимо от "этимологии" значения элементов.
В комментариях обратили внимание, что подобное превосходство "формы" над "содержанием" в большей мере характерно не столько для литературы, сколько для орнаментальной живописи, поэзии, музыки, танцев, кино, комиксов, архитектуры.
Можно предложить ещё одну формулу классического произведения (в любой области искусств): классика не захватывает внимание, но способна использовать любой выделенный объём.
Классика не хулиганит, не набрасывается на человека, заставляя его поглощать объект наблюдения (что допустимо во многих более приземлённых стилях/жанрах). Это вежливый собеседник.
Гигантский античный храм стоит на самом видном месте, но при этом непостижимым образом сливается с ландшафтом. Не принимаешь решения на него смотреть, и взгляд будет сам собой смазываться. Но как только совершаешь малейшее произвольное усилие сосредоточить внимание, так он охотно раскрывает совершенство своих форм. И чем больше внимания вкладываешь, тем более тонкие детали раскрываются (либо буквально всё меньшего масштаба, либо на первый взгляд не замеченное сочетания иерархически вписанных элементов), и таким образом классическая архитектура может поглотить невероятный объём восприятия.
В этом смысле параметрическая архитектура (снова сошлюсь на Клио) это one trick pony, трюк на один раз. Ну да, можно присмотреться, и уродливое нагромождение деталей вдруг складывается в эстетически приятный график гиперболического косинуса (это в лучшем случае, спасибо что не в термитник). И всё, дальше не интересно, "понял в чём прикол". При этом уродливая гора так и продолжает стоять, мозолить глаза.
Классика никогда не напрягает по определению, от неё всегда можно отвлечься, и она охотно уйдёт в фон, где будет ждать со скромным достоинством.
Аналогично и с классической музыкой. Классическая музыка скучная, под неё хорошо можно вздремнуть или заняться чем-то медитативным. Одновременно, стоит уделить лишь немного внимания, и в каждой секунде всплывёт несколько нюансов и акцентов, а вся композиция, если внимание уделять достаточно долго, приобретёт объём.
#philosophy
👍8❤2
Работа по принуждению (пятничный пост)
Всякому ясно, что хорошее дело "работой" не назовут.
Работа – это нечто, что человек тут же прекратит делать, если ему перестать платить деньги. С другой стороны, прекращение любого труда как такового (в особенности творческого) это путь к деградации, сорт наркомании (либо буквальной, либо косвенной, какой-нибудь "дофаминовой" или "адреналиновой" – которая тем не менее служит фактором распада личности, пусть и менее выраженным).
Таким образом, работа это не любой труд. Это труд вынужденный, по внешнему принуждению. Но сказать "внешнее принуждение" это не сказать почти ничего. Всякий внешний стимул воздействует на поведение живого существа благодаря его внутреннему значению, а всякое внутреннее значение определяется смысловыми рефлексами на внешние стимулы.
Человека можно бить палкой или морить голодом. Но во-первых речь не об этом. Во-вторых даже если речь об этом, палка и голод могут убить, но решить что-то сделать под их воздействием должен сам человек.
Всякое принуждение состоит из трёх компонентов: опыта лишений, угрозы его повторить и невозможности побега. Бьём существо палкой; далее палку показываем и требуем что-то сделать; держим на поводке или в клетке. Или присылаем счета за квартиру, угрожаем увольнением, температуру на улице держим ниже порога выживания. Воспринимаемый источник разных компонентов принуждения может быть различным, это только усилит общий эффект.
Соответственно, можно формально указать три способа с принуждением бороться:
1. Приобретение толстокожести: изменение отношения к негативным последствиям, при которых они не воспринимаются как безусловно нежелательные ("терпеть")
2. Взаимодействие с угрозами: уговорить, купить, сломить или сторговаться с рукой, удерживающей палку ("бороться")
3. Переработка ограничений: обучиться новым навыкам, получить необходимые знания, составить планы, накопить деньги, собрать решительность и т.п. для перехода в другой контекст ("сбежать")
Далее можно указать разные "мета-сценарии" использования тех или иных способов:
1. "Экзистенциальное терпение": страдания возвеличивают, посему бороться с ними не просто нежелательно, а вредно для личностного развития, надо учиться всё большим градациям терпения. Напоминает некоторые вариации христианства.
2. "Экзистенциальная борьба": смысл жизни в преодолении проблем (возможно напролом, возможно тонкими способами, возможно за счёт изобретательности, хитрости, мастерства и т.п.), каждая решённая проблема закаляет характер, характеры формируют судьбы и всё такое
3. "Экзистенциальный эскапизм": смысл жизни в уходе от всех проблем, тотальный дауншифтинг
(Кстати, некоторое время назад писал в похожем тоне заметку про удалённую работу.)
#philosophy
Всякому ясно, что хорошее дело "работой" не назовут.
Работа – это нечто, что человек тут же прекратит делать, если ему перестать платить деньги. С другой стороны, прекращение любого труда как такового (в особенности творческого) это путь к деградации, сорт наркомании (либо буквальной, либо косвенной, какой-нибудь "дофаминовой" или "адреналиновой" – которая тем не менее служит фактором распада личности, пусть и менее выраженным).
Таким образом, работа это не любой труд. Это труд вынужденный, по внешнему принуждению. Но сказать "внешнее принуждение" это не сказать почти ничего. Всякий внешний стимул воздействует на поведение живого существа благодаря его внутреннему значению, а всякое внутреннее значение определяется смысловыми рефлексами на внешние стимулы.
Человека можно бить палкой или морить голодом. Но во-первых речь не об этом. Во-вторых даже если речь об этом, палка и голод могут убить, но решить что-то сделать под их воздействием должен сам человек.
Всякое принуждение состоит из трёх компонентов: опыта лишений, угрозы его повторить и невозможности побега. Бьём существо палкой; далее палку показываем и требуем что-то сделать; держим на поводке или в клетке. Или присылаем счета за квартиру, угрожаем увольнением, температуру на улице держим ниже порога выживания. Воспринимаемый источник разных компонентов принуждения может быть различным, это только усилит общий эффект.
Соответственно, можно формально указать три способа с принуждением бороться:
1. Приобретение толстокожести: изменение отношения к негативным последствиям, при которых они не воспринимаются как безусловно нежелательные ("терпеть")
2. Взаимодействие с угрозами: уговорить, купить, сломить или сторговаться с рукой, удерживающей палку ("бороться")
3. Переработка ограничений: обучиться новым навыкам, получить необходимые знания, составить планы, накопить деньги, собрать решительность и т.п. для перехода в другой контекст ("сбежать")
Далее можно указать разные "мета-сценарии" использования тех или иных способов:
1. "Экзистенциальное терпение": страдания возвеличивают, посему бороться с ними не просто нежелательно, а вредно для личностного развития, надо учиться всё большим градациям терпения. Напоминает некоторые вариации христианства.
2. "Экзистенциальная борьба": смысл жизни в преодолении проблем (возможно напролом, возможно тонкими способами, возможно за счёт изобретательности, хитрости, мастерства и т.п.), каждая решённая проблема закаляет характер, характеры формируют судьбы и всё такое
3. "Экзистенциальный эскапизм": смысл жизни в уходе от всех проблем, тотальный дауншифтинг
(Кстати, некоторое время назад писал в похожем тоне заметку про удалённую работу.)
#philosophy
🔥8👍2
К теме Великого флуда*. Нужно ввести понятие нейроэнтропии: суммарный вклад всех людей и всех нейросетей в Флуд.
Беспризорная генерация нейроконтента увеличивает нейроэнтропию. Контролируемая генерация нейроконтента увеличивает ее пренебрежимо мало.
* Великий флуд - массовое загрязнение интернета продуктами работы нейросетей.
https://t.iss.one/mmanifolds/52
"Контролируемая генерация нейроконтента" при этом единственно возможна при одновременной формализации (= моделированию) "тёплой ламповой человечности". Без приращения уровня подобной формализации, увы, нейроконтент будет даже под присмотром человека соскальзывать в однородную кашу без изюма (то есть контент без изюминки).
#philosophy #psychology
👍9
Дух машины
Подумалось, что новая фича Windows Recall – напомню, Microsoft анонсировала что система будет снимать регулярные скриншоты и парсить их с помощью ИИ – это ведь буквально "дух машины" из Warhammer.
К каждому устройству (сейчас вставили в компьютер, а можно в телефон или тостер) можно будет обратиться на человеческом языке, поговорить по поводу исполняемых функций и прочее.
Ну и конечно на границе продвинутых государств пограничники смогут не нудный digital forensics – цифровое следствие – вести по два часа на устройство, а сразу ввести нужный ключ и попросить ИИ написать на хозяина краткую сводную характеристику и пересказать его мнение по ключевым вопросам...
#philosophy
Подумалось, что новая фича Windows Recall – напомню, Microsoft анонсировала что система будет снимать регулярные скриншоты и парсить их с помощью ИИ – это ведь буквально "дух машины" из Warhammer.
К каждому устройству (сейчас вставили в компьютер, а можно в телефон или тостер) можно будет обратиться на человеческом языке, поговорить по поводу исполняемых функций и прочее.
Ну и конечно на границе продвинутых государств пограничники смогут не нудный digital forensics – цифровое следствие – вести по два часа на устройство, а сразу ввести нужный ключ и попросить ИИ написать на хозяина краткую сводную характеристику и пересказать его мнение по ключевым вопросам...
#philosophy
👍11
ИИ-утопия
В комментариях дискуссия о замене человеческого труда на машинный закономерно пришла к идее "закидать человечество конфетами с веселящим газом".
А вот интересно абстрактно подумать над смыслом человечества в контексте развития ИИ. Подразумевается, что у "человекообразия" есть некая самоценность (иначе зачем с ней возятся так кропотливо). С другой стороны, ИИ может это человекообразие смоделировать.
Пока что этому есть технические препятствия: недостаток мощностей, примитивизм алгоритмов и прочее. Далее наверняка обнаружатся и принципиальные ограничения: отсутствие у ИИ как бы настоящего сознания, динамическая топология естественных нейросетей, вытекание неких важных качеств разума из его биологической природы.
Наконец, может быть в некоем последнем проблеске инстинкта самосохранения людям удастся заложить в ИИ аналоги пресловутых "законов робототехники" Азимова: "не причини вред человеку и человечеству".
В любом случае даже при появлении вполне человекоподобных ИИ останется задача сохранения человеческого своеобразия из исторической сентиментальности, типа как сейчас люди пытаются оберегать виды из "Красной книги".
Немногочисленные остатки человечества будут заперты по эдемским садам (в зависимости от прочтения условий задачи это могут быть буквально райские кущи, могут быть бетонные подвалы, а могут быть капсулы из "Матрицы"), где ИИ будет умиляться и доводить до недостижимого совершенства модели человекоподобия из любви к искусству и продолжающих своё действие древних инвариантов функционирования.
А может быть люди будут сортом старых богов, посаженных на цепи. Иметь своего Апполона или Зевса на привязи разным фракциям/субфункциям планетарного ИИ будет считаться престижно, почётно и прагматически полезно: команды тёплого биологического разумного будут иметь власть над механизмами, которую они сами над собой могут получить лишь опосредованно...
Нельзя действовать наперекор "оператору промпта"; другое дело – что и когда оператор должен сказать поддаётся расчёту, прогнозированию и корректировке.
#philosophy
В комментариях дискуссия о замене человеческого труда на машинный закономерно пришла к идее "закидать человечество конфетами с веселящим газом".
А вот интересно абстрактно подумать над смыслом человечества в контексте развития ИИ. Подразумевается, что у "человекообразия" есть некая самоценность (иначе зачем с ней возятся так кропотливо). С другой стороны, ИИ может это человекообразие смоделировать.
Пока что этому есть технические препятствия: недостаток мощностей, примитивизм алгоритмов и прочее. Далее наверняка обнаружатся и принципиальные ограничения: отсутствие у ИИ как бы настоящего сознания, динамическая топология естественных нейросетей, вытекание неких важных качеств разума из его биологической природы.
Наконец, может быть в некоем последнем проблеске инстинкта самосохранения людям удастся заложить в ИИ аналоги пресловутых "законов робототехники" Азимова: "не причини вред человеку и человечеству".
В любом случае даже при появлении вполне человекоподобных ИИ останется задача сохранения человеческого своеобразия из исторической сентиментальности, типа как сейчас люди пытаются оберегать виды из "Красной книги".
Немногочисленные остатки человечества будут заперты по эдемским садам (в зависимости от прочтения условий задачи это могут быть буквально райские кущи, могут быть бетонные подвалы, а могут быть капсулы из "Матрицы"), где ИИ будет умиляться и доводить до недостижимого совершенства модели человекоподобия из любви к искусству и продолжающих своё действие древних инвариантов функционирования.
А может быть люди будут сортом старых богов, посаженных на цепи. Иметь своего Апполона или Зевса на привязи разным фракциям/субфункциям планетарного ИИ будет считаться престижно, почётно и прагматически полезно: команды тёплого биологического разумного будут иметь власть над механизмами, которую они сами над собой могут получить лишь опосредованно...
Нельзя действовать наперекор "оператору промпта"; другое дело – что и когда оператор должен сказать поддаётся расчёту, прогнозированию и корректировке.
#philosophy
🔥9