Forwarded from Малоизвестное интересное
«Большой Брат — сын Большого Бога» приходит в наш мир
Пока я допишу свой лонгрид «Большой Брат — сын Большого Бога», этот «брат и сын» успеет легализоваться в половине стран мира.
C Китаем всё ясно. Там на полных парах строится тотальная идеальная е-тюрьма по-китайски.
В США народ дружно поддерживает тотальное распознавание лиц полицией. Лишь 20% считают, что здесь нужны какие-то ограничения. А раз так, то спецслужбы вовсю внедряют «Взгляд Горгоны». А простодушные жители Канзасщины при этом наивно радуются, полагая, что к ним, наконец, прилетела НЛО (см. там же).
В России, по-прежнему, народ и партия едины. Вчера все СМИ сообщили о построении в Москве 2й по величине после Китая системы видеонаблюдения с распознаванием (на самом деле, она будет третья; вторая – британская). Так что гасить протесты станет еще проще, когда можно будет с помощью распознавалки загасить каждого по отдельности через самый гуманный в мире из трех букв.
Последний оплот противостояния «брату и сыну» - старейшая в мире демократия Великобритании. Там полиция выиграла на днях дело в суде, получив тем самым законное разрешение использовать массовое распознавание лиц. Но! Во-первых, только в поисках тех, кто уже есть в полицейской базе подозреваемых. А лица всех остальных из просеиваемой толпы полиция обязана затирать в памяти их компов в течение 24 часов. Во-вторых, большинство британцев пока что за запрет бесконтрольного массового распознавания лиц полицией и, уж тем более, частными компаниями.
Молодцы, британцы! Но как ни прискорбно, их борьба не имеет шансов. «Брат и сын» в итоге победит. А европейская инициатива объявить ИИ для массового распознавания лиц технологией с запредельным риском, имхо, не имеет шансов.
А все потому, что он не просто Большой Брат. Он - сын Большого Бога, и его воцарение в мире неизбежно.
Детали этого объясню во 2й части заканчиваемого мною лонгрида.
Первая же часть здесь.
#БольшиеБоги #CCTV #БольшойБрат
Пока я допишу свой лонгрид «Большой Брат — сын Большого Бога», этот «брат и сын» успеет легализоваться в половине стран мира.
C Китаем всё ясно. Там на полных парах строится тотальная идеальная е-тюрьма по-китайски.
В США народ дружно поддерживает тотальное распознавание лиц полицией. Лишь 20% считают, что здесь нужны какие-то ограничения. А раз так, то спецслужбы вовсю внедряют «Взгляд Горгоны». А простодушные жители Канзасщины при этом наивно радуются, полагая, что к ним, наконец, прилетела НЛО (см. там же).
В России, по-прежнему, народ и партия едины. Вчера все СМИ сообщили о построении в Москве 2й по величине после Китая системы видеонаблюдения с распознаванием (на самом деле, она будет третья; вторая – британская). Так что гасить протесты станет еще проще, когда можно будет с помощью распознавалки загасить каждого по отдельности через самый гуманный в мире из трех букв.
Последний оплот противостояния «брату и сыну» - старейшая в мире демократия Великобритании. Там полиция выиграла на днях дело в суде, получив тем самым законное разрешение использовать массовое распознавание лиц. Но! Во-первых, только в поисках тех, кто уже есть в полицейской базе подозреваемых. А лица всех остальных из просеиваемой толпы полиция обязана затирать в памяти их компов в течение 24 часов. Во-вторых, большинство британцев пока что за запрет бесконтрольного массового распознавания лиц полицией и, уж тем более, частными компаниями.
Молодцы, британцы! Но как ни прискорбно, их борьба не имеет шансов. «Брат и сын» в итоге победит. А европейская инициатива объявить ИИ для массового распознавания лиц технологией с запредельным риском, имхо, не имеет шансов.
А все потому, что он не просто Большой Брат. Он - сын Большого Бога, и его воцарение в мире неизбежно.
Детали этого объясню во 2й части заканчиваемого мною лонгрида.
Первая же часть здесь.
#БольшиеБоги #CCTV #БольшойБрат
Forwarded from Малоизвестное интересное
Если сопоставить и проанализировать в совокупности аргументацию и выводы Бострома и Турчина, то напрашивается довольно страшный вывод.
• Создание Всемирного Большого Брата является неизбежным следствием перехода человечества в постиндустриальную информационную эру.
• Произошел «фазовый переход» в сложности мира.
• И поэтому Всемирный Большой Брат теперь столь же необходим для дальнейшего масштабирования кооперации и стабилизации обществ, как и несколько тысячелетий назад людям потребовались Большие Боги, без которых развитие цивилизации вплоть до нынешнего уровня было бы вряд ли возможным.
Представляю вам 2ю часть лонгрида на 19 мин чтения о том, почему и когда пришли Большие Боги:
- на Medium https://bit.ly/2mSjcoK
- на Яндекс Дзен https://clck.ru/JKH7Z
#БольшойБрат #БольшиеБоги
• Создание Всемирного Большого Брата является неизбежным следствием перехода человечества в постиндустриальную информационную эру.
• Произошел «фазовый переход» в сложности мира.
• И поэтому Всемирный Большой Брат теперь столь же необходим для дальнейшего масштабирования кооперации и стабилизации обществ, как и несколько тысячелетий назад людям потребовались Большие Боги, без которых развитие цивилизации вплоть до нынешнего уровня было бы вряд ли возможным.
Представляю вам 2ю часть лонгрида на 19 мин чтения о том, почему и когда пришли Большие Боги:
- на Medium https://bit.ly/2mSjcoK
- на Яндекс Дзен https://clck.ru/JKH7Z
#БольшойБрат #БольшиеБоги
Medium
Почему и когда пришли Большие Боги
Продолжение «Большой Брат — сын Большого Бога»
Forwarded from Малоизвестное интересное
ИИ выступил на стороне демонстрантов и видеоблогеров.
Оказалось, что Большой Брат вовсе не всемогущ против де-идентификации и видео-невидимости.
Суд отказался запретить систему распознавания лиц в Москве. Но это, оказывается, преодолимо.
Студентов и журналистов обвиняют за их видео-обращения в сети. И это тоже теперь преодолевается.
Власти Китая, а за ними и других стран решили, что схватили Бога за бороду, получив в свои руки ИИ-технологии распознавания лиц. Теперь, мол, никто не уйдет от ответственности. Ни в сети, ни в реале.
Но они просчитались, просто забыв про историю меча и щита, снаряда и брони, болта с левой резьбой и крутой гайки. Ведь ИИ-технологии могут использовать обе соревнующиеся стороны. И вот результат.
✔️ Facebook Research разработал де-идентификатор лица на видео реального времени. Видеоблогер с помощью такого софта теперь может свободно вещать и его невозможно привлечь к ответственности. Элегантность решения в том, что в реальном времени происходит мизерная модификация существенных черт лица (глаз, носа, губ, бровей и рта). Исправленное видео для человека кажется почти тем же. Некоторые вообще не видят разницы – проверьте сами. Но распознавание подправленного лица с помощью ИИ делается невозможным.
Подробней: популярно, научно
✔️ Лаборатория MIT-IBM Watson AI и Северо-Восточный университет США разработали рисунок для футболки (рубашки, свитера и т.д.), делающий человека невидимым для камер наблюдения с вероятностью 79% и 63%, соответственно, для цифрового и реального мира. И это лишь 1я версия. Вероятность превращения в невидимку собираются довести до 97%.
Подробней: популярно, научно
Подобрать «броню» для защиты от «снарядов» новых технологий де-идентификации и видео-невидимости невозможно. Разнообразие модификаций «типов снарядов» настолько обширно, что практически не реально отгадать все возможные комбинации и научить систему защищаться.
Таким образом, на ИИ-болт с левой резьбой уже нашлась крутая ИИ-гайка. Счет становится 1:1. А триумф Большого Брата на какое-то время откладывается.
#БольшойБрат
Оказалось, что Большой Брат вовсе не всемогущ против де-идентификации и видео-невидимости.
Суд отказался запретить систему распознавания лиц в Москве. Но это, оказывается, преодолимо.
Студентов и журналистов обвиняют за их видео-обращения в сети. И это тоже теперь преодолевается.
Власти Китая, а за ними и других стран решили, что схватили Бога за бороду, получив в свои руки ИИ-технологии распознавания лиц. Теперь, мол, никто не уйдет от ответственности. Ни в сети, ни в реале.
Но они просчитались, просто забыв про историю меча и щита, снаряда и брони, болта с левой резьбой и крутой гайки. Ведь ИИ-технологии могут использовать обе соревнующиеся стороны. И вот результат.
✔️ Facebook Research разработал де-идентификатор лица на видео реального времени. Видеоблогер с помощью такого софта теперь может свободно вещать и его невозможно привлечь к ответственности. Элегантность решения в том, что в реальном времени происходит мизерная модификация существенных черт лица (глаз, носа, губ, бровей и рта). Исправленное видео для человека кажется почти тем же. Некоторые вообще не видят разницы – проверьте сами. Но распознавание подправленного лица с помощью ИИ делается невозможным.
Подробней: популярно, научно
✔️ Лаборатория MIT-IBM Watson AI и Северо-Восточный университет США разработали рисунок для футболки (рубашки, свитера и т.д.), делающий человека невидимым для камер наблюдения с вероятностью 79% и 63%, соответственно, для цифрового и реального мира. И это лишь 1я версия. Вероятность превращения в невидимку собираются довести до 97%.
Подробней: популярно, научно
Подобрать «броню» для защиты от «снарядов» новых технологий де-идентификации и видео-невидимости невозможно. Разнообразие модификаций «типов снарядов» настолько обширно, что практически не реально отгадать все возможные комбинации и научить систему защищаться.
Таким образом, на ИИ-болт с левой резьбой уже нашлась крутая ИИ-гайка. Счет становится 1:1. А триумф Большого Брата на какое-то время откладывается.
#БольшойБрат
YouTube
Live Face De-Identification in Video
The full paper can be found at:
https://research.fb.com/publications/live-face-de-identification-in-video
https://research.fb.com/publications/live-face-de-identification-in-video
Forwarded from Малоизвестное интересное
Подрывные технологии похоронят демократию.
Спасения из Силиконовой долины можно больше не ждать.
Новый отчет Исследовательского центра Пью – убедительное дополнение к моим неоднократным воззваниям на тему Большого брата – сына Большого Бога, которому суждено похоронить демократию земной цивилизации. Ведь одно дело стенания одиночки, - пусть это даже суперпопулярный Харари. И совсем другое – толково проведенный опрос почти 1000 человек (включая ученых, предпринимателей, разработчиков и исследователей), непосредственно причастных к разработке цифровых подрывных технологий (ЦПТ).
Более половины из них уверены, что ЦПТ нанесут ощутимый вред демократии в ближайшее десятилетие. Вот основные факторы наносимого вреда.
Эти технологии:
1) расширяют могущество и власть и без того могущественных и властных (торжество закона Матфея, о котором я неоднократно писал);
2) упрощают подминать управляемых (от слежки за телами до слежки за умами);
3) легко превращаются в оружие и средства насилия (вплоть до интеллектуального изнасилования с особым цинизмом и жестокостью);
4) плодят цифровую неграмотность и способствуют краху журналистики, лавинообразно расширяющих на Земле численность тупеющих незнаек (про эпидемию «интеллектуальной слепоты» я также уже не раз писал).
Все 4 фактора – совсем не новость для тех, кто задумывался над тем, как ЦПТ влияют на общество.
Но помимо этой констатирующей части, подкрепленной словами сотен знающих дело экспертов, в отчете Пью есть еще 3 ценных находки.
А. Обобщающий вывод о причинах неизбежной интеллектуальной деградации, вследствие цунами, порождаемого гремучей смесью консьюмеризма с тотальной цифровизацией бизнеса и «ментальным вшиванием» в нас смартфонов и прочих смарт-гаджетов. Результатом этого становится торжество «технологического решианизма» (Technological Solutionism – термин Евгения Морозова) – интеллектуальной патологии, заставляющей нас принимать во внимание только те проблемы, для которых мы в состоянии найти хорошие и чистые решения. Именно «технологический решианизм» позволил разработчиком ИИ-систем легко свернуть с трудного изначального пути познания человеком самого себя на путь создания «прибыльных машин»: от умных колонок до самоуправляемых авто.
Б. Отчет Пью, чуть ли не впервые, публично огласил столь нелицеприятную для Силиконовой долины правду – её «техновершители» столкнулись с кризисом среднего возраста. Компании, которые они создали, также демонстрируют признаки вступления в экзистенциальный кризис. Несмотря на бурные демократические идеалы, которые привели их молодое я к совершенству, «техновершители» погрязли в корпоративизме, распродали свои идеалы или поменяли их на переход к вершинам власти, вместо того, чтобы разрушать ее.
В. Некоторые цепляются за идею, что в конечном итоге общество просто преодолеет проблемы цивилизации, порожденные ЦПТ. Пол Саффо, например, считает, что «существует долгая история новых медиаформ, которые создают первоначальный хаос при внедрении, а затем ассимилируются в обществе в качестве позитивной силы… Именно это произошло с печатью в начале 1500-х годов и с газетами более века назад. Новые технологии похожи на диких животных - культурам нужно приручить их».
Но как считает большинство опрошенных экспертов, даже если «текущий хаос» в конце концов уступит «более солнечным цифровым временам», грядущее десятилетие будет веселеньким. И демократии мало не покажется не только в Китае, но и в США, а также и в Европе.
Это будет десятилетие торжества Большого Брата – сына Большого Бога.
Не верите?
Так прочтите отчет.
А кому лень – хоть его резюме.
#БольшойБрат #БольшиеБоги #Демократия
Спасения из Силиконовой долины можно больше не ждать.
Новый отчет Исследовательского центра Пью – убедительное дополнение к моим неоднократным воззваниям на тему Большого брата – сына Большого Бога, которому суждено похоронить демократию земной цивилизации. Ведь одно дело стенания одиночки, - пусть это даже суперпопулярный Харари. И совсем другое – толково проведенный опрос почти 1000 человек (включая ученых, предпринимателей, разработчиков и исследователей), непосредственно причастных к разработке цифровых подрывных технологий (ЦПТ).
Более половины из них уверены, что ЦПТ нанесут ощутимый вред демократии в ближайшее десятилетие. Вот основные факторы наносимого вреда.
Эти технологии:
1) расширяют могущество и власть и без того могущественных и властных (торжество закона Матфея, о котором я неоднократно писал);
2) упрощают подминать управляемых (от слежки за телами до слежки за умами);
3) легко превращаются в оружие и средства насилия (вплоть до интеллектуального изнасилования с особым цинизмом и жестокостью);
4) плодят цифровую неграмотность и способствуют краху журналистики, лавинообразно расширяющих на Земле численность тупеющих незнаек (про эпидемию «интеллектуальной слепоты» я также уже не раз писал).
Все 4 фактора – совсем не новость для тех, кто задумывался над тем, как ЦПТ влияют на общество.
Но помимо этой констатирующей части, подкрепленной словами сотен знающих дело экспертов, в отчете Пью есть еще 3 ценных находки.
А. Обобщающий вывод о причинах неизбежной интеллектуальной деградации, вследствие цунами, порождаемого гремучей смесью консьюмеризма с тотальной цифровизацией бизнеса и «ментальным вшиванием» в нас смартфонов и прочих смарт-гаджетов. Результатом этого становится торжество «технологического решианизма» (Technological Solutionism – термин Евгения Морозова) – интеллектуальной патологии, заставляющей нас принимать во внимание только те проблемы, для которых мы в состоянии найти хорошие и чистые решения. Именно «технологический решианизм» позволил разработчиком ИИ-систем легко свернуть с трудного изначального пути познания человеком самого себя на путь создания «прибыльных машин»: от умных колонок до самоуправляемых авто.
Б. Отчет Пью, чуть ли не впервые, публично огласил столь нелицеприятную для Силиконовой долины правду – её «техновершители» столкнулись с кризисом среднего возраста. Компании, которые они создали, также демонстрируют признаки вступления в экзистенциальный кризис. Несмотря на бурные демократические идеалы, которые привели их молодое я к совершенству, «техновершители» погрязли в корпоративизме, распродали свои идеалы или поменяли их на переход к вершинам власти, вместо того, чтобы разрушать ее.
В. Некоторые цепляются за идею, что в конечном итоге общество просто преодолеет проблемы цивилизации, порожденные ЦПТ. Пол Саффо, например, считает, что «существует долгая история новых медиаформ, которые создают первоначальный хаос при внедрении, а затем ассимилируются в обществе в качестве позитивной силы… Именно это произошло с печатью в начале 1500-х годов и с газетами более века назад. Новые технологии похожи на диких животных - культурам нужно приручить их».
Но как считает большинство опрошенных экспертов, даже если «текущий хаос» в конце концов уступит «более солнечным цифровым временам», грядущее десятилетие будет веселеньким. И демократии мало не покажется не только в Китае, но и в США, а также и в Европе.
Это будет десятилетие торжества Большого Брата – сына Большого Бога.
Не верите?
Так прочтите отчет.
А кому лень – хоть его резюме.
#БольшойБрат #БольшиеБоги #Демократия
Pew Research Center
Many Tech Experts Say Digital Disruption Will Hurt Democracy
About half the experts we canvassed predict technology will weaken democracy by 2030, while a third expect technology to strengthen it.
Forwarded from Малоизвестное интересное
Приватность, как невинность – теряется лишь раз и невосстановима.
Место работы и зарплата, физический и е-адрес, номера телефонов и экаунты в сети, - все это со временем меняется. Лишь ваше лицо остается неизменным для программ распознавания, легко справляющихся с возрастными и стилистическими изменениями.
Поэтому в дивном новом цифро-сетевом мире ваша личность – это прежде всего лицо. А неприкосновенности частной жизни – это прежде всего неприкосновенность запечатлевших вас фото и видео.
Где вы были, с кем встречались и что делали месяц, год или десять лет назад, - обо всем этом расскажут изображения вашего лица, хранящиеся в сети.
И главный сюрприз не в том, что все это теперь легко ищется. А в том, что вы даже не подозреваете, насколько подробно ваше лицо представлено в сети, и из каких источников оно туда попало.
Например, вы щепетильно и серьезно относитесь к своим сетевым фото.
• Не выкладываете что попало в соцсети.
• Думаете, прежде чем послать фото по е-почте или мессенджеру.
• Регулярно вычищаете старые фото в соцсетях, по мере изменения жизненных обстоятельств
• И т.д.
Даже если вы это делаете (что сомнительно, поскольку этого не делают даже грушники), это вам не поможет.
Проблема в том, что вы просто не представляете, с каким монстром вы уже имеете дело. Какое количество разнообразных программ:
- автоматически просеивают и просеивают сеть, вынимая из нее миллиарды фото;
- архивируют и классифицируют их, производя облегчающую потом поиск разметку;
- выгружают за деньги куски этой базы тысячам покупателям (от полиции до бандитов);
- продают доступ ко всей базе тому же широкому спектру юр- и физ-лиц.
Чтобы узнать, сколько вашего лица в сети, недостаточно взломать базу данных Clearview AI, занимающейся разработкой систем распознавания лиц для правоохранительных органов США и Канады, как это произошло несколько дней назад.
Ну узнали, что компания уже поставляла свои данные более полумиллиона раз для 2900+ клиентов из 27 стран. И что? Может это все жуликов и бандитов ловят. А вы – белые и пушистые, и вас в этой базе нет. А если и есть, то лишь на паре десятков чинных и эстетичных фото.
Увы, это не так. И если вы живете в Калифорнии (где принят закон о конфиденциальности потребителей Калифорнии) или в Иллинойсе (где принят закон о конфиденциальности биометрической информации), у вас есть возможность:
- увидеть все ваши фото в 3-х миллиардной базе Clearview AI вместе с источниками, откуда эти фото взялись;
- потребовать удаления конкретных или всех ваших фото.
Эксперимент, только что проведенный Анной Мерлан дал поразительные результаты.
Ей и в кошмарном сне не могло присниться из каких помоек и какими поносными сервисами поставлялись ее фото в базу Clearview AI. А она то думала, что там лишь ее наидостойнейшие и наискромнейшие фотки из Instagram, Twitter и Facebook.
Она сильно ошибалась. И все мы тоже.
Ибо без моратория на слежку за лицом или, хотя бы законов, регламентирующих эту слежку, каждый из нас безвозвратно теряет право на неприкосновенность частной жизни, отдаваясь, во всех смыслах, в руки Большого брата – сына Большого бога.
#БольшойБрат #БольшиеБоги #ЦифровойАвторитаризм
Место работы и зарплата, физический и е-адрес, номера телефонов и экаунты в сети, - все это со временем меняется. Лишь ваше лицо остается неизменным для программ распознавания, легко справляющихся с возрастными и стилистическими изменениями.
Поэтому в дивном новом цифро-сетевом мире ваша личность – это прежде всего лицо. А неприкосновенности частной жизни – это прежде всего неприкосновенность запечатлевших вас фото и видео.
Где вы были, с кем встречались и что делали месяц, год или десять лет назад, - обо всем этом расскажут изображения вашего лица, хранящиеся в сети.
И главный сюрприз не в том, что все это теперь легко ищется. А в том, что вы даже не подозреваете, насколько подробно ваше лицо представлено в сети, и из каких источников оно туда попало.
Например, вы щепетильно и серьезно относитесь к своим сетевым фото.
• Не выкладываете что попало в соцсети.
• Думаете, прежде чем послать фото по е-почте или мессенджеру.
• Регулярно вычищаете старые фото в соцсетях, по мере изменения жизненных обстоятельств
• И т.д.
Даже если вы это делаете (что сомнительно, поскольку этого не делают даже грушники), это вам не поможет.
Проблема в том, что вы просто не представляете, с каким монстром вы уже имеете дело. Какое количество разнообразных программ:
- автоматически просеивают и просеивают сеть, вынимая из нее миллиарды фото;
- архивируют и классифицируют их, производя облегчающую потом поиск разметку;
- выгружают за деньги куски этой базы тысячам покупателям (от полиции до бандитов);
- продают доступ ко всей базе тому же широкому спектру юр- и физ-лиц.
Чтобы узнать, сколько вашего лица в сети, недостаточно взломать базу данных Clearview AI, занимающейся разработкой систем распознавания лиц для правоохранительных органов США и Канады, как это произошло несколько дней назад.
Ну узнали, что компания уже поставляла свои данные более полумиллиона раз для 2900+ клиентов из 27 стран. И что? Может это все жуликов и бандитов ловят. А вы – белые и пушистые, и вас в этой базе нет. А если и есть, то лишь на паре десятков чинных и эстетичных фото.
Увы, это не так. И если вы живете в Калифорнии (где принят закон о конфиденциальности потребителей Калифорнии) или в Иллинойсе (где принят закон о конфиденциальности биометрической информации), у вас есть возможность:
- увидеть все ваши фото в 3-х миллиардной базе Clearview AI вместе с источниками, откуда эти фото взялись;
- потребовать удаления конкретных или всех ваших фото.
Эксперимент, только что проведенный Анной Мерлан дал поразительные результаты.
Ей и в кошмарном сне не могло присниться из каких помоек и какими поносными сервисами поставлялись ее фото в базу Clearview AI. А она то думала, что там лишь ее наидостойнейшие и наискромнейшие фотки из Instagram, Twitter и Facebook.
Она сильно ошибалась. И все мы тоже.
Ибо без моратория на слежку за лицом или, хотя бы законов, регламентирующих эту слежку, каждый из нас безвозвратно теряет право на неприкосновенность частной жизни, отдаваясь, во всех смыслах, в руки Большого брата – сына Большого бога.
#БольшойБрат #БольшиеБоги #ЦифровойАвторитаризм
Forwarded from Малоизвестное интересное
Мир после коронавируса откажется от приватности в пользу здоровья.
В 2017 мало кто верил таким пророчествам Харари. А сейчас?
Харари в интервью CNN предупреждает, что важнейшим последствием коронавируса станет всемирный поворот к цифровому тоталитаризму на основе глобальной слежки.
Пройдя через эту эпидемию, человечество смирится с отказом от приватности в пользу здоровья, за которое придется платить тотальной 24/7 биометрической слежкой местоположения, температуры тела и т.д.
Еще 3 года назад в интервью Лео Уайту Харари предупреждал.
«Большая битва грядущего столетия будет происходить между приватностью и здоровьем. И здоровье победит. Большинство людей будут готовы отказаться от своей частной жизни в обмен на гораздо лучшее медицинское обслуживание, основанное на 24-часовом мониторинге того, что происходит внутри их тела.
Очень скоро люди будут ходить с биометрическими датчиками на теле или даже внутри него и позволят Facebook, правительству Китая или кому бы то ни было постоянно следить за тем, что происходит в их телах…
В день, когда начинается эпидемия гриппа, они сразу узнают, кто ее переносит, и смогут предпринять очень эффективные, быстрые и дешевые действия для ее предотвращения.»
То интервью Харари было озаглавлено «Человеческая история "закончится, когда люди станут богами"».
Моя трактовка подобного сценария иная. Люди не станут богами. Но власть над ними перейдет к Большому брату – сыну Большого бога.
#БольшойБрат #БольшиеБоги #ЦифровойАвторитаризм
В 2017 мало кто верил таким пророчествам Харари. А сейчас?
Харари в интервью CNN предупреждает, что важнейшим последствием коронавируса станет всемирный поворот к цифровому тоталитаризму на основе глобальной слежки.
Пройдя через эту эпидемию, человечество смирится с отказом от приватности в пользу здоровья, за которое придется платить тотальной 24/7 биометрической слежкой местоположения, температуры тела и т.д.
Еще 3 года назад в интервью Лео Уайту Харари предупреждал.
«Большая битва грядущего столетия будет происходить между приватностью и здоровьем. И здоровье победит. Большинство людей будут готовы отказаться от своей частной жизни в обмен на гораздо лучшее медицинское обслуживание, основанное на 24-часовом мониторинге того, что происходит внутри их тела.
Очень скоро люди будут ходить с биометрическими датчиками на теле или даже внутри него и позволят Facebook, правительству Китая или кому бы то ни было постоянно следить за тем, что происходит в их телах…
В день, когда начинается эпидемия гриппа, они сразу узнают, кто ее переносит, и смогут предпринять очень эффективные, быстрые и дешевые действия для ее предотвращения.»
То интервью Харари было озаглавлено «Человеческая история "закончится, когда люди станут богами"».
Моя трактовка подобного сценария иная. Люди не станут богами. Но власть над ними перейдет к Большому брату – сыну Большого бога.
#БольшойБрат #БольшиеБоги #ЦифровойАвторитаризм
CNN
Yuval Harari: This is the worst epidemic in ‘at least 100 years’ | CNN
The bestselling author of “Sapiens”, Yuval Noah Harari tells Christiane Amanpour that the coronavirus is the worst global health threat we have faced in at least a century.
Forwarded from Малоизвестное интересное
«Большой Брат—2» уже наблюдает
Пару недель назад я написал пост про «Большого Брата—2», который еще не всеведущ, но знает о вас куда больше, чем вы думаете. Он умеет автоматически распознавать, что люди делают: стаканчик в космонавта бросают, урну или заточенную копьём арматуру. И не только это, но и вообще что угодно: закурил не там, где можно, или пописал в неположенном месте, — да мало ли что еще.
Эту систему (пока что лабораторную) сделали кудесники из Amazon Go, тем самым доказав, что ИИ в состоянии решить проблему автоматизированного поиска «потенциальных правонарушителей».
Но Китай не был бы Китаем, если бы ответка американцам не прилетела мгновенно. И какая ответка! «Большой Брат—2» в Китае работает уже не в лабах, а в промышленной эксплуатации.
Пятеро молодых ребят из шанхайского НИИ сделали по заказу крупного девелопера систему социального контроля поведения в лифтах в реальном времени. Система автоматически выявляет (сама!) любую «ненормальную активность» в лифтах, - т.е. если люди делают что-то не то, что обычно делается в лифтах. Это может быть что угодно: торговля наркотиками, проституция, сексуальное домогательство, хулиганство … Или что-то не столь очевидное, но подозрительное – например, слишком много человек проживает на каком-то этаже (прямо мечта Собянина).
В настоящее время система развернута и обкатывается вживую на 100 000 лифтов. Заказчик не нарадуется. Система стучит на жителей весьма креативно. Например, настучала, что служба общественного питания работает из квартиры (что запрещено).
Это значит, что теперь возможна автоматическая идентификации любого, кто отклоняется от какой-либо нормы. И это очень перспективно для авторитарных режимов.
На приложенной картинке интерфейс инспектора, наблюдающего за работой системы.
#БольшойБрат #Китай
Пару недель назад я написал пост про «Большого Брата—2», который еще не всеведущ, но знает о вас куда больше, чем вы думаете. Он умеет автоматически распознавать, что люди делают: стаканчик в космонавта бросают, урну или заточенную копьём арматуру. И не только это, но и вообще что угодно: закурил не там, где можно, или пописал в неположенном месте, — да мало ли что еще.
Эту систему (пока что лабораторную) сделали кудесники из Amazon Go, тем самым доказав, что ИИ в состоянии решить проблему автоматизированного поиска «потенциальных правонарушителей».
Но Китай не был бы Китаем, если бы ответка американцам не прилетела мгновенно. И какая ответка! «Большой Брат—2» в Китае работает уже не в лабах, а в промышленной эксплуатации.
Пятеро молодых ребят из шанхайского НИИ сделали по заказу крупного девелопера систему социального контроля поведения в лифтах в реальном времени. Система автоматически выявляет (сама!) любую «ненормальную активность» в лифтах, - т.е. если люди делают что-то не то, что обычно делается в лифтах. Это может быть что угодно: торговля наркотиками, проституция, сексуальное домогательство, хулиганство … Или что-то не столь очевидное, но подозрительное – например, слишком много человек проживает на каком-то этаже (прямо мечта Собянина).
В настоящее время система развернута и обкатывается вживую на 100 000 лифтов. Заказчик не нарадуется. Система стучит на жителей весьма креативно. Например, настучала, что служба общественного питания работает из квартиры (что запрещено).
Это значит, что теперь возможна автоматическая идентификации любого, кто отклоняется от какой-либо нормы. И это очень перспективно для авторитарных режимов.
На приложенной картинке интерфейс инспектора, наблюдающего за работой системы.
#БольшойБрат #Китай
Forwarded from Малоизвестное интересное
Сколько стоит конфиденциальность и приватность, от которых мы отказываемся в пользу техно-ништяков?
Мало стоит 😣
Впрочем, так было всегда, - мода, функциональность и удобство новых технологий всегда ценились людьми выше, чем негативные последствия от их использования. Телефон куда проще прослушать, чем ваш очный разговор со знакомым. Электронную почту легче и эффективней перлюстрировать, чем бумажные письма. Но многие ли отказываются от телефона и е-почты, желая оградить свою приватность и сохранить конфиденциальность?
Самое неприятное, что тренд на тотальное уничтожение приватности и конфиденциальности частной жизни основан не только на интересах двух «Больших братьев» - спецслужб и ИКТ-мегакорпораций. Вторым и не менее важным фактором является слабость человеческой натуры. Для большинства ценность новых техно-ништяков куда выше стоимости потери личной конфиденциальности и приватности. Тем более, что большинство просто не представляют той изощренной легкости, с который хакается их личная жизнь.
Вот новый характерный пример – камеры домашней безопасности.
Миллионы людей устанавливают их у себя дома для наблюдения за тем, что там происходит в их отсуствие. Кто для контроля детей, кто, полагая таким образом отпугнуть грабителей. Но вот ведь незадача.
Новый отчет, озаглавленный «Your Privilege Gives Your Privacy Away: An Analysis of a Home Security Camera Service», как ушат холодной воды на голову тех, кто полагает будто камеры домашней безопасности увеличивают их безопасность.
Оказывается, что наличие в доме таких камер существенно повышает безопасность грабителей, т.к. позволяет им легко отслеживать, когда в доме никого нет.
Причем грабителям даже не нужно заморачиваться с просмотром гигобайтов видео. Им достаточно лишь взглянуть на объем передаваемого видео, который ощутимо увеличивается, если камера зафиксировала в доме движение. То есть грабители могут полностью автоматизировать мониторинг присутствия людей в домах и квартирах всех потенциальных жертв лишь по объемам исходящего видеопотока.
Как пишут авторы отчета, не все грабители столь технопродвинуты. Но вряд ли кто сомневается, что универсальные программы мониторинга квартир на основе видеопотоков домашних камер уже разрабатываются профессиональными программистами по всему миру.
И как вам это? Откáжитесь теперь от камер домашней безопасности?
Сомнительно. Ибо просто так этот рынок с объемом, приближающимся к $1,5 млрд, его интересанты не сольют в унитаз. Тем более, что за брендами - лидерами рынка Xiaomi и Nest, - просматривается интерес Google. А кто сможет противостоять рекламным возможностям «бури и натиска» Google?
Тем не менее, CNN давеча обратилась к Xiaomi и Nest за объяснениями.
#БольшойБрат
Мало стоит 😣
Впрочем, так было всегда, - мода, функциональность и удобство новых технологий всегда ценились людьми выше, чем негативные последствия от их использования. Телефон куда проще прослушать, чем ваш очный разговор со знакомым. Электронную почту легче и эффективней перлюстрировать, чем бумажные письма. Но многие ли отказываются от телефона и е-почты, желая оградить свою приватность и сохранить конфиденциальность?
Самое неприятное, что тренд на тотальное уничтожение приватности и конфиденциальности частной жизни основан не только на интересах двух «Больших братьев» - спецслужб и ИКТ-мегакорпораций. Вторым и не менее важным фактором является слабость человеческой натуры. Для большинства ценность новых техно-ништяков куда выше стоимости потери личной конфиденциальности и приватности. Тем более, что большинство просто не представляют той изощренной легкости, с который хакается их личная жизнь.
Вот новый характерный пример – камеры домашней безопасности.
Миллионы людей устанавливают их у себя дома для наблюдения за тем, что там происходит в их отсуствие. Кто для контроля детей, кто, полагая таким образом отпугнуть грабителей. Но вот ведь незадача.
Новый отчет, озаглавленный «Your Privilege Gives Your Privacy Away: An Analysis of a Home Security Camera Service», как ушат холодной воды на голову тех, кто полагает будто камеры домашней безопасности увеличивают их безопасность.
Оказывается, что наличие в доме таких камер существенно повышает безопасность грабителей, т.к. позволяет им легко отслеживать, когда в доме никого нет.
Причем грабителям даже не нужно заморачиваться с просмотром гигобайтов видео. Им достаточно лишь взглянуть на объем передаваемого видео, который ощутимо увеличивается, если камера зафиксировала в доме движение. То есть грабители могут полностью автоматизировать мониторинг присутствия людей в домах и квартирах всех потенциальных жертв лишь по объемам исходящего видеопотока.
Как пишут авторы отчета, не все грабители столь технопродвинуты. Но вряд ли кто сомневается, что универсальные программы мониторинга квартир на основе видеопотоков домашних камер уже разрабатываются профессиональными программистами по всему миру.
И как вам это? Откáжитесь теперь от камер домашней безопасности?
Сомнительно. Ибо просто так этот рынок с объемом, приближающимся к $1,5 млрд, его интересанты не сольют в унитаз. Тем более, что за брендами - лидерами рынка Xiaomi и Nest, - просматривается интерес Google. А кто сможет противостоять рекламным возможностям «бури и натиска» Google?
Тем не менее, CNN давеча обратилась к Xiaomi и Nest за объяснениями.
#БольшойБрат
От всевидящего ока к всезнающему богу.
Дроны учат ИИ понимать наши действия.
Даже самые крутые из современных систем распознавания лиц, поз и жестов – просто детские игрушки по сравнению с системами слежки ближайшего будущего. Новое поколение таких систем будет всевидящим оком, скрыться от которого будет не просто.
Более того.
Такие системы будут понимать, что мы делаем – гуляем, читаем, удим рыбу, играем на смартфоне, садимся в машину, открываем зонтик и т.д. и т.п. Они будут способны понимать (!) поступки людей и прогнозировать их ближайшие намерения, подобно всезнающему богу.
Все эти фантастические возможности ИИ получит, если обучать его с помощью данный, собираемых специально оснащенными дронами.
Ведь в чем сейчас заминка? Просто не хватает данных, чтобы научить ИИ понимать поведение человека. Откуда бы этим данным взяться? Не посадишь же тысячи волонтеров неделями, например, открывать и закрывать зонт, чтобы ИИ научился распознавать эти два примитивных действия.
Прорывная идея оказалась в том, что можно использовать дроны, которые будут наблюдать за людьми. Причем не просто смотреть на их действия, а видеть эти действия так, как люди просто не могут: меняя углы зрения, широкоугольным охватом объектива «рыбий глаз» (180+ градусов), ночным видением, RGB, в инфракрасном диапазоне и т.д.
Новейшая разработка – система «Дрон-Человек» (UAV-Human) позволяет собирать море данных о любых действиях людей, решая тем самым проблему наборов данных для обучения ИИ. Данные собираются в различных погодных условиях и в различных модальностях (диапазонах), включая съемку в специальных режимах, когда дрон спускается, движется и вращается или зависает на месте.
И вполне может статься, что очень скоро проблем застреленных полицией по ошибке парней станет куда меньше. Ибо убивать будут уже не они. Всевидящее с неба око за миллисекунды распознает не только остроту инцидента с полицией, но и что за штуку потянул из кармана парень с не самым незапятнанным прошлым. Ну а всезнающий бог еще за несколько миллисекунд вынесет приговор и приведет его в исполнение.
На приложенной картинке реальные примеры видео действий в наборе данных «Дрон-Человек». Первая строка показывает различные модальности данных. Второй и третий ряды показывают две видеопоследовательности значительных движений камеры и вариаций вида, вызванных непрерывно меняющимися ориентациями полета, скоростями и высотами. Последние три строки отображают больше образцов действий этого набора данных, показывая различные виды, места захвата, погоду, масштабы и размытие движения.
arxiv.org
#БПЛА #БольшойБрат
_______
Источник: https://t.iss.one/theworldisnoteasy/1259
Дроны учат ИИ понимать наши действия.
Даже самые крутые из современных систем распознавания лиц, поз и жестов – просто детские игрушки по сравнению с системами слежки ближайшего будущего. Новое поколение таких систем будет всевидящим оком, скрыться от которого будет не просто.
Более того.
Такие системы будут понимать, что мы делаем – гуляем, читаем, удим рыбу, играем на смартфоне, садимся в машину, открываем зонтик и т.д. и т.п. Они будут способны понимать (!) поступки людей и прогнозировать их ближайшие намерения, подобно всезнающему богу.
Все эти фантастические возможности ИИ получит, если обучать его с помощью данный, собираемых специально оснащенными дронами.
Ведь в чем сейчас заминка? Просто не хватает данных, чтобы научить ИИ понимать поведение человека. Откуда бы этим данным взяться? Не посадишь же тысячи волонтеров неделями, например, открывать и закрывать зонт, чтобы ИИ научился распознавать эти два примитивных действия.
Прорывная идея оказалась в том, что можно использовать дроны, которые будут наблюдать за людьми. Причем не просто смотреть на их действия, а видеть эти действия так, как люди просто не могут: меняя углы зрения, широкоугольным охватом объектива «рыбий глаз» (180+ градусов), ночным видением, RGB, в инфракрасном диапазоне и т.д.
Новейшая разработка – система «Дрон-Человек» (UAV-Human) позволяет собирать море данных о любых действиях людей, решая тем самым проблему наборов данных для обучения ИИ. Данные собираются в различных погодных условиях и в различных модальностях (диапазонах), включая съемку в специальных режимах, когда дрон спускается, движется и вращается или зависает на месте.
И вполне может статься, что очень скоро проблем застреленных полицией по ошибке парней станет куда меньше. Ибо убивать будут уже не они. Всевидящее с неба око за миллисекунды распознает не только остроту инцидента с полицией, но и что за штуку потянул из кармана парень с не самым незапятнанным прошлым. Ну а всезнающий бог еще за несколько миллисекунд вынесет приговор и приведет его в исполнение.
На приложенной картинке реальные примеры видео действий в наборе данных «Дрон-Человек». Первая строка показывает различные модальности данных. Второй и третий ряды показывают две видеопоследовательности значительных движений камеры и вариаций вида, вызванных непрерывно меняющимися ориентациями полета, скоростями и высотами. Последние три строки отображают больше образцов действий этого набора данных, показывая различные виды, места захвата, погоду, масштабы и размытие движения.
arxiv.org
#БПЛА #БольшойБрат
_______
Источник: https://t.iss.one/theworldisnoteasy/1259
С 1 июня Сингапур станет мировым полигоном Большого брата.
И все в мире увидят, каким ему быть через несколько лет.
Споры о границах приватности и правах Большого брата в постковидном мире можно заканчивать. Через несколько лет во всех развитых странах будет так, как уже с 1 июня в Сингапуре:
• обязательное приложение на телефоне и/или специальный брелок, без которых закрыт вход во все людные места, за исключением маленьких магазинчиков и аптек;
• это приложение (или брелок) отслеживает и пишет в специальную базу данные о перемещениях человека и его «контактах» (всех людях, с кем человек был в пределах 2 метров не менее 30 мин – эти два параметра настраиваемые).
Собираемые данные считаются анонимными. Однако:
1. как только у кого-то появится положительный тест на COVID (скоро в Сингапуре это будет делаться прямо по дыханию), его данные перестают быть анонимными, и все люди, имевшие с ним «контакт», оповещаются об этом (ну и, понятное дело, «компетентные органы»).
2. также возможна передача собираемых данных и полиции, даже при отсутствии у человека положительного теста на COVID (подробней в расследовании Кирстена Хана).
Никто против такой системы особо не возражает, поскольку всех устраивает, что коронавируса в Сингапуре почти нет, и люди жертвуют приватностью, чтоб не болеть.
Общеизвестно, что в госинициативах добровольное легко становится обязательным, а временное - постоянным. Для этого даже не требуются политические решения на высоком уровне. Просто работают сила привычки, инерция и обычная осторожность.
А еще работает фактор «роста функциональности» - тенденции правительств и корпораций объединять отдельные IT системы, создавая тем самым нечто большее, чем функционал составных частей.
Никто ведь, например, не возмущается, что наши лица записываются и распознаются. А потом приходит полиция с наездом об участии в несанкционированной акции.
А сингапурская система еще круче. Совмещая данные о перемещениях с данными о контактах, она открывает такой ящик Пандоры, что о приватности уже можно будет забыть.
#Эпидемия #БольшойБрат
_______
Источник | #theworldisnoteasy
И все в мире увидят, каким ему быть через несколько лет.
Споры о границах приватности и правах Большого брата в постковидном мире можно заканчивать. Через несколько лет во всех развитых странах будет так, как уже с 1 июня в Сингапуре:
• обязательное приложение на телефоне и/или специальный брелок, без которых закрыт вход во все людные места, за исключением маленьких магазинчиков и аптек;
• это приложение (или брелок) отслеживает и пишет в специальную базу данные о перемещениях человека и его «контактах» (всех людях, с кем человек был в пределах 2 метров не менее 30 мин – эти два параметра настраиваемые).
Собираемые данные считаются анонимными. Однако:
1. как только у кого-то появится положительный тест на COVID (скоро в Сингапуре это будет делаться прямо по дыханию), его данные перестают быть анонимными, и все люди, имевшие с ним «контакт», оповещаются об этом (ну и, понятное дело, «компетентные органы»).
2. также возможна передача собираемых данных и полиции, даже при отсутствии у человека положительного теста на COVID (подробней в расследовании Кирстена Хана).
Никто против такой системы особо не возражает, поскольку всех устраивает, что коронавируса в Сингапуре почти нет, и люди жертвуют приватностью, чтоб не болеть.
Общеизвестно, что в госинициативах добровольное легко становится обязательным, а временное - постоянным. Для этого даже не требуются политические решения на высоком уровне. Просто работают сила привычки, инерция и обычная осторожность.
А еще работает фактор «роста функциональности» - тенденции правительств и корпораций объединять отдельные IT системы, создавая тем самым нечто большее, чем функционал составных частей.
Никто ведь, например, не возмущается, что наши лица записываются и распознаются. А потом приходит полиция с наездом об участии в несанкционированной акции.
А сингапурская система еще круче. Совмещая данные о перемещениях с данными о контактах, она открывает такой ящик Пандоры, что о приватности уже можно будет забыть.
#Эпидемия #БольшойБрат
_______
Источник | #theworldisnoteasy
AsiaOne
TraceTogether token or app required from June 1 at all malls, workplaces, schools
AsiaOne - SINGAPORE - From June 1, digital check-ins for contact tracing at places with higher footfall or where people are likely to be in close proximity can only be done using the TraceTogether app or token.These places include shopping malls,.... Read…
COVID-19 открыл дверь в «Мир Большого Брата».
Кейс китайских вкладчиков, чьи счета заморозили.
✔️ Один из ключевых трендов мирового развития – формирование на Земле «Мира Большого Брата»
✔️ Основные черты грядущего «Мира Большого Брата» можно уже сегодня видеть в Китае.
✔️ Если у мира есть шанс, пусть не избежать, но хотя бы хоть как-то ограничить всевластие Большого Брата, - то людям нужно внимательно наблюдать за происходящем в Китае, мотать на ус и пытаться протестовать против самых отвратительных последствий трансформации социальных, культурных и коммерческих практик в надзорный капитализм Большого Брата.
Вот свежий показательный кейс.
На прошлой неделе сотни вкладчиков китайских региональных банков провинции Хэнань, отправились в столицу Чжэнчжоу, чтобы потребовать доступ к своим счетам, замороженным из-за идущего расследования, связанного с коррупцией.
И вдруг сюрприз-сюрприз: т.н. «коды здоровья» (введенные для борьбы с пандемией приложения для смартфонов, выполняющие функцию типа электронного паспорта с информацией о статусе по Covid-19 и регламентирующие возможность посещения любых общественных мест) протестующих в одночасье стали красными.
Тем самым перед всеми протестующими зажегся красный свет при попытках войти в аэропорт, вокзал, отель, торговый центр и даже небольшое кафе в переулке (как это выглядело в мобильном приложении см. приложенную картинку с примером покрасневшего кода здоровья одного из протестующих вкладчиков).
Этот кейс наглядно показывает, как просто и незатейливо власти могут использовать коды здоровья для любых целей, никак не связанных с пандемией и направленных исключительно на контроль протестов.
В этой связи возникают три важных вопрос.
• Как люди могут защитить свои права, если им присвоен красный код здоровья, в случае подозрения на злоупотребление административными полномочиями?
• Кто несет ответственность за это злоупотребление красными кодами здоровья?
• Исчезнут ли коды здоровья после окончания пандемии?
Эксперты расходятся в ответах на эти вопросы. Мое резюме по прочтению ответов экспертов, такое.
– Считается, что в перспективе такие приложения, как код здоровья, должны будут использоваться лишь во время эпидемий. Однако, выносить решение, есть эпидемия или нет, будут власти, и ничто им не мешает превратить волны пандемий в перманентный процесс (тем более, что все и так к этому идет.
– Спросить с кого-либо за злоупотребление будет не менее трудно, чем спросить с автоматической камеры, выписавшей вам штраф (т.е. можно в теории, но на практике, увы, нет)
– Что же до отстаивания своих прав, то эта ситуация нам хорошо знакома: не нравится – обращайтесь в суд (а как решает суд – тоже известно).
Получается тупик. Единожды отдав свои права и свободу в силу форсмажорных обстоятельств, вернуть их обратно столь же проблематично, как вернуть себе невинность.
А раз так, - здравствуй прекрасный новый «Мир Большого Брата».
Большого Брата – сына Большого Бога. Всевидящего и всезнающего. Кары которого никто не избежит (даже если подаст на него в суд).
Ибо, при построении Рая сверху неизменно получается Ад
Подробней (спасибо Джеффри Дингу за перевод)
P.S. О Большом Брате — сыне Большого Бога (почему его воцарение в мире может быть неизбежным, а также почему и когда пришли Большие Боги) я уже писал в двух лонгридах:
• Лонгрид 1
• Лонгрид 2
#Китай #НадзорныйКапитализм #БольшойБрат #БольшиеБоги
_______
Источник | #theworldisnoteasy
Хочешь узнать больше? Подпишись на FSCP+
Кейс китайских вкладчиков, чьи счета заморозили.
✔️ Один из ключевых трендов мирового развития – формирование на Земле «Мира Большого Брата»
✔️ Основные черты грядущего «Мира Большого Брата» можно уже сегодня видеть в Китае.
✔️ Если у мира есть шанс, пусть не избежать, но хотя бы хоть как-то ограничить всевластие Большого Брата, - то людям нужно внимательно наблюдать за происходящем в Китае, мотать на ус и пытаться протестовать против самых отвратительных последствий трансформации социальных, культурных и коммерческих практик в надзорный капитализм Большого Брата.
Вот свежий показательный кейс.
На прошлой неделе сотни вкладчиков китайских региональных банков провинции Хэнань, отправились в столицу Чжэнчжоу, чтобы потребовать доступ к своим счетам, замороженным из-за идущего расследования, связанного с коррупцией.
И вдруг сюрприз-сюрприз: т.н. «коды здоровья» (введенные для борьбы с пандемией приложения для смартфонов, выполняющие функцию типа электронного паспорта с информацией о статусе по Covid-19 и регламентирующие возможность посещения любых общественных мест) протестующих в одночасье стали красными.
Тем самым перед всеми протестующими зажегся красный свет при попытках войти в аэропорт, вокзал, отель, торговый центр и даже небольшое кафе в переулке (как это выглядело в мобильном приложении см. приложенную картинку с примером покрасневшего кода здоровья одного из протестующих вкладчиков).
Этот кейс наглядно показывает, как просто и незатейливо власти могут использовать коды здоровья для любых целей, никак не связанных с пандемией и направленных исключительно на контроль протестов.
В этой связи возникают три важных вопрос.
• Как люди могут защитить свои права, если им присвоен красный код здоровья, в случае подозрения на злоупотребление административными полномочиями?
• Кто несет ответственность за это злоупотребление красными кодами здоровья?
• Исчезнут ли коды здоровья после окончания пандемии?
Эксперты расходятся в ответах на эти вопросы. Мое резюме по прочтению ответов экспертов, такое.
– Считается, что в перспективе такие приложения, как код здоровья, должны будут использоваться лишь во время эпидемий. Однако, выносить решение, есть эпидемия или нет, будут власти, и ничто им не мешает превратить волны пандемий в перманентный процесс (тем более, что все и так к этому идет.
– Спросить с кого-либо за злоупотребление будет не менее трудно, чем спросить с автоматической камеры, выписавшей вам штраф (т.е. можно в теории, но на практике, увы, нет)
– Что же до отстаивания своих прав, то эта ситуация нам хорошо знакома: не нравится – обращайтесь в суд (а как решает суд – тоже известно).
Получается тупик. Единожды отдав свои права и свободу в силу форсмажорных обстоятельств, вернуть их обратно столь же проблематично, как вернуть себе невинность.
А раз так, - здравствуй прекрасный новый «Мир Большого Брата».
Большого Брата – сына Большого Бога. Всевидящего и всезнающего. Кары которого никто не избежит (даже если подаст на него в суд).
Ибо, при построении Рая сверху неизменно получается Ад
Подробней (спасибо Джеффри Дингу за перевод)
P.S. О Большом Брате — сыне Большого Бога (почему его воцарение в мире может быть неизбежным, а также почему и когда пришли Большие Боги) я уже писал в двух лонгридах:
• Лонгрид 1
• Лонгрид 2
#Китай #НадзорныйКапитализм #БольшойБрат #БольшиеБоги
_______
Источник | #theworldisnoteasy
Хочешь узнать больше? Подпишись на FSCP+
Тотальное наблюдение приведет к бунтам.
Поразительные выводы исследования авторитарно-цифрового будущего мира на основе анализа опыта Китая.
Вопрос о том, что ждет общество в самом ближайшем будущем, когда технологии слежки могут стать тотальными даже в называющих себя демократическими странах, весьма актуален. Для понимания, куда это может привести мир, опыт Китая крайне важен и интересен. Ведь в деле слежки за своими гражданами Китай впереди планеты всей.
За последние 5 лет исследования в этой области расширялись. Но в основном, это было накопление данных о пилотных проектах по расширению слежки в рамках разнообразных китайских экспериментов с системой соцкредита.
В 2022 году от накопления данных и их анализа перешли к первым обобщающим выводам. Они были доложены на прошлой неделе в рамках мини-конференции «Propaganda and Surveillance: Maintaining Legitimacy and Compliance in China».
Например, вот такой весьма удивительный вывод, способный произвести фурор.
Тотальная слежка эффективно работает лишь до определенного предела.
• Пока он не достигнут, люди опасаются ведущейся за ними слежки и предпочитают следовать установленным государством правилам.
• При расширении слежки на другие аспекты жизни людей, что-то в головах людей переключается. И многие из тех, кто раньше был за слежку, становятся против.
• Более того. Люди проявляют нарастающее желание бунтовать против слежки (включая ту, против которой они раньше не возражали).
Подробней в этом исследовании.
В качестве примера, см. приложенные диаграммы от Chinadatalab
• На верхней показано, что китайцы весьма благосклонно относятся, например, к слежке за их поведением на транспорте и их участию в волонтерской деятельности. Однако, как только доходит, например, до отслеживания их смены работы, поддержка китайцев резко падает. И желание протестовать против подобной слежки проявляют до 20% населения.
• На нижней, - аналогичная смена поддержки на неприятие в вопросах наказания людей в системе соцкредита за разные типы «неправильного» поведения. Например, 80% поддерживают ограничения на занятие общественных должностей и путешествия. Но ограничения при поступлении детей в частные школы или «информирование домкома» о нелояльном поведении поддерживают менее половины китайцев.
Выводы исследования ставят под вопрос всесилие Большого брата и заставляют власти искать обходные пути, как заставить людей подчиняться и быть лояльными власти.
#Китай #БольшойБрат
_______
Источник | #theworldisnoteasy
Поразительные выводы исследования авторитарно-цифрового будущего мира на основе анализа опыта Китая.
Вопрос о том, что ждет общество в самом ближайшем будущем, когда технологии слежки могут стать тотальными даже в называющих себя демократическими странах, весьма актуален. Для понимания, куда это может привести мир, опыт Китая крайне важен и интересен. Ведь в деле слежки за своими гражданами Китай впереди планеты всей.
За последние 5 лет исследования в этой области расширялись. Но в основном, это было накопление данных о пилотных проектах по расширению слежки в рамках разнообразных китайских экспериментов с системой соцкредита.
В 2022 году от накопления данных и их анализа перешли к первым обобщающим выводам. Они были доложены на прошлой неделе в рамках мини-конференции «Propaganda and Surveillance: Maintaining Legitimacy and Compliance in China».
Например, вот такой весьма удивительный вывод, способный произвести фурор.
Тотальная слежка эффективно работает лишь до определенного предела.
• Пока он не достигнут, люди опасаются ведущейся за ними слежки и предпочитают следовать установленным государством правилам.
• При расширении слежки на другие аспекты жизни людей, что-то в головах людей переключается. И многие из тех, кто раньше был за слежку, становятся против.
• Более того. Люди проявляют нарастающее желание бунтовать против слежки (включая ту, против которой они раньше не возражали).
Подробней в этом исследовании.
В качестве примера, см. приложенные диаграммы от Chinadatalab
• На верхней показано, что китайцы весьма благосклонно относятся, например, к слежке за их поведением на транспорте и их участию в волонтерской деятельности. Однако, как только доходит, например, до отслеживания их смены работы, поддержка китайцев резко падает. И желание протестовать против подобной слежки проявляют до 20% населения.
• На нижней, - аналогичная смена поддержки на неприятие в вопросах наказания людей в системе соцкредита за разные типы «неправильного» поведения. Например, 80% поддерживают ограничения на занятие общественных должностей и путешествия. Но ограничения при поступлении детей в частные школы или «информирование домкома» о нелояльном поведении поддерживают менее половины китайцев.
Выводы исследования ставят под вопрос всесилие Большого брата и заставляют власти искать обходные пути, как заставить людей подчиняться и быть лояльными власти.
#Китай #БольшойБрат
_______
Источник | #theworldisnoteasy
США готовят внедрение Большого Брата – 3.0.
От физического контроля за телами не удастся ускользнуть никому.
• Множество старших по возрасту Больших Братьев 1.0 уже более 30 лет следят за разговорами и прочим обменом информацией между нами по разнообразным сетям связи.
• Появившиеся на свет в последнее десятилетие Большие Братья 2.0 крепко обосновались внутри «умных городов» - мегаполисов, осуществляя через тысячи камер визуальный контроль с распознаванием лиц всех, кого надо властям и спецслужбам.
• Но младший Большой Брат 3.0 (пока в единственном числе - в США) горазда сильней и могуче своих средних и старших братьев. Ибо он не только интегрирует в себя их информацию, но и идет существенно дальше, осуществляя физический контроль за телами.
Он интегрирует информацию о всех людях, поступающую из Интернета, Интернета вещей и всех систем умных городов в целях отслеживания массовых перемещений людей по всему миру и выявления всевозможных «аномалий» с помощью ИИ.
Проект называется «Программа определения скрытых сигналов активности и характеристик аномалий траектории» (HAYSTAC), и он «направлен на создание «нормальных» моделей движения населения во времени и в разных местах, а также на определение того, что делает активность нетипичной», — говорится в пресс- релизе.
Также в HAYSTAC планируется интегрировать несколько продвинутых систем «слежения за телами по их биометрическим функциям», типа системы от оборонного подрядчика Пентагона Assured Information Security (AIS) - контроль за людьми, работающими со всеми существующими типами компьютеров от настольных и ноутбуков до планшетов и смартфонов. Мониторингу подвергается широкий спектр модальностей («акселерометр и гироскоп, данные о нажатии клавиш, данные мыши, взаимодействие с сенсорным экраном и другую информацию») — говорится в сообщении фирмы.
Развертывание HAYSTAC будет проходить в течение следующих четырех лет. После чего проектанты планируют идентифицировать 80% любых аномальных физических активностей людей сначала в США, а потом и в остальном мире (детали см. здесь).
Как мир дошел до столь изощренного (если не сказать, извращенного) тотального наблюдения, в этом канале несколько десятков постов с тэгом
#БольшойБрат
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
От физического контроля за телами не удастся ускользнуть никому.
• Множество старших по возрасту Больших Братьев 1.0 уже более 30 лет следят за разговорами и прочим обменом информацией между нами по разнообразным сетям связи.
• Появившиеся на свет в последнее десятилетие Большие Братья 2.0 крепко обосновались внутри «умных городов» - мегаполисов, осуществляя через тысячи камер визуальный контроль с распознаванием лиц всех, кого надо властям и спецслужбам.
• Но младший Большой Брат 3.0 (пока в единственном числе - в США) горазда сильней и могуче своих средних и старших братьев. Ибо он не только интегрирует в себя их информацию, но и идет существенно дальше, осуществляя физический контроль за телами.
Он интегрирует информацию о всех людях, поступающую из Интернета, Интернета вещей и всех систем умных городов в целях отслеживания массовых перемещений людей по всему миру и выявления всевозможных «аномалий» с помощью ИИ.
Проект называется «Программа определения скрытых сигналов активности и характеристик аномалий траектории» (HAYSTAC), и он «направлен на создание «нормальных» моделей движения населения во времени и в разных местах, а также на определение того, что делает активность нетипичной», — говорится в пресс- релизе.
Также в HAYSTAC планируется интегрировать несколько продвинутых систем «слежения за телами по их биометрическим функциям», типа системы от оборонного подрядчика Пентагона Assured Information Security (AIS) - контроль за людьми, работающими со всеми существующими типами компьютеров от настольных и ноутбуков до планшетов и смартфонов. Мониторингу подвергается широкий спектр модальностей («акселерометр и гироскоп, данные о нажатии клавиш, данные мыши, взаимодействие с сенсорным экраном и другую информацию») — говорится в сообщении фирмы.
Развертывание HAYSTAC будет проходить в течение следующих четырех лет. После чего проектанты планируют идентифицировать 80% любых аномальных физических активностей людей сначала в США, а потом и в остальном мире (детали см. здесь).
Как мир дошел до столь изощренного (если не сказать, извращенного) тотального наблюдения, в этом канале несколько десятков постов с тэгом
#БольшойБрат
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
www.iarpa.gov
HAYSTAC
HAYSTAC aims to establish models of “normal” human movement across times, locations, and people in order to characterize what makes an activity detectable as anomalous within the expanding corpus of global human...
Система «фьючерсов на поведение людей» будет дополнена «фьючерсами на кибернасилие».
В сентябре Китай перейдет на новую модель общества.
7 июля Управление киберпространства Китая (CAC) запустило общественное обсуждение проекта «Положения об управлении информацией о кибернасилии».
В нем кибернасилие определяется, как распространение через интернет контента, содержащего незаконную и/или недобросовестную информацию, которая оскорбляет человека, фабрикует на него клевету, нарушает неприкосновенность частной жизни, серьезно влияет на физическое и/или психическое здоровье жертв, включая моральный ущерб, унижение и дискриминацию, а также злонамеренные спекуляции.
Основанные на столь широком определении понятия кибернасилие (тут полный салат из коня с рябчиком) три десятка статей нового Положения, по сути меняют морально-правовые основы общества в медиа-среде Интернета.
В отличие от обычной жизни в оффлайне, в онлайне станет возможным:
1. любому человеку объявить себя «жертвой кибернасилия», не утруждая себя доказательствами этого факта и требуя от владельцев интернет-платформ (соцсети, паблики, блоги и т.д.) расследовать кейс и наказать виновных;
2. а владельцам интернет платформ, в ответ на это, не заморачиваясь, просто закрывать экаунт обвиненного на основании «Положения об управлении информацией о кибернасилии».
Для реализации 1й возможности Положение предусматривает т.н. "защиту в один клик". Она позволяет считающим себя жертвами кибернасилия, закрывать личные сообщения и не нравящиеся комментарии о себе одним щелчком мыши.
Для реализации 2й возможности поставщики информационных услуг Интернета должны не просто «явиться на собственную казнь, но и принести с собой веревку»:
• разработать, мониторить и обновлять классификатор кибернасилия;
• получив «сигнал в один клик»:
- ограничить доступ к кибернасилующей информации;
- провести расследование и проверку факта кибернасилия;
- наказать виновного штрафом вплоть до отзыва экаунта;
• вести «черные списки» замеченных в кибернасилии и регулярно подавать отчеты наверх о его пресечении;
• а в качестве вишенки на торте - поставщикам информационных сетевых услуг предложено создать и усовершенствовать модель раннего предупреждения кибернасилия.
Последнее, по сути, расширяет существующую в «надзорном капитализме» систему «фьючерсов на поведение людей» (по определению Шошаны Зубофф) системой «фьючерсов на кибернасилие», на которых будут зарабатывать власть имущие (об этом я рассказывал еще 2 года назад). Ибо они, а не суд на основании закона, будут решать, кто «кибернасильник», а кто нет. И больше никакие законы не нужны ни о каких противоправных действиях. Ведь все они – теперь будут всего лишь разновидностями кибернасилия.
Общественное обсуждение «Положения об управлении информацией о кибернасилии» продлится до 6 августа, чтобы с 1 сентября ввести его в действие.
Однако поставщики информационных услуг Интернета решили не тянуть с разработкой модели раннего предупреждения кибернасилия. И первые платформы (напр. Zhihu) уже с 14 июля отключают все анонимные экаунты, ссылаясь на статью 14-ю еще даже не вступившего в силу Положения.
Так что, здравствуй прекрасный новый «Мир Большого Брата - сына Большого Бога». Всевидящего и всезнающего. Кары которого никто не избежит (и для этого даже не нужен суд).
Ибо, при построении Рая сверху неизменно получается Ад
#Китай #НадзорныйКапитализм #БольшойБрат
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
В сентябре Китай перейдет на новую модель общества.
7 июля Управление киберпространства Китая (CAC) запустило общественное обсуждение проекта «Положения об управлении информацией о кибернасилии».
В нем кибернасилие определяется, как распространение через интернет контента, содержащего незаконную и/или недобросовестную информацию, которая оскорбляет человека, фабрикует на него клевету, нарушает неприкосновенность частной жизни, серьезно влияет на физическое и/или психическое здоровье жертв, включая моральный ущерб, унижение и дискриминацию, а также злонамеренные спекуляции.
Основанные на столь широком определении понятия кибернасилие (тут полный салат из коня с рябчиком) три десятка статей нового Положения, по сути меняют морально-правовые основы общества в медиа-среде Интернета.
В отличие от обычной жизни в оффлайне, в онлайне станет возможным:
1. любому человеку объявить себя «жертвой кибернасилия», не утруждая себя доказательствами этого факта и требуя от владельцев интернет-платформ (соцсети, паблики, блоги и т.д.) расследовать кейс и наказать виновных;
2. а владельцам интернет платформ, в ответ на это, не заморачиваясь, просто закрывать экаунт обвиненного на основании «Положения об управлении информацией о кибернасилии».
Для реализации 1й возможности Положение предусматривает т.н. "защиту в один клик". Она позволяет считающим себя жертвами кибернасилия, закрывать личные сообщения и не нравящиеся комментарии о себе одним щелчком мыши.
Для реализации 2й возможности поставщики информационных услуг Интернета должны не просто «явиться на собственную казнь, но и принести с собой веревку»:
• разработать, мониторить и обновлять классификатор кибернасилия;
• получив «сигнал в один клик»:
- ограничить доступ к кибернасилующей информации;
- провести расследование и проверку факта кибернасилия;
- наказать виновного штрафом вплоть до отзыва экаунта;
• вести «черные списки» замеченных в кибернасилии и регулярно подавать отчеты наверх о его пресечении;
• а в качестве вишенки на торте - поставщикам информационных сетевых услуг предложено создать и усовершенствовать модель раннего предупреждения кибернасилия.
Последнее, по сути, расширяет существующую в «надзорном капитализме» систему «фьючерсов на поведение людей» (по определению Шошаны Зубофф) системой «фьючерсов на кибернасилие», на которых будут зарабатывать власть имущие (об этом я рассказывал еще 2 года назад). Ибо они, а не суд на основании закона, будут решать, кто «кибернасильник», а кто нет. И больше никакие законы не нужны ни о каких противоправных действиях. Ведь все они – теперь будут всего лишь разновидностями кибернасилия.
Общественное обсуждение «Положения об управлении информацией о кибернасилии» продлится до 6 августа, чтобы с 1 сентября ввести его в действие.
Однако поставщики информационных услуг Интернета решили не тянуть с разработкой модели раннего предупреждения кибернасилия. И первые платформы (напр. Zhihu) уже с 14 июля отключают все анонимные экаунты, ссылаясь на статью 14-ю еще даже не вступившего в силу Положения.
Так что, здравствуй прекрасный новый «Мир Большого Брата - сына Большого Бога». Всевидящего и всезнающего. Кары которого никто не избежит (и для этого даже не нужен суд).
Ибо, при построении Рая сверху неизменно получается Ад
#Китай #НадзорныйКапитализм #БольшойБрат
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Новое подтверждение превосходства модели «Большого и строгого брата».
Угроза неотвратимого жесткого наказания действенней любых штрафов.
Новое совместное исследование MIT Senseable City Lab (США) и Knowledge Discovery and Data Mining Lab (Италия) ставит точки над “I” в вопросе о наиболее эффективном способе борьбы с нарушением правил дорожного движения.
Сравнении статистики нарушений по превышению скорости в пяти странах (Германия, Италия, Япония, США и Китай) показало:
1) Даже огромные штрафы не останавливают водителей от превышения скорости.
2) Но совершенно безотбойно работает сочетание неотвратимости наказания с его предельной жесткостью.
Яркий пример п. 1 – чемпион мира по превышению скорости Италия с ее зверскими штрафами и минимальной системой автоматического контроля на дорогах:
• от минимального «менее 10 км/час» - штраф 108 Евро (173 Евро по паритету покупательной способности ППП)
• до максимального «более 60 км/час» - штраф 2118 Евро (3387 Евро по ППП)
Противоположный пример (п. 2) – чемпион мира по НЕпревышению скорости Китай с мягчайшими штрафами, но с тотальным автоматическим контролем на дорогах:
• при превышении «менее 10 км/час» - вообще не штрафуют
• до максимального «более 70 км/час» - штраф 2000 Юаней (500 по ППП)
• НО за 4 нарушения в год с превышением на 10-20% или 2 нарушения на 20-30% автоматом лишают прав
Между двумя полюсами Италии и Китая, подтверждая общую закономерность, расположились Япония, США и Германия.
Так что модель «Большого и строгого брата», прекрасно зарекомендовавшая себя на дорогах Китая, будет расходиться по миру.
Но тут, как показывает практика того же Китая, - главное не перегнуть палку. Ибо тотальная слежка эффективно работает лишь до определенного предела (см. мой пост).
#БольшойБрат #Китай
_______
Источник | #theworldisnoteasy
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Угроза неотвратимого жесткого наказания действенней любых штрафов.
Новое совместное исследование MIT Senseable City Lab (США) и Knowledge Discovery and Data Mining Lab (Италия) ставит точки над “I” в вопросе о наиболее эффективном способе борьбы с нарушением правил дорожного движения.
Сравнении статистики нарушений по превышению скорости в пяти странах (Германия, Италия, Япония, США и Китай) показало:
1) Даже огромные штрафы не останавливают водителей от превышения скорости.
2) Но совершенно безотбойно работает сочетание неотвратимости наказания с его предельной жесткостью.
Яркий пример п. 1 – чемпион мира по превышению скорости Италия с ее зверскими штрафами и минимальной системой автоматического контроля на дорогах:
• от минимального «менее 10 км/час» - штраф 108 Евро (173 Евро по паритету покупательной способности ППП)
• до максимального «более 60 км/час» - штраф 2118 Евро (3387 Евро по ППП)
Противоположный пример (п. 2) – чемпион мира по НЕпревышению скорости Китай с мягчайшими штрафами, но с тотальным автоматическим контролем на дорогах:
• при превышении «менее 10 км/час» - вообще не штрафуют
• до максимального «более 70 км/час» - штраф 2000 Юаней (500 по ППП)
• НО за 4 нарушения в год с превышением на 10-20% или 2 нарушения на 20-30% автоматом лишают прав
Между двумя полюсами Италии и Китая, подтверждая общую закономерность, расположились Япония, США и Германия.
Так что модель «Большого и строгого брата», прекрасно зарекомендовавшая себя на дорогах Китая, будет расходиться по миру.
Но тут, как показывает практика того же Китая, - главное не перегнуть палку. Ибо тотальная слежка эффективно работает лишь до определенного предела (см. мой пост).
#БольшойБрат #Китай
_______
Источник | #theworldisnoteasy
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
На Земле появился первый Софон.
Это еще не решение «проблемы трех тел», но сильный ход в решении «проблемы инакомыслия и инакодействия» людей.
Речь действительно о Софоне из романа Лю Цысиня и его экранизации Netflix «Проблема трех тел». И этот Софон действительно создан.
• Но не трисолярианами (или Сан-Ти, - как их для простоты произношения назвали в сериале), а землянами - китайскими исследователями из Чжэцзянского университета и Ant Group.
• И создан этот Софон не для торможения и блокировки технологического прогресса землян (как в романе и сериале), а для торможения и блокирования инфокоммуникационных возможностей землян в областях, неугодных для сильных мира сего - властям и китам инфобигтеха.
Логика этого техно-прорыва, совместно профинансированного Национальным фондом естественных наук Китая (учрежден в 1986 под юрисдикцией Госсовета Китая, а с 2018 под управлением Миннауки и технологий) и Ant Group (дочка китайского конгломерата Alibaba Group, в 2021 взятая под контроль Народным банком Китая), мне видится таковой.
✔️ Возможности получения людьми информации (от новостей до знаний) из Интернета все более зависят от ИИ больших языковых моделей (LLM). Они становятся для землян глобальным инфофильтром, определяющим,
1) что человек может узнать и
2) чему может научиться из Интернета.
✔️ Поэтому становится ключевым вопрос, как взять под контроль и 1ое, и 2ое, исключив возможности использования людьми LLM для неэтичных, незаконных, небезопасных и любых иных нежелательных (с точки зрения разработчиков LLM) целей.
Эта задача одинаково актуальна и важна для столь разных акторов, как Компартия Китая и Microsoft, Белый дом и Google, Amazon и OpenAI – короче, для властей всех мастей и китов инфобигтеха.
Не смотря на важность, решить эту задачу пока не удавалось. И вот прорыв.
Китайские исследователи придумали, как открывать для массового использования LLM, которые «плохим людям» будет сложно настроить для злоупотреблений.
Китайцы придумали новый подход к обучению без точной настройки (он назван SOPHON), использующий специальную технику, которая «предотвращает точную настройку предварительно обученной модели для нежелательных задач, сохраняя при этом ее производительность при выполнении исходной задачи».
SOPHON использует «два ключевых модуля оптимизации: 1) обычное усиление обучения в исходной области и 2) подавление тонкой настройки в ограниченной области. Модуль подавления тонкой настройки предназначен для снижения производительности тонкой настройки в ограниченной области в моделируемых процессах тонкой настройки».
В итоге, когда «плохие люди» захотят с помощью тонкой настройки переучить мощную законопослушную модель на что-то плохое (напр., выдавать нежелательный контент - от генерации порно до анализа событий на площади Тяньаньмэнь в 1989, от нескрепоносных советов до инструкции по взрвотехнике …) производительность модели катастрофически снизится (оставаясь высокой в дозволенных областях).
Нужно понимать, что этот 1й Софон еще дорабатывать и дорабатывать (проверять на сочетаниях разнообразных типов данных, масштабировании моделей и т.д.).
Но очевидное-невероятное уже налицо.
✔️ Т.к. возможности «нежелательных» применений неисчислимы, застраховать модель от всех их просто не реально.
✔️ Но можно просто пойти путем отсекания «нежелательного», с точки зрения владельцев платформ. И тогда вполне может получиться идеальный Большой брат: безликий и всевидящий цензор, не ошибающийся в предвосхищении правонарушений Х-комнадзор, умело манипулирующий сетевой агентурой спецслужбист и т.д.
#LLM #БольшойБрат
Картинка поста telegra.ph
Статья arxiv.org
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Это еще не решение «проблемы трех тел», но сильный ход в решении «проблемы инакомыслия и инакодействия» людей.
Речь действительно о Софоне из романа Лю Цысиня и его экранизации Netflix «Проблема трех тел». И этот Софон действительно создан.
• Но не трисолярианами (или Сан-Ти, - как их для простоты произношения назвали в сериале), а землянами - китайскими исследователями из Чжэцзянского университета и Ant Group.
• И создан этот Софон не для торможения и блокировки технологического прогресса землян (как в романе и сериале), а для торможения и блокирования инфокоммуникационных возможностей землян в областях, неугодных для сильных мира сего - властям и китам инфобигтеха.
Логика этого техно-прорыва, совместно профинансированного Национальным фондом естественных наук Китая (учрежден в 1986 под юрисдикцией Госсовета Китая, а с 2018 под управлением Миннауки и технологий) и Ant Group (дочка китайского конгломерата Alibaba Group, в 2021 взятая под контроль Народным банком Китая), мне видится таковой.
✔️ Возможности получения людьми информации (от новостей до знаний) из Интернета все более зависят от ИИ больших языковых моделей (LLM). Они становятся для землян глобальным инфофильтром, определяющим,
1) что человек может узнать и
2) чему может научиться из Интернета.
✔️ Поэтому становится ключевым вопрос, как взять под контроль и 1ое, и 2ое, исключив возможности использования людьми LLM для неэтичных, незаконных, небезопасных и любых иных нежелательных (с точки зрения разработчиков LLM) целей.
Эта задача одинаково актуальна и важна для столь разных акторов, как Компартия Китая и Microsoft, Белый дом и Google, Amazon и OpenAI – короче, для властей всех мастей и китов инфобигтеха.
Не смотря на важность, решить эту задачу пока не удавалось. И вот прорыв.
Китайские исследователи придумали, как открывать для массового использования LLM, которые «плохим людям» будет сложно настроить для злоупотреблений.
Китайцы придумали новый подход к обучению без точной настройки (он назван SOPHON), использующий специальную технику, которая «предотвращает точную настройку предварительно обученной модели для нежелательных задач, сохраняя при этом ее производительность при выполнении исходной задачи».
SOPHON использует «два ключевых модуля оптимизации: 1) обычное усиление обучения в исходной области и 2) подавление тонкой настройки в ограниченной области. Модуль подавления тонкой настройки предназначен для снижения производительности тонкой настройки в ограниченной области в моделируемых процессах тонкой настройки».
В итоге, когда «плохие люди» захотят с помощью тонкой настройки переучить мощную законопослушную модель на что-то плохое (напр., выдавать нежелательный контент - от генерации порно до анализа событий на площади Тяньаньмэнь в 1989, от нескрепоносных советов до инструкции по взрвотехнике …) производительность модели катастрофически снизится (оставаясь высокой в дозволенных областях).
Нужно понимать, что этот 1й Софон еще дорабатывать и дорабатывать (проверять на сочетаниях разнообразных типов данных, масштабировании моделей и т.д.).
Но очевидное-невероятное уже налицо.
✔️ Т.к. возможности «нежелательных» применений неисчислимы, застраховать модель от всех их просто не реально.
✔️ Но можно просто пойти путем отсекания «нежелательного», с точки зрения владельцев платформ. И тогда вполне может получиться идеальный Большой брат: безликий и всевидящий цензор, не ошибающийся в предвосхищении правонарушений Х-комнадзор, умело манипулирующий сетевой агентурой спецслужбист и т.д.
#LLM #БольшойБрат
Картинка поста telegra.ph
Статья arxiv.org
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
