Есть у меня гипотеза: секрет ИИ-революции заключается в синдроме "дикого помещика" у Салтыкова-Щедрина: "Думает, какие он машины из Англии выпишет, чтоб все па‌ром да па‌ром, а холопского духу чтоб нисколько не было". Синдром этот овладел мировыми элитами, раздосадованными необходимостью платить зарплаты и взаимодействовать социально, экономически и политически с т.н. "людьми". Реальность (к моему глубокому сожалению) все больше подтверждает эту гипотезу.

Вышла статья энтузиастов из Стэнфорда. Они "доказывают", что в мире ИИ даже социологические исследования будут проходить без участия "мужика" – человека и в качестве "социолога" и в качестве "респондента".
И вот как:

Авторы обучили большую языковую модель GPT-4 на массиве из 70 опросов жителей США, всего более 100 тыс. участников. Опросы относились к широкому кругу направлений: от психологии и социальной политики до политологии и общественного здравоохранения.

Цель состояла в моделировании реакций людей, относящихся к определенным демографическим подгруппам (по полу, возрасту, образованию, политпредпочтениям и т.д.). После обучения модели выбирался один вопрос из внешнего (не из эксперимента) исследования и устанавливалась корреляция между ответами GPT-4 и реальными данными.

Коэффициент корреляции от 0 до 1, где единица – 100% совпадение ответа модели с ответами живых людей. GPT-4 продемонстрировал достаточно высокий результат - 0,85-0,9. Экспериментаторы сделали и контрольный опыт: провели опрос среди 2659 человек, которые не были социологами, попросив их предсказать результаты социологических вопросов. Корреляция в этом случае составила 0,79. Так авторы сделали вывод о превосходстве модели над людьми.

Вывод традиционный для экспериментов такого рода – "дайте денег и через шаг ИИ сделает ненужным любую форму полевой социологии, потому что будет моделировать результат исследований со 100% точностью, что повлечет экономию средств в размере N миллиардов долларов". Отдельный плюс в отличие от "мясных социологов" модель способна принести результат быстро – в "один клик".

На практике же много вопросов.
1️⃣ точность ответов GPT-4 в исследовании зависела от подсказок - чем больше их было, тем точнее получался результат.
2️⃣ работа подобных моделей требует контролируемых условий и постоянной оценки эффективности со стороны разработчиков. Предсказательная точность языковых моделей в реальных условиях, как правило, падает - в т.ч. из-за накапливающихся погрешностей.

Все это делает модели не настолько удобным, быстрым и дешевым инструментом прогнозирования, как об этом заявляют их создатели. Чтобы контролировать модель, нужно постоянно проводить дублирующие реальные исследования иначе ты никогда не узнаешь, в какой момент ее "ответы" кардинально разойдутся с ответами реальных респондентов. Феномен накопления ошибок на каждом круге работы языковых моделей – известен, что делать с ним непонятно даже теоретически, но это никак не мешает их разработчикам продавать "мир будущего, где человек не нужен".

Даже в идеальных условиях для некоторых подгрупп точность была значительно ниже базовых 0,85: мужчины оказались менее “просчитываемы” - с корреляцией 0,72. А чернокожие – так и вовсе 0,6. В итоге – из описания эксперимента прямо следует, что чем дальше оцениваемый человек отходит от идеала предсказуемости – "пожилая женщина азиатского происхождения", тем меньше можно полагаться на предсказания ИИ.

Еще одна проблема в том, что модели требуют огромных массивов данных для обучения, и без притока новых социологических исследований им останется учиться на данных, которые они сами и сгенерировали - что приведет уже не к ошибкам, а к галлюцинациям. Ну и, чтобы хоть как-то полагаться на модели, придется даже теоретически исключить возможность появления "меняющих все" радикальных раздражителей для общества – войны, эпидемии, политический радикализм, катастрофы.

Энтузиастов это не останавливает. Ведь модели обещают радикальное увеличение прибыли крупных социологических компаний и снижение расходов заказчиков на социсследования через сокращение рабочих мест в отрасли.

Прокомментировали новый (нет) секретный (нет) американский ядерный документ для материала @vedomosti.

Авторская редакция:

Появление таких документов и рекомендаций свидетельствует о сомнениях Вашингтона в достаточности имеющихся сил и средства для ядерного, точнее, "интегрированного" сдерживания сразу трех стран, две из которых давно и прочно записаны в близкие к равным противники.

Возможно ли нарастить арсенал на основе имеющихся ресурсов - вопрос дискуссионный, и дискуссия эта в США началась уже довольно давно, одним из ярких элементов такой дискуссии стала работа двухпартийной комиссии по стратегическому положению, доклад которой наделал много шума.

Наращивание китайского ядерного потенциала, безусловно, угроза для США, однако следует отметить, что оно возникло не на пустом месте. Более того, именно действия США в неядерной сфере, в том числе в сфере ПРО, стали весьма значительным драйвером китайского наращивания.

Исходя из существующих планов развития американского ядерного арсенала и дискуссий вокруг их возможной корректировки представляется наиболее реалистичным продолжение акцента на модернизации с созданием фундамента для количественного наращивания.

Вместе с тем, на сегодняшний день по каждому из этих направлений перед США стоят серьезные проблемы. Впрочем, эти проблемы не уникальны, и являются вполне актуальными и для других ядерных держав.

Главная причина отсутствия каких-либо переговоров по этой теме в циничном (но понятном) подходе США: по ядерным сюжетам можно согласиться на паритет и вести переговоры по снижению рисков, однако по многим другим областям (например, космическому или киберпотенциалу) превосходство американцев (и их союзников и партнеров) должно сохраняться и укрепляться.

В Китае с такой постановкой вопроса не согласны, тем более что в первую очередь США создают угрозу для Китая в непосредственной близости от его территории, а не наоборот.

PS легкая биполярочка в комментариях американцев тоже имеется.

#стратдела

Всякие учёные учатся у нас в школе. Даже из бизнеса…

https://globalaffairs.ru/articles/lekarstva-suverenitet-lisovskij/

Спрашивали у нас вопрос? Никто за язык не тянул… Вот теперь получите! Интерактивный подкаст, первая часть.

https://globalaffairs.ru/articles/mirovoj-otvet-1-podkast/

Чарующий мир современной политики. Оказывается букмекеры вовсю принимали ставки, выступит Бейонсе на Съезде Демократической партии или нет. В основном ждали, что да. Но она нет. Зато насыщенно.

https://www.axios.com/2024/08/23/dnc-beyonce-performance-special-guest

Роберт Кеннеди - младший, сильно увядший по сравнению с началом его кампании в качестве независимого кандидата, хитро извернулся. Объявил, что он приостанавливает кампанию в колеблющихся штатах и призвал голосовать там за Трампа. А в штатах, где всегда побеждают демократы, призвал голосовать за него. Вот такой настоящий друг образовался у Дональда.

https://edition.cnn.com/politics/live-news/dnc-harris-trump-campaign-news-08-23-24/index.html

Очень трогательно.

https://t.iss.one/politicsisfun/1521

Большой шум наделал арест Павла Дурова по его прибытию в Париж. Говорят, грозит до 20 лет тюрьмы по целому букету обвинений от содействия терроризму и наркотрафику до несотрудничества в сфере регулирования. Своеобразный космополитизм арестанта и веер гражданств добавляют колорита.

https://www.lefigaro.fr/faits-divers/le-pdg-franco-russe-de-telegram-pavel-durov-interpelle-en-france-a-l-aeroport-du-bourget-20240825

В связи с новостями – описание истории и особенностей Телеграм. Просто для сведения.

https://overclockers.ru/blog/Pitfalls/show/144346/Istoriya-i-prichiny-uspeha-Telegram-put-ot-messendzhera-do-konkurenta-YouTube

Забавно ветвится современность. В некотором смысле Павел Дуров может занять нишу, которую недавно после долгих мытарств освободил Джулиан Ассанж (он, кстати, так ни разу и не выступил после освобождения). Только Ассанж был олицетворением обобщённых левых, которые больше всего и поднимали тему его преследований. За Дурова же пока заступается скорее консервативный фланг.

https://t.iss.one/TuckerCarlsonNetwork/49

Так всё вокруг затейливо, что просто надо получать удовольствие от рассмотрения в микроскоп. "Давайте не будем им мешать, а просто понаблюдаем за ними".

https://t.iss.one/politicsisfun/1524

Новый номер на носу (фигурально). Ровно через неделю на сайте, да и в бумаге вот-вот. А вы можете подписаться, это легко и приятно.

https://globalaffairs.ru/subscription/buy-feature/

Казус Дурова. Как это работает.
1️⃣ Данных в мире очень много. За 15 лет физическое количество данных (data) выросло в 66 раз. Ежегодный прирост – больше, чем производилось этих самых данных 10 лет назад. И немалую часть этих данных генерируют сами пользователи, размещая контент в соцсетях или реагируя на него.

2️⃣ Значительная часть пользовательского контента – это разного рода вещи, которые не нравятся начальству. Люди то вакцины критикуют, то политическую нелояльность демонстрируют, то распространяют свидетельства о фактах, обоснованно пробуждающих эту нелояльность. Причем поток такого контента растет, по крайней мере, пропорционально росту количества данных.

3️⃣ Традиционные способы работы с враждебным начальству контентом – это долго и дорого: расследование по факту, выявление источников и распространителей, суды, “выпиливание” контента по решению суда. Грубо говоря, люди размещали в своих блогах видео пустых больниц в Испании и Британии, а потом – через время и процедуру – заезжали не только в баны, но и в тюрьмы. Удовлетворение системе это приносит, примером потенциальным нарушителям служит, но задачи главной не решает. “Враждебные данные” неизбежно появляются снова и снова.

4️⃣ Тогда был предложен инновационный механизм – “ответственность платформ за контент, на них размещенный”. То есть оценивать “юридические риски” должны не специальные институты государств, а сами владельцы платформ. А если они оценивают их неправильно, то значит они “подельники правонарушителей”. (Пресс-релиз французов о том, что Дуров и наркотиками торговал, и педофильским контентом, и одновременно активно практиковал терроризм – это вот буквально про это).

5️⃣ Премодерация контента “руками” или даже с помощью ИИ – это также дорого. Экономически обоснованное поведение платформ – тотальный запрет на распространение информации на темы, где возможны “разночтения” с официальной линией партии. По принципу “ничего, кроме “официоза”. Как это работало на “дозаконодательном этапе” например в ковид? В соцсетях вымарывались (вместе с аккаунтами) статьи из рецензируемых мировых научных журналов.

6️⃣ Затем наступил “законодательный этап”. Идея реализована в новом цифровом законодательстве большинства стран от Бразилии до ЕС. В ЕС т.н. DSA – Digital Service Act – вступил в силу в этом году. После чего размахивая им как знаменем комиссар Бретон (бывший французский госолигарх – глава Франстелекома) начал кошмарить недостаточно лояльных владельцев платформ: Маск (Твиттер), Дуров (ТГ) и китайцы без яркого лица (Тик-Ток). Объяснять, почему Дуров значительно более удобная цель, чем непроясненные китайцы или гражданин США, не надо.  

7️⃣ Мы находимся здесь. Телеграм, к слову, достаточно охотно удовлетворял требования национальных юрисдикций по постмодерации контента по решению судов. Также телеграм был очевидно прозрачен для спецслужб. Это видно по большому количеству новостей в мировых СМИ в последнее время в духе: “не знаем кто, когда и каким образом, но вот злодеи из этой злодейской группы собирались совершить злодейство из вот такого типа злодейств”, возникших явно из поверхностного машинного чтения разного рода переписок в “закрытых группах” и между собой.

8️⃣ Единственно, что не делал ТГ – это не создавал систему премодерации и автоматической роботизированной фильтрации предлагаемого пользователями контента. Что в настоящее время признается невозможным и нетерпимым во всех крупных юрисдикциях мира.

9️⃣ Почему именно сейчас? Пока “недопустимый” контент создается шаловливыми ручками отдельных пользователей – это одно. И совсем другое дело – “контент по цене электричества и со скоростью электричества”, создаваемый ИИ. Перед угрозой этого девятого вала начальство не готово даже обсуждать старые представления о т.н. “свободе слова”.

🔟 В глазах мировых элит принуждение к выполнению требований о полной ответственности платформ за размещаемый контент (европейский DSA и его аналоги)  – ключевой вопрос, помеченный буквально как вопрос физической выживаемости.

Папа Римский осудил украинские власти за закон, позволяющий запретить УПЦ. Франциск в отличие от многих политиков довольно последователен в своих взглядах.

https://www.france24.com/en/europe/20240825-pope-francis-condemns-ukraine-s-ban-on-russian-orthodox-church

Очень логично. Подавление бунта туземцев на окраине империи не стоит пристального внимания метрополии. Во всяком случае, метрополия долго так думает.

https://t.iss.one/politicsisfun/1528