“Мы призываем все лаборатории немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4”. — открытое письмо экспертов.

Призыв уже подписали такие корифеи как Йошуа Бенжио и Стюарт Рассел, а также Илон Маск, Стив Возняк, Макс Тегмарк, Кристоф Кох и, конечно, Гари Маркус с Ювалем Харари. Всего пока свыше тысячи человек, сбор подписей идет (можете присоединиться). Письмо — это в том числе реакция на недавние “искры общего интеллекта”.

Я не подпишу, поскольку не верю, что к мораторию присоединится Китай и что полгода что-то принципиально прибавят в нашем понимании LLMs. Авторы приравнивают ИИ к таким технологиям как клонирование человека или модификация его зародышевой линии, которые технически возможны, но запрещены. На мой взгляд, здесь другая история, и мы пока наблюдаем чисто эмоциональный шок, вызванный темпом изменений.

Отсюда желание замедлить события, так легче адаптироваться психике.

Сам Chat GPT тоже письмо “прочитал”, но оказался большим дипломатом. 

Однако…”разработка передовых систем искусственного интеллекта может привести к созданию нечеловеческого разума, который в конечном итоге может перехитрить нас и заменить нас. Хотя это может показаться надуманным сценарием, некоторые эксперты утверждают, что быстрое развитие ИИ может в конечном итоге привести к «сингулярности», при которой машины станут более интеллектуальными, чем люди, и потенциально могут представлять экзистенциальную угрозу человечеству”

В этом выпуске новостей «Дождя» главный редактор T-invariant Ольга Орлова рассказывает о кейсе (можно даже сказать, казусе) директора Института генетики РАН А.М. Кудрявцева (смотри его заявления о том, что раньше люди жили по 900 лет, а мутации, вызывающие генетические болезни, связаны с грехами - первородным и личными)

На сайте ассоциации RASA (Russian American Science Association) опубликовано заявление в поддержку экономиста Константина Сонина.

«Совет директоров RASA (Russian American Science Association) выражает полную и безоговорочную поддержку члену нашей ассоциации профессору Университета Чикаго Константину Сонину в связи с появившимися сообщениями о возбуждении против него в России уголовного дела по подозрению в публичном распространении якобы “заведомо ложной информации об использовании Вооруженных Сил РФ”. Профессор Сонин – международно признанный учёный, крупный специалист в области экономических и социальных наук, гражданин, публицист и общественный деятель. Он твердо и последовательно выступает против российской агрессии в Украине, отстаивает права человека и права ученых. Профессор Сонин принадлежит к цвету российской и мировой интеллигенции. Как и его выдающиеся предшественники – столетие назад, он был вынужден уехать из России. Мы считаем действия Следственного комитета РФ и тех, кто за ним пока скрывается, в отношении профессора Сонина незаконными с точки зрения как международного, так и российского права. Есть горькая ирония в том, что эти действия перекликаются с позорными акциями Советского правительства в 30-е годы прошлого века в отношении наших великих соотечественников — ученых Георгия Гамовa, Владимира Ипатьева, Алексея Чичибабина и многих других»…

Готовим иллюстрации для материалов, общаемся с нейросетью Midjourney. Так безыскусно ИИ видит людей, которые «раньше жили до 900 лет».

То, что академик Кудрявцев скажет – не дорого возьмет, а потом ИИ это даже нарисовать не может.

Часть исследователей называют языковые модели «стохастическими попугаями» 🦜, отказывая им даже в зачатке мысли. И тогда стоит ли бояться попугая, пусть и говорящего?

Автор телеграм-канала «Блуждающий нерв» Денис Тулинов написал колонку для T-invariant

Вопрос об уме LLMs далек от разрешения, и здесь как раз нужны эксперименты. Но все согласны с тем, что это мощный инструмент, который может быть очень полезен. Он расширяет наши возможности, а отказ от них тоже имеет цену. Эти возможности впечатляют, и в появлении манифестов мы видим типичный «шок будущего» в терминах социолога Элвина Тоффлера.
Модели уж слишком быстро апгрейдятся и «умнеют» на глазах. Предел роста их интеллекта не ясен, это и пугает людей с богатым воображением. Однако мораторий и запреты дадут лишь передышку нашей психике, но не помогут устранить будущие риски. Скажем, в биологии часть гипотез можно проверить на животных или клеточных культурах. В области ИИ аналогичной замены большим моделям нет, их поведение уникально. Читать подробнее

Вечернее чтение для тех, кто любит читать, но не любит покидать телеграм.

Письмо о приостановке обучения крупных ИИ моделей появилось в открытом доступе в ночь на 29 марта, но такие предложения уже не раз звучали от разных людей особенно в последние месяцы, с момента выхода ChatGPT в ноябре 2022. Идея не нова, ее высказывают регулярно, а Гари Маркус, известный критик больших языковых моделей (LLMs), чуть ли не через день твердит о том, что «Карфаген должен быть разрушен». И уж, конечно, он подписал письмо в числе первых.

https://telegra.ph/Strah-stohasticheskogo-popugaya-03-30

Уважаемые друзья, мы завели чат-бота @invariant2023_bot и будем рады весточкам и вопросам от вас, на всё ответим. Нам также можно рассказывать новости и тайности из ваших институтов и университетов. Будем писать, реагировать. А полюбившаяся нам нейросеть Midjourney так видит нашего бота…ну в целом…довольно мило

«Я дам свое видение мира», — говорит докладчик и произносит манифест религиозного фундаментализма, ведущего к милитаризму. 

Мы продолжаем подробно разбирать скандал с академиком-генетиком Кудрявцевым.

Мутации вызываются «первородным грехом», и это подтверждается графиком сокращения продолжительности жизни «после потопа», агротехнологии — это «насилие над землей», православный ответ на это — «неприятие ГМО», а от перенаселенных соседей Россия защищается «военным путем». И нет, эти тезисы принадлежат не какому-то мракобесу-сектанту. Их представил директор Института общей генетики им. Н.И. Вавилова, членкор Российской академии наук, доктор биологических наук Александр Кудрявцев.

Казалось бы, такая ли большая беда, что кто-то из ученых попал под влияние религиозных мифов и обсуждает их с церковными единомышленниками? Тем более советский воинствующий атеизм остался в прошлом, и верующие ученые никого уже не удивляют. И все же этот случай является знаковым. А.М. Кудрявцев возглавляет ключевой исследовательский институт, созданный для научного обеспечения как раз той деятельности, которая в докладе названа «насилием над землей» и неприемлемой для православия. То есть фактически он заявляет, что его профессиональная работа неприемлема для него по религиозным мотивам. 

Доклад А.М. Кудрявцева не просто выражает личные религиозные переживания и размышления, на что имеет право каждый человек, а грубо искажает научный метод, совершенно некритически принимая в качестве источника количественных данных текст религиозного мифа. Подобный буквализм не принят даже в среде богословов и теологов. Это пример опасной тенденции, набирающей силу в России: религиозный фундаментализм вторгается на территорию науки, ставит ее себе на службу, подменяет ее, и приводит в итоге к лженаучному обоснованию милитаризма.

Минуя стадию иноагентов…

Профессор и сооснователь «Свободного университета» Гасан Гусейнов в интервью изданию DOXA иронично отметил, что Генпрокуратура предложила признать университет «нежелательной организацией», «минуя стадию иноагентов. Раньше, бывало, на защите кандидатской сразу присуждали докторскую — за высокое качество работы».

«Свободный университет был и остается сообществом свободных преподавателей и студентов, независимо от места нашего пребывания», — подчеркивает Гусейнов. — «Пребывания всегда временного: жизнь коротка. Временны и все до единого гонители „Свободного университета“».

Он предположил, что преподаватель_ницам и учащимся, находящимся в России и Беларуси, возможно, придется покинуть эти страны. «Все понимают, что нет такой гнусности, которой не могли бы придумать люди, затеявшие такую войну», — считает Гусейнов. — «Но то, что они нападают на тех, у кого нет ни дивизий, ни влияния на толщу российского общества, это просто очередной признак дальнейшей деградации режима. Постепенно нормальные люди в стране превратились в семью Москалевых…»

Совет директоров RASA (Russian American Science Association) выражает полную и безоговорочную поддержку члену ассоциации профессору Университета Чикаго Константину Сонину в связи с появившимися сообщениями о возбуждении против него в России уголовного дела по подозрению в публичном распространении якобы «заведомо ложной информации об использовании Вооруженных Сил РФ».

Профессор Сонин – международно признанный учёный, крупный специалист в области экономических и социальных наук, гражданин, публицист и общественный деятель. Он твердо и последовательно выступает против российской агрессии в Украине, отстаивает права человека и права ученых. Профессор Сонин принадлежит к цвету российской и мировой интеллигенции. Как и его выдающиеся предшественники – столетие назад, он был вынужден уехать из России. Читать текст обращения дальше

Если вы хотите присоединиться к этому заявлению и поставить свои подписи под этим заявлением в личном качестве это можно сделать здесь

Год исхода: уехавшие, остающиеся и трудности коммуникации

Мощная эмиграционная волна 2022 года разделила российское общество и его либеральную часть на две большие группы — уехавшие и остающиеся противники войны.

Социолог Любовь Борусяк уже почти год проводит опросы в обеих группах. В статье для Re: Russia она обобщила результаты нескольких волн опросов. Эмиграция-2022, в отличие от предыдущих волн, стала политической: уезжали люди, которые не могли смириться с началом боевых действий между Россией и Украиной. Но множество несогласных с войной остались в России.

Это две схожие группы по уровню образования, взглядам и образу жизни. Война вызвала две противоположные реакции: одни уезжали спонтанно, плохо подготовившись, практически бежали, другие, с меньшими возможностями, напротив, как будто застыли. В среднем уехали более молодые и обеспеченные ресурсами (работа, деньги, знание языков, родственники и друзья в другой стране) и меньше связанные обременениями. Лишь часть остающихся — принципиальные противники отъезда. Они объясняют свой неотъезд в том числе возможностью продолжать делать полезные вещи для страны и людей. Но не уверены, что это повлияет на будущее России.

И у уехавших, и у оставшихся резко сузился горизонт планирования. Многие уехавшие неоднократно меняли страну проживания. Но решив первый круг проблем, достаточно быстро адаптировались на новом месте. Они вполне ощущают преимущества своего положения — бóльшую свободу и безопасность. Живут на чемоданах, но на свободе. Наоборот, у оставшихся усиливается страх, им свойственна депрессивность. Они остро ощущают свою маргинализованность и непредставленность в общественном дискурсе современной России. Социальное молчание становится для них источником еще большего стресса.

Уехавшие и остающиеся несогласные примерно одинаково видят политическую ситуацию; у них примерно одни и те же источники информации. Однако обе группы именно отъезд воспринимают как социальную норму. И это вызывает напряжение в их коммуникации. Многие остающиеся полагают, что уехавшие считают неотъезд девиантным и возлагают на них большую ответственность за продолжающуюся войну. Попытки формулирования и понимания коллективной и личной вины и ответственности вызывают еще большее напряжение. У остающихся формируется комплекс жертвы, заложника. Преодоление этого напряжения и выработка идеологии солидарности двух групп — важнейшая задача, так как обе группы нуждаются в поддержке друг друга.

Подробнее >

Неспешное воскресное чтение, для тех, кто любит читать, не выходя из телеграма

Протаскивая в науку буквалистскую интерпретацию библейского текста, А.М. Кудрявцев опускает дискуссию до того же примитивного уровня, на котором находится анекдотический аргумент воинствующих атеистов о том, что Гагарин на небо летал, а Бога не видел. На этом уровне разговор перестает быть не только научным, но даже богословским. А поскольку эти ненаучные рассуждения выдаются, тем не менее, за научные, их следует классифицировать как лженаучные. https://telegra.ph/Serye-uzhe-prishli-ZHdem-chernyh-04-02

Заявление Ученого совета

Генпрокуратура РФ объявила Свободный университет "нежелательной организацией". Законы РФ позволяют преследовать граждан за любое "участие в деятельности" подобных организаций. Тем самым власти объявляют преподавателей и студентов, которые посещают независимые семинары и ведут свободную академическую дискуссию, правонарушителями. Они хотят посеять страх и недоверие, лишить граждан России права на образование.

Мы утверждаем, что независимое образование не является преступлением. Университеты становятся "нежелательными" только в государстве, построенном на невежестве. Мы считаем действия Генпрокуратуры, которая по сути ставит вне закона идею университета, антиконституционными.

Свободный университет - идея экстерриториального образования без цензуры. Эту идею невозможно признать нежелательной.

В то же время наши юристы пришли к выводу, что Генпрокуратура объявляет нежелательным не конкретную организацию, но само имя "Свободного университета". Так что занятия в любых "свободных университетах" в РФ могут стать поводом для преследования граждан. Мы считаем это признанием значимости нашей работы, проделанной с 2020 года, со стороны властей РФ.

Принимая во внимание эти соображения, Ученый совет принял решение:

1) Считать главным приоритетом безопасность студентов и преподавателей.

2) Приостановить деятельность университета на территории РФ.

3) Развивать Свободный университет за пределами юрисдикции РФ, сосредоточившись на поддержке студентов и преподавателей, сохранении академических связей и независимых научных школ.

Мы благодарны всем коллегам, которые уже поддержали нас.

Мы призываем коллег из университетов Европы и мира к солидарности с нашими студентами и преподавателями. Свободный университет продолжит защищать наши ценности: открытость научных исследований и академической дискуссии, уважение к праву личности на образование.

Свободное образование не может стать нежелательным

Кирилл Мартынов, сооснователь Свободного университета в интервью T-invariant рассказал, как теперь изменится жизнь коллектива после получения статуса «нежелательная организация»

«Очевидно, что нам придется по-другому проводить наборы. Мы пока это обсуждаем, потому что следующий набор, наверное, будет в сентябре. Я уверен, что он состоится, и я понимаю, что он будет выглядеть не так, как мы привыкли за последние три года.
Но мне кажется, что наши цензоры и люди, которые нас пытаются преследовать, ─они опоздали. Потому что мы довольно хорошо известны, на нас ссылаются как на пример образовательного проекта, который можно делать самостоятельно. Условно говоря, в мире образования мы такая «Медуза» сейчас. И как «Медузу» признали нежелательной, но она продолжила работать, так же и «Свободный университет», будучи нежелательным, продолжит работать, используя другие механизмы информирования людей о том, чем мы занимаемся, и другие модели коммуникации, и другие модели социализации. Это будет много маленьких проектов, которые называются по-разному. Можно каждый из них по отдельности отлавливать, преследовать, но это ни к чему не приведет, потому что этих проектов будет становиться больше.
И есть два аргумента, почему нежелательность — до некоторой степени даже плюс. Хотя, конечно, я предпочел бы без этого обойтись и, если уж на то пошло, просто нормально работать дома в России в нормальных человеческих условиях, как это и было до последних событий.
Плюс заключается, во-первых, в том, что нам очень просто вести переговоры сейчас с нашими коллегами на Западе, с университетами, в первую очередь. Мы можем теперь рассчитывать на помощь и солидарность западного научного сообщества, потому что к нам отнеслись всерьез, нас преследуют. И я думаю, что мы эту солидарность получим.
Кроме того, запретный плод сладок. Никогда еще свободное высшее образование не было таким привлекательным, как сейчас, когда оно запрещено и криминализировано». Читать дальше