Время компромиссов

Ради иллюстрации, хочу противопоставить "науку" и "инженерное дело" так: науку в практическом эксперименте интересует исключительно возможность, продемонстрированная любой ценой; инженер же всегда мыслит компромиссом, он знает, что всё происходит лишь с определенной вероятностью, и его главная задача – экономия надежности, правильное распределение капитала, разделение функций механизма на важные и второстепенные, чтобы сэкономить на вторых и стабилизировать первые.

Мне кажется, это разделение иллюстрирует изменение и в духе времени. Утопии любой ценой, разного рода великие труды, вообще романтический индивидуализм отдельного достижения кажутся чем-то странным и устаревшим; вопросы теперь стоят о процессах, и о процессах процессов, повторяющихся, вероятностных, и экономически целесообразных. Самостоятельных объектов больше нет, а есть только процессы их экономного производства, циклы обратной связи их развития и улучшения.

Определяющие этот век открытия в машинном обучении – достижения именно инженерного дела. "Гениальная идея", стоящая за открытиями компании OpenAI, состоит вовсе не в какой-то новой концепции, но в предположении, что, по сути просто увеличивая размер модели, можно ожидать, что новые функции будут появляться сами. Это не очень легко, но это инженерный вопрос, вопрос капитала и надежности конструкций – и как от этого вернуться к "науке", по крайней мере в ее романтическом смысле ("любой ценой"), не очень понятно.

Мир этих нейросеток – это мир компромиссов, где любой текст и любая картинка были созданы приближенно, любая задача решается с определенной вероятностью, с определенной приближенностью, и эта вероятность определяется лишь экономией. Это странная экономия: она компрометирует не количество вещей, и даже не совсем их качество, но некую их объектность, которую до ИИ даже трудно было поставить под вопрос.

"Наука" остается в рассуждениях всяких рационалистов и эффективных альтруистов (которые этот мир собственно и строят) как какой-то утраченный фетиш, сводящийся к байесовскому анализу каких-то совершенно случайных, лишенных системы гипотез – это не наука, а этическая и эпистемологическая инженерия.

Такие вот у нас времена, и можно легко продолжить спекулировать о том, как это все выглядит в культуре. Поэтому я занимаюсь "философией компромисса", и стыжусь, что вайб у всего этого какой-то слишком инженерный. Но это просто вся обычная философия сейчас неправильная и неадекватная времени, а моя самая правильная и адекватная.

Я недавно наткнулся на довольно жесткое обсуждение книги Дэвида Грэбера "Долг" в блоге Crooked Timber. Вот основной критический пост, вот ответ самого Дэвида, вот грустная реакция на эту очень эмоциональную дискуссию, и вот подведение итогов "4102 дня спустя".

> аспирантурный кошмар в духе Гоббса, когда незначительные споры быстро и беззаботно обостряются до уровня термоядерных столкновений, в результате чего все потенциально значимые разногласия теряются по пути

А вот что Дэвид написал по итогам дискуссии: "Можем ли мы еще писать книги про Большие Вопросы?"

Этот его вопрос меня интересовал куда больше, чем экономическая гипотеза из самой книги. (Не потому что я не дай боже хочу написать книгу про Большие Вопросы, а потому что мне интересно, почему и как это невозможно.) Вот примерное мнение из одного из постов выше: "Нам очень нужны такие книги, без них нам всем очень плохо, но писать их абсолютно нереально, и когда Дэвид попробовал, самые амбициозные главы были самыми слабыми. Но при этом, возможно, без этих амбиций не было бы и книги, так что мы их простим и назовем 'спекулятивной теорией' и это нам очень нужно".

Но я не знаю. Это какая-то выходит каша из топора, о которой я кстати уже писал раньше, что это как будто бы важный режим современного существования. Что люди часто хотят какую-то технологию или красивый график или большую идею, не потому что в них есть какой-то смысл, а потому что вокруг них можно построить целую занимающуюся ими деревню. (Беньямин и Адорно так и обсуждали идею эссе: как текста, построенного на ассоциациях вокруг пустоты, которые в какой-то момент набирают достаточно самостоятельного веса... Это прикольно, но я от таких текстов устал)

Мне интересно, как будет пересечен этот фантазм. Всё-таки в наших всех головах много романтических представлений о необходимости больших вопросов. Но если это действительно лишь топор для каши, да еще и настолько очевидно устаревший и отторгаемый культурой, то как выглядит новая схема? Неужели действительно, как это демонстрирует OpenAI, количество информации (и эффективность ее представления) переходит в качество (и концептульную организованность) теперь само по себе, без медиации тотальностью больших теорий?

Категория промптов

Можно сгенерировать в Midjourney картинку по промпту "cat", потом скормить эту картинку для обратной операции генерации промпта из картинки, и получить некое произвольное уточнение кота. У меня получилось "картина маслом оранжевый кот, в стиле цифровой аэрографии, очень подробная иллюстрация, темно-золотой и светло-голубой, Казимеж Домбровский, текучий и рыхлый, иллюстрация".

Можно было бы придумать некую обратную операцию, которая наоборот, ведет от подробного промпта к архетипу. Что-то типа – я ввожу "картина маслом оранжевый кот", получаю несколько картинок, обобщаю их обратно в текст и получаю, например, "кот". Может быть, помимо чисто языковый категорий, есть спослб так исследовать, например, иерархию художников или медиумов внутри Midjourney (типа я закинул Сезанна и получил Будена).

Люди много так с Миджорни играются, двигаясь между промптами и картинками и обратно, и находят разные странные архетипы. Например, как-то так (с негативными промптами) получилась "Loab".

В этих операциях есть нечто, что открывает семантическую структуру модели. Я думаю, что можно построить из этого что-то типа "enriched category" (это такая категория, где у морфизмов есть дополнительная инфорация, например какая-нибудь вероятность) – такие используются для моделирования семантики языка на основе какого-то корпуса. А тут можно делать это не на корпусе, а на конкретной генеративной модели – и исследовать семантику не одного языка, а движения между двумя (в духе Юрия Лотмана). Тогда эти две операции (произвольное уточнение и архетипичное обобщение) будут сопряженными функторами (adjoint) к генерации картинок. (Или чет типа того). Подозреваю, что закон "сохранения данных" (что какие-то операции с моделями не могут создавать новую информацию сами по себе) обеспечивает определенную степень "хорошего поведения" этих категорий.

Если морфизм между промптами это возможность уточнения (скажем от "кот" к "оранжевый кот"), то у категории есть начальный объект "что угодно", есть операция умножения (минимальное уточнение обоих промптов) и так далее.

С одной стороны, эти категории порождает некая конкретная модель, и в них есть что-то произвольное. С другой стороны, есть смысл предполагать, что при росте корпусов и их приближению к некой культурной насыщенности, эти категории будут очень похожи для разных очень больших моделей. С точки зрения экономики, это принципиальный вопрос: правда ли, что все "большие модели" будут очень похожи на друг друга по функциональности? Получается идея "культуры" как некоего предела корпусов.

Меня позвали провести воркшоп типа "GPT для студентов-гуманитариев" в новом центре, это будет на английском, но я вот думаю, если уж я его составлю, можно будет на базе каких-то других институций тоже повторить. Еще я думаю, что я не особо уверен про содержание, у меня в голове примерно что-то такое:

1. Как кодить с ChatGPT: без программирования тут не обойдется, так что пару занятий о том, как просить ChatGPT написать код и куда его потом копировать, чтобы запустить (и как не слишком рыдать во время этого процесса, или хотя бы продолжать сквозь слезы)

2. Чтение PDF: у всех студентов-гуманитариев миллион PDF, я вот думаю, показать, как их можно все вместе с ИИ прочитать (в смысле вытащить из них какие-то структурированные или обобщенные данные, с которыми можно потом работать в каком-то другом режиме: табличку, чат-бота, какие-то обобщения и тд). Может, сделаем чат-бота по Лакановским семинарам лол, я давно хотел, но мне было лень самому

3. Диджитал Хуманитис: попробуем повторить какой-нибудь недавний digital humanities пейпер, где люди закидывали кучу данных в GPT, считали на его основе какую-нибудь статистику, и делали таким образом типа исследование. "Изменения в настроении в дневниках Льва Толстого" ченить такое

Это все зум-семинаров на 8? И типа попросить каждого из студентов придумать свой проект и в последние несколько встреч сфокусироваться на них?

У меня вопрос для тех, кто ЦА этого курса (и кто никогда не программировал): это звучит интересно? Пугающе? Вообще не то что надо?

И вопрос для более опытных методистов, чем я: это слишком? Или это мало и слабо и скучно?

А если вот я наоборот сделаю, вместо одной серии на тему "ИИ для гуманитариев", постоянную подписку на "бусти" / "патреоне" для этого контента – на русском

- 5000р / 60$ / месяц - групповые онлайн-семинары, наверное для начала раз в месяц. (И может еще иногда стримы, когда я что-то релевантное делаю)
- 500р / 6$ / месяц - доступ только к груповому чату и записям семинаров
- можно больше - личная поддержка по какому-то конкретному проекту

Прощу прощения за все эти размышления вслух, но мне кажется, это может быть кому-то полезно. И я ничего не знаю о покупательной способности в РФ, еще и поэтому спрашиваю)

Сделал для одной группы бота для Decision Markets, это что-то типа публичных и автоматически вычисляемых ставок (на игровые деньги в боте, они там называются 🪥). Его можно добавить в групповой чат и создавать там эти маркеты, они будут видны только внутри этой группы. Бот – @PredictionMarketsBot , может кому-то еще будет интересно

Новая фича в @EveryLanguageGrammarBot: теперь, если вы учите язык вместе с кем-то, вы можете добавить его в свою телеграм группу и он будет исправлять сообщения и помогать с переводом (если вы забыли слово, впишите его на родном языке в [квадратных скобках], он заменит). Если все в сообщении правильно, он его проигнорирует. (Он сам оптимально тупит и ошибается, чтобы вы не расслаблялись)

(Был такой анекдот про "валенки сгорели"...)

В жанре сумбурных протоэссеистских заметок — запостил на субстек немножко про ИИ, инструменты и будущее логоцентризма. С рассуждениями о том, что такое, например, перевод, и чем ИИ в этом помогает; с предположением, что психоаналитикам будет теперь труднее придираться к словам. И что вообще ИИ теперь крипово видится за каждым текстом, как такая непреодолимая стена, отделяющая видимую нам формулировку от того, что могло бы быть изначальным актом человеческой речи, который к ней привел.

https://rogueliketheory.substack.com/p/ai-and-humanities

Я часто думаю о том, что я вижу, как меняются мнения и приоритеты людей с возрастом, и мои тоже, конечно, и как появляется всё больше всяких личных интересов, которые глупо не защищать, и как всё больше и больше тянет занимать простые и правильные позиции, согласные с силами добра и прогресса и разумности, зачастую более-менее совпадающие с направлением мысли тех, с кем взаимодействую. (И как контролировать то, с кем я общаюсь, хочется вовсе не по критериям их взглядов на ход мировой истории). Люди становятся консервативнее с возрастом и развитием собственной жизни/карьеры (кроме тех случаев, когда они становятся левее в силу каких-то конкретных карьерных путей, что на поверку оказывается довольно консервативным левачеством).

Я это всё уважаю. Например: когда кто-то уезжает в какую-то страну, и начинает ее изо всех сил защищать, а иногда даже не "страну" как абстракцию, а себя, в ней живущего, физически или хотя бы экономически. Или даже когда "одному моему другу" становится очень грустно платить столько налогов и т.д. Даже когда (как мне кажется) человек застревает в какой-то очень неуютной ситуации, и начинает иметь какие-то стремные мнения по разным вопросам, которые делают его жизнь уютнее: я стараюсь как-то к этому с пониманием относиться, хотя часто от этого хочется на стенку лезть просто.

Но при этом – какую брезгливость вызывают у меня многие мнения. Столкнувшись с каким-то человеком (или его блогом), хочется быстренько его триангулировать: левый или правый? не за путина ли? а че там по израильско-палестинскому? И многие люди и их блоги не заслуживают большего внимания, нежели эта триангуляция, потому что все их высказывания более-менее сводятся к повторению позиций по этим поводам.

Как ощущение способности абстрагироваться от всех мнений вокруг и занимать какую-то типа отдаленную перспективу тоже, на поверку, оказывается этим всем обосновано, через несколько знаков "минус". И о том, насколько на деле нетерпимыми и агрессивными оказываются люди, которые сами уверены и всех уверяют, что принимают любые чужие мнения – я вот и сам такой – некуда бежать от этого всего.

Как содержание следует из формы. Что инстаграм обязывает репостить трогательные фотографии и четкие дисклеймеры, твиттер – придумывать одноразовые афоризмы, телеграм – лонгриды, компенсирующие лишенность выводов туманной длиной. Что во многих ситуациях форма позволяет лишь сказать, что "всё сложно". Что визуальными формами никто не умеет пользоваться для чего-то, кроме наслаждения насилием и красотой (и насилием над красотой).

Мне с детства нравилось притворяться, что я понимаю чужие вкусы, обсуждать с одними "хороший алкоголь", с другими – любимый науч-поп или криптовалютные проекты. Мне нравилось погружаться в мир людей, обсуждающих тачки или кино, пытаться понять, как они это всё для себя различают, какими терминами они пользуются. За развитым вкусом всегда стоит какой-то язык, и язык интереснее любого мнения.

Я повторяю себе, что слава богу, что меня почти никогда никто не спрашивает, а если спрашивает, то иногда получается выдумать какой-нибудь терминологический ответ.

Моё собственное, "глубинное" мнение навязчиво давит на меня изнутри и мешает жить, не представляет особого интереса – но из этого, кажется, бывают и приятные исключения. Сформулировать его для себя, провести какие-то различия и найти для них язык – это для меня очень ценно. С каждым днём я становлюсь всё больше "за всё хорошее и против всего плохого", от этого воротит.

Уайтхед в "Приключениях идей": "Для пропозиции гораздо важнее быть интересной, чем истинной... Ибо энергия произведения или составления пропозиции есть интерес и значимость события опыта. Но конечно же, истинная пропозиция может быть интереснее, чем ложная."

За исключением тех нелепых, никому не нужных ситуаций, когда у меня есть какая-то власть, вряд ли что-то случится плохое с кем-то, кроме меня самого, если я окажусь неправ по какому-нибудь важному политическому поводу. Зато так можно что-нибудь интересное узнать, ввернуть потом в каком-нибудь разговоре, и услышать в ответ что-нибудь очень энергичное.

🏴 Республиканизм: политическое сообщество и общее благо

Если вы давно не вспоминали о Римской империи, то... возможно, сейчас самое подходящее время! Так считает Сергей Коретко, выпускник Центра «Стасис», администратор известного блога о философии «Левый консерватор», и приглашает всех на свой курс о политической философии республиканизма.

Теоретическая база для размышлений об общем благе, свободе и сообществе от античности до современности — ровно то, что вы получите, записавшись на этот курс. Но это еще не все! Курс не был бы так интерес без подробного анализа идей республиканизма, их связи с радикальными уклонами в теориях анархо-коммунизма, современных фашизма и либерализма.

Подробнее об этом курсе можно прочитать в канале Сергея «Левый консерватор», а здесь — посмотреть силлабус к курсу. Набор на курс будет идти до 10 октября, так что самое время поспешить!

В конце 1970-х в Иране произошла революция, которая привела к власти фундаменталистское исламское правительство, которое в итоге справедливо никому не нравится и является в нашем мире силой зла. Когда эта революция происходила, некоторые интеллектуалы, особенно во Франции, ее громко поддерживали – в первую очередь, Фуко и Сартр.

Этот момент является источником тревоги и стыда для следующих по пятам Фуко и Сартра публичных интеллектуалов. Сейчас, когда арт-интернет ругается по поводу публичного письма "Артфорума", подписанного разными знаменитостями, которое требовало освобождения Палестины, но не упомянуло действия Хамаса, я думаю про этих двух великих философов и их политические эффекты. Срач сводится к следующему тезису, который я перескажу без указания конкретного источника – что нельзя поддерживать требование "освобождения Палестины" без упоминания "варварства Хамаса; угнетение самим Хамасом палестинцев; региональных интересов Ирана, Катара и Турции; политического Ислама как чистого зла; 'палестинского сопротивления' как сводящегося к радикально исламистских группам".

Так вот про Сартра и Фуко. Мне кажется очень сомнительным, что их "поддержка" и "интерес" к революции имели какой-либо серьезный эффект на само революцию, или на последующее положение Ирана в мире. Они в этой революции не виноваты, и никак ей не помогли. Более того – хотя в этом я всё же немного сомневаюсь – но мне кажется, что именно их понимание собственного политического бессилия и бесполезности и позволяло этим философам делать громкие заявления.

Французские философы вообще много что странного провозглашали (Сартр и Делез (но не Фуко), например, подписали как-то письмо в поддержку педофилии, что, на мой взгляд, могло иметь какие-то куда более реальные последствия). За это мы их и любим; искать у них каких-то однозначно правильных этических предписаний было бы очень странно, для этого есть "Домострой".

Сейчас я обнаружил, что живу в стране, где запрещают демонстрации вроде "Берлинские дети за детей Газы", где терапевты доносят на палестинских мигрантов, потому что они выглядят почему-то грустно, где арестовывают и депортируют за призывы остановить насилие. И это проявление полицейского процесса, задачей которого является выяснить, а точнее выявить, даже в самых безобидных и доброжелательных призывах поддержку чего-то из этого списка: "варварства Хамаса; угнетения самим Хамасом палестинцев; региональных интересов Ирана, Катара и Турции; политического Ислама как чистого зла; 'палестинского сопротивления' как сводящегося к радикально исламистских группам".

Задачей публичного интеллектуала не является формулирование высказываний так, чтобы этому полицейскому процессу было абсолютно не к чему придраться. И точно его задачей не является участие в этом полицейском процессе, в выискивании в чужих словах какого-то недостаточного ясно выраженного порицания всего плохого. Задачей публичного интеллектуала, на мой взгляд, заключается в демонстрации того, что существуют какие-то интересные дискурсивные процессы, которые не совпадают с полицейским процессом ни по форме, ни по содержанию.

Письма типа письма "Артфорума" направлены не на то, чтобы сделать жизнь палестинцев лучше или хотя бы немного длиннее – они в этом абсолютно бессильны и палестинцев этот шум только раздражает (тех, кого я спросил). Они направлены исключительно внутрь либеральных стран, где живут их подписчики: чтобы хотя бы немного расслабить логику "безусловно поддерживай Израиль – или останься без работы и права на жительство", в которой некоторые из этих стран сейчас действуют. С содержанием этих писем можно спорить, но делать это с точки зрения обобщенной полиции – с точки зрения публичного интеллектуала просто глупо. Он же не мент всё-таки. Обидно, конечно, что нет у него ментовской власти – но в этом положении есть и плюсы.

Есть такая книжка у Рорти, «Случайность, ирония и солидарность», немного грустная... Я её сейчас не просто "перевру", я просто расскажу что-то ею отдаленно навеянное, а вы книжку сами правильно читайте.

Вот такая проблема. Макиавелли написал книжку "для принцев", ее читают "обычные люди", и им это не нравится, что они читают. Ну или всякие Ницше, Бодрийяр, Лакан критикуют понятия типа "истины", пишут это для "всех и никого", но пока это читают "никто" типа меня, нам прикольно, но если мы представим себе общество, построенное "по Лакану" или "по Бодрийяру" (его в Думе РФ цитировали, говорят, and it shows это про Дерриду), то это будет какая-то странная и бредовая жесть.

Стоит разделять два вида философствования, говорит Рорти: "приватное" и "публичное". Публичное это всякие хорошие вещи про истину, справедливость – Аристотель, Гегель, Хабермас. Приватное это вышеперечисленные странные философы, которых он называет "ироники".

Для Рорти "ироники" нужны для тех из нас, у кого "не удалась социализация", и они не хотят просто так с жизнью в обществе смиряться. Это такой для нас типа креативный нон-фикшен. Начитавшись приватно Ницше, если мы не совсем дураки, мы сможем чуть-чуть лучше социализироваться – это чтение будет успокаивать наши сомнения, пока мы "в нормальной жизни" оперируем вполне нормальными понятиями. Я могу сидеть и читать Маркса с Лаканом, ставить под сомнение что угодно, но в бытовом споре с соседом буду обращаться к обычным нормальным понятиям истины и справедливости, потому что они в этих спорах более-менее работают, и это для бытовой жизни главное. Поэтому "в жизни" мы являемся обычными либералами, и наши надежды на какую-то абсолютно другую политику оставляем в основном для литературы и иногда, возможно, для каких-то может быть нелитературных публичных жестов.

Но я добавлю кое-что, что делает меня еще хуже, чем Рорти: про использование "ироников" "для принцев".

Мне кажется, это очень важно, что "принцы" тоже так же критикуют истину и справедливость, и относятся к ним с сомнением и иронией, в рамках некого такого непрозрачного истинного "ведения дел". И то, о чем говорят эти иронисты – это эффективность, а не истина.

Когда какие-то власть-имущие начинают обращаться к истине, начинается полный ад и фундаментализм. Эффективность, конечно, жестока, но эта жестокость ограничена этой эффективностью; а вот власть-насилие, которое настаивает на истинности и справедливости своих проявлений, это власть-насилие, которое себя не ограничивает ничем.

И на деле (а не на словах) мы больше всего ненавидим власть не за ее отказ от истины и справедливости, что было бы немного смешно, а именно за ее неэффективность. Если очень упрощенно, с риском, что вы меня возненавидите: Вот есть одна война, достаточно неправедная, у которой было несколько событий, первое было "эффективное", потом была куча неэффективных. И да, первое нам тоже не нравится – оно было неправедным, но мы с ним еще как-то более-менее жили (многие даже быстро забыли), а вот когда пошли неэффективные события, тогда вокруг них пошел и уже совсем тотальный ад. (Это и есть беньяминовское различие "божественного насилия" и "мифического".)

Что делает, скажем, такой политический жест, как забастовка – это настаивает на том, чтобы делать что-то неправедное неэффективным для власти. В этом этой забастовки, собственно, и политическая эффективность. Столкнувшись с ней, власти остается либо эффективно пытаться договариваться, либо неэффективно настаивать на своей собственной мифической истине.

В твиттере прямо сейчас вирусится тред парня, который натаскал нейросеть на общение в тиндере с целью оптимизации и в итоге сейчас женится (отношения с девушкой в минуты кризисов ему тоже помогала налаживать нейросеть, да).

Я недавно примерно про это и писал — с той лишь разницей, что здесь вся история идет от пользователя, а не от платформы. Но общую картину это только подтверждает: ждем, когда похожие случаи всплывут при найме, (вы оттарабанили два этапа собеседований, а HR/кандидат оказался несуществующим и об этом никого не предупредили), в работе психологов (опять всем советую игру Eliza) или в политике (уверен, спичрайтеры пользуются ChatGPT и его подсказками довольно давно).

Аутсорс эмоций занимает важное место в современной экономике. Запрос на эмоциональную близость — вроде как очень интимную сферу, которая обязательно предполагает общение между живыми людьми и минимум посредников — можно, как оказалось, довольно успешно удовлетворить с помощью алгоритмов. В конце концов, само устройство дейтинг-приложений с их системой мэтчей и рейтингами ELO (как в спортивных лэддерах или на чемпионатах по шахматам) уже активно подталкивает к автоматизации и ускорению конвейерной цепочки. В этом смысле парень из треда просто продолжил логику среды, в которой мы все сейчас существуем и которая на нас успешно паразитирует.

Самым интересным сюжетом здесь, на мой взгляд, является не этичность всего предприятия (понятно ведь, что феномен с нами останется и выжечь его на корню или целиком запретить не получится), а то, какими в недалеком будущем могут стать практики сопротивления этим людям-доппельгангерам. Естественным ответом мне видятся символические сигналы и знаки, с помощью которых можно распознавать других по принципу свой/чужой — старая практика часовых кодов или фраз, птичий язык, который теми кто 'не в теме' просто не считается. Про диалектизмы и местные мемы, непонятные людям из других стран или субкультур, или эвфемизмы в художественной литературе, выбравшие своим объектом критику какого-то конкретного современника, все наверняка слышали.

Получается такая партизанская система, которая будет стараться убедить машину в том, что ты не человек, одновременно сообщая людям теми же самыми методами, что ты человек и нацепил на себя эту маскировку сознательно. Поскольку машина имеет какой-то формализованный по общепринятой норме набор параметров, определяющий 'человечность', самопровозглашенным партизанам придется действовать максимально не-человечески и заново себя выстраивать вне этой нормы.

Проблема таких практик в том, что они очень быстро устаревают: чем большему числу людей известен код, тем менее он надежен при определении другого; секрет Полишинеля уже и не секрет вовсе, обратный тест Тьюринга вряд ли сможет стать универсальным мерилом человека. Главная задача здесь — стать неквантифицируемым и неуловимым для сведения до набора формальных параметров, что в условиях физического мира довольно трудная задача.

Возможно, нас ждет гностическая мода на эксклюзивное, тайное знание, которое ценится в силу своей уникальности и добывается в процессе поиска неоцифрованных источников или опытов, которые не могут быть оцифрованы и сознательно скрываются от других. Греки, например, не рассказывали и не записывали ничего об Элевсинских мистериях и поэтому мы о них практически ничего не знаем. Гностицизм и киберпанк вообще сильно связаны между собой и не воспринимать нейросети как манифестацию архонтов-паразитов нижнего уровня довольно трудно (об этом есть замечательная книжка Эрика Дэвиса 'Техногнозис. Миф, магия и мистицизм в информационную эпоху', написанная еще в 90-е годы).

Пойти пересмотреть первого Блейд Раннера что ли

Я подумал, что можно рассказать в своём личном блоге, чем я занимаюсь в последнее время, а то до настоящего и серьезно выглядящего "релиза" еще какое-то количество усилий нужно, а показаться на свет немножко хочется, тем более, что это всегда немного отрезвляет.

Я пишу... язык программирования. Такой, который был бы специально заточен под генерацию LLM-кой, а не написанием вручную, поэтому у него очень мало каких-то синтаксических инноваций (сейчас это просто лисп), но довольно необычный рантайм.

Главный вопрос в том, как сделать так, чтобы компьютеру можно было давать всякие сложные, неполные, размазанные по времени инструкции. "Если мне придет емейл от босса, засуши лягушку, дождись полнолуния, если лягушка зеленая - пошли ему посылкой, а если красная - спроси меня, что делать дальше". Если генерировать из чего-то такого код на нормальном языке типа JS ( ;-) ), то не очень понятно, как и где его запускать: обычные рантаймы должны где-то висеть запущенными и ждать "полнолуния", или создавать какие-то кастомные триггеры в какой-то другой системе, или еще что-то такое. Поэтому несмотря на то, что ллмкам уже больше года, нет какого-то нормального и универсального подхода к пониманию и исполнению таких вот инструкций.

Рантайм Slalom⛷ (так оно называется) можно в любой момент поставить на паузу и сохранить в файл или бд. Он поддерживает создание триггеров, срабатывание которых можно легко проверить. Самые сложные и разнообразные инструкции от юзеров можно экономично и безопасно в этой штуке исполнять.

Slalom⛷ поддерживает синтаксические континуации, которые позволяют писать отложенные инструкции вроде "спроси меня в таком случае" или даже "спроси ИИ". Такая функция может взять снаружи код, который будет выполнен в том же контексте, что ее запустил, с сохранением всех переменных из окружения.

Я начал с того, что пытался заставить разные ллмки писать мне код для такого рода инструкций, и понял, что какие-то серьезные стейтмашины или синхронизацию асинхронных калбеков они особо не осиливают, и куда лучше справляются с простыми последовательностями действий и имплицитным состоянием их исполнения. Для инструкции типа "пойди туда, а потом пойди сюда" обычные скриптовые языки потребовали бы хранить где-то состояние всего плана, и реагировать на события, чтобы его менять - тут я постарался сделать так, чтобы самый простой код (буквально почти так и выглядящий: "пойди туда, а потом пойди сюда") работал, даже если поход занимает неделю и выполняющую его программу приходится перезапускать.

Ну и вообще многие решения в языке были приняты на основе экспериментов о том, какой код LLM пишут сами с минимумом инструкций, и как это так выполнять, чтобы не сильно жалеть. Мне кажется, в генерации кода есть очень много интересных возможностей (например, я надеюсь, что однажды получится добавить строгое типирование, и ограничивать с его помощью токены на этапе генерации - такой вот автокомлит для ИИ), и сделать язык, специально под это рассчитанный - это отличный шаг.

Это язык, скорее, для "workflows", поэтому нет особых стараний для того, чтобы он очень быстро выполнялся и т.д. Но много сделано для того, чтобы не бояться выдавать юзерам систему для его исполнения, для чего там есть всякие лимиты использования ресурсов и т.д.

Куда это пойдет и кого я смогу убедить это всё внедрить, я пока что понятия не имею, но я, конечно, полон надежд, что кого-нибудь Слалом заинтересует.

Пока я надеюсь тут вернуться к регулярной программе, когда я ничего не пишу. И написать про грядущий семинар "GPT for Arts & Humanities" в "Новом Центре".


А для ⛷️Slalom завёл отдельный блог, и написал чуть подробнее про рантайм. Предлагаю там подписываться, если вам интересна эта штука. (А если вы пользуетесь Hacker News, можете там найти пост в "New" и проголосовать... пожалуйста... только это делать со страницы New, на странице поста голоса не учитываются).

И раз уж я попрошайничаю, предлагаю вам еще и забустить этот канал, чтобы я шитпостил в сторис.