Мы знаем сейчас, что у глаза есть слепые пятна, которые мы не распознаем как слепые, потому что мозг достраивает там те образы, что мы ожидаем увидеть. Изображения, сгенерированные GAN, сродни этому процессу. Они изображают “слепое пятно” так же, как мы его обычно видим.

Попытки мозга скрыть слепые пятна это часть общего процесса вытеснения самого различия между фокусом и периферией взгляда. (Об этом вытеснении можно вскользь почитать у Лиотара). Тот факт, что фокусировка – и следующее за ней вычленение конкретного объекта конкретной формы – это активный процесс, вытесняется нами, потому что полное принятие этого факта лишило бы нас возможности жить в мире независимо от нас существующих объектов, и погрузило бы в текучий и недифференцированный мир, вроде изображенного на картинке выше. (Конечно, этот процесс коррелирует с тем, что в самом мире есть немало локальных участков, сохраняющих или пытающихся сохранить свою форму, но у этих “участков” нет никакой доступной нам конкретной реальности, и мы привыкаем их узнавать лишь по их эффектам – по тому, что нам кажется, что какие-то объекты остаются похожими сами на себя достаточно долго).

Мы можем обобщить этот подход, заметив, что, например, и генерация текста часто рождает похожие эффекты – тексты, которые никак не собираются во что-то ясное целиком, но состоят из кусочков или фраз, каждая из которых кажется частью чего-то осмысленного. Текст превращается в “текстуру”, некоторое поверхностное повторение тех эффектов, которые в оригинале были следствиями каких-то процессов, но в данном случае копируются как чисто визуальные.

Когда технология делает явным процесс фокусировки, оказывается эксплицитным и вопрос о его стоимости. Взгляду слишком “дорого” видеть всё, и мозг достраивает его слепые пятна, потому что и так сойдет. Слишком дорого платить иллюстратору, чтобы он все рисовал – и какие-то картинки можно выдать нейросетке, чтобы она просто нарисовала что-нибудь. Но проблема не только в том, что мы оказываемся в мире, где далеко не все могут позволить себе фокусировку, или доступ к реальности.

Вытеснение различия между фокусом и периферией рождало определенную “справедливость внимания”, когда внимание к деталям и консистентность исполнения могли бы быть показателем качества работы. Но если это различие возвращается как активный эффект технологии, оно будет воссоздаваться везде, потому что продолжение его вытеснения это неоправданная трата. А потому даже самые дорогие, качественные и важные технологические продукты будут сохранять этот градиент фокуса, довольствуясь бесформенностью и бессмысленностью там, куда смотрят реже и мельком. (Я думаю про составы на балончиках освежителей воздуха, которые мы читаем, сидя в туалете – в мире, генерируемом ИИ, ясность этих составов и связанное с ними наше туалетное развлечение будут неоправданной роскошью.)

Едва дифференцируемой, лишенной четкой формы периферией в таком мире окажется практически всё.

Протест против картинок, сгенерированных ИИ, на Артстейшин, наверное, запомнится как первый пример забастовки против ИИ (так ли это, мне сейчас лень разбираться). И в принципе я конечно за любую правосоздающую движуху. Но конкретно в случае Артстейшина хочется немного понаписать всяких ехидностей.

Артстейшин это очень конкретная и узкая тусовка, куда уже даже фликра или девиантарта. Там, насколько я понимаю, есть только один стиль: stylized realism, и в нем два жанра: персонажи в полный рост, но главное: полные мелких деталей, нуарно-сайфайно освещенные интерьеры в драматических композициях. Это все выглядит круто первые раз пятьдесят. Ничего другого там в принципе не приживается; не могу представить себе там никаких известных мне интересных тридэ-художников, не говоря уж о любых других медиумах.

Это такое «искусство эффорта»: да, насмотреться композиций и нафигачить деталей. Выучить довольно ограниченные законы популярного стиля. Такого искусства полно, и оно по-умолчанию нравится, потому что, даже если непонятно, зачем оно нужно, можно похвалить старания и умения. Меня лично от такого искусства особенно тошнит, и я предвкушаю времена, когда ИИ полностью возьмет на себя любой такой чистый эффорт, и старания перестанут казаться самоценными.

Пока думал об этом, подумал о (стандартной) фотографии как «искусстве доступа», все эти серии типа «я смог подойти близко к красивым моделям» или «я побывал в Тибете», хвастовство среднего класса. Это ИИ, мне кажется, заменить не сможет, хотя и такая система оценок надоела жутко.

(Этот канал, как видите, продолжает политику "ни эффорта, ни доступа")

если хочется убить в себе империю, начать легко: нужно исключить из повседневного словаря слово «выбор»

британские учёные доказали, что придумали его колонизаторы для тех, с кем они работали во время своих экспедиций.

у людей до этого было слово «необходимость» и слово «решение», потому что их можно найти в мире. решения принимают люди, необходимость диктует голод или господь.

в Библии слово «выбор» встречается трижды — в книге Иеремии, в словосочетании у Павла в послании к Римлянам: сначала «выбор Божий», а потом такое: еду выбирать можно разную. но важнее другое — идти к миру и не ссориться с братом своим по пустякам, а что ты там ешь — твой выбор. очень пренебрежительно к акту выбора. и правильно.
в Илиаде всё началось с того, что Парис решил, будто у него есть выбор. пожалуйста, давайте не будем как Парис.

демократия искони отдавала решение случайности или решению коллективного субъекта, который обретал волю, когда оказывалось, что он един в своём решении.

выбор — это нечто противоположное свободе. выбор считают свободой только когда приходят нейробиологи и говорят: за меня всё решил кишечник.
тут приходят люди «за свободу» и говорят: нет, у тебя есть выбор, ты можешь ослушаться кишечника. наверное, предполагается, что мы в этот момент — Ева в райском саду. но повторю, даже у Евы не было выбора — она приняла решение, и Адам тоже.

кстати, с понятием «выборы» проблемы начинаются со слова «выбор», но про это вы, наверное, и без меня знаете. ну и с референдумом. и это часть сюжета, где появляется человек со словами «мы приняли непростое решение».

Сделал бота, который исправляет грамматические и речевые ошибки и объясняет их, на основе API OpenAI (в основном тестировал на немецком, потому что немного безуспешно пытаюсь его учить). Вот попробуйте @EveryLanguageGrammarBot. Он иногда говорит ерунду всякую, так что не надейтесь на него слишком, но в каких-то бытовых ситуациях или на ходу это проще, чем теребить друзей-носителей, и полезнее, чем гугл-транслейтить.

Перед этим я попробовал какое-то нормальное настоящее спелл-чек API от настоящих лингвистов, и оно не нашло почти никакие ошибки, кроме самых банальных. Ну и я в ужасе, конечно, от того, насколько много чего неожиданно становится не нужно.) Зато оказываются нужны хорошо поставленные задачи и удобно сделанные интерфейсы.

На прошлой неделе я написал бота для проверки грамматики (@EveryLanguageGrammarBot), который пользуется GPT-3 (и меня очень радует, что вы им пользуетесь); в этот момент что-то кликнуло и я понял, как все этой фигней пользоваться. Неожиданно из странной технологии, с которой можно играться, GPT-3 превратился для меня в инструмент, с помощью которого можно что-то строить; я построил пару удивительных (для меня и тех, кому их показывал) вещей, одну даже успел кому-то впарить.

Через пару лет все приложения будут состоять из промпта с простым интерфейсом, и будут понимать и организовать всю информацию за вас сами; а многие из задач, связанных с экспертной обработкой информации, будут легко автоматизированы. Это было и так понятно, но теперь же мне стало ясно, что такие штуки уже можно делать без команды гениальных учёных и миллиарда инвестиций на видеокарточки.

Это всё изменит наше отношение к информации. Обыденная "осмысленность" будет производиться (и потребляться) практически без трудозатрат, а потому, мне кажется, перестанет цениться. Что это значит, я не знаю) Но если действительно произойдут перемены на уровне понятия "смысла", то есть если мы будем к "смыслу" по-другому относиться — гораздо проще, возможно — то, поскольку это какое-то очень необходимое для нас понятие, произойдёт какая-то серьезная перемена в структуре человеческой субъектности. Это не первый раз, конечно; можно попробовать сравнить с переменами от письменности, печатного станка или фотоаппарата. (Кстати, вот и ответ на вопрос, достигнет ли ИИ "человеческой субъектности": возможно, он ее так поменяет, что она уже не будет годиться ни в какие стандарты.)

Эти вопросы о дивном новом мире и моем месте в нем меня не покидали. Я не думаю, что эти перемены как-то очевидно к лучшему, я точно не считаю, что они сами по себе избавят нас от войн или изменят наши отношения с природой. Но какие-то очень важные для меня вещи меняются; мне хочется быть в гуще событий не потому, что они мне сильно нравятся, а потому, что сейчас там лучше видно.

Был комментарий к посту про бота: "хорошая терапия: Написать [бота на основе] новой технологии, которая вызывает ужас". Что-то типа того. Практическая работа в этой области дает мне некую точку зрения, из которой действительно получается это все как-то... переваривать (ну или "осмыслять", если это слово еще что-то значит).

Короче, стало ясно, что мне надо делать. Я забил на всё, чем занимался, уволился и пошел делать свой бизнес, делать и продавать инструменты для работы с "большими языковыми моделями".

Почему бизнес? Ну, передо мной некая буря, что-то тревожное, область, так сказать, высокой энтропии. По отношению к ней у меня не получилось быть отрешенным философом, гадать по доносящимся газетным заголовкам, обсуждать все эти вещи с людьми, которые их никогда не видели и всё равно хотят о них фантазировать. Бизнес — это зона негативной энтропии, то есть это форма жизни, как ее понимали Больцман и Шредингер. Мне такая зона была нужна, чтобы из нее смотреть на этот новый мир; и бизнес - единственный способ для себя ее создать, что я вижу. В конце концов, те формы жизни, что принимает современный ИИ, это тоже всё еще формы бизнеса, а не языковой субъектности.

(Нет, этот блог не превращается пока что в "советы как построить свой продукт на ИИ за 5 дней и заработать 100000000₽", хотя меня очень тянет, конечно). Конкретнее про бизнес потом расскажу, но скорее всего о нем здесь будет мало, а будет все ещё всякое философствование. Пойду пока дальше читать про convertible note.

Сделал маленькую текстовую игру о жизненных перипетиях с использованием GPT-3, абсолютная вершина геймдизайна, конечно – поиграть можно тут @GetOverItBot

Игра оказалась очень затягивающей и популярной, я даже сам удивлен, и довольно трагичной. Я думаю, что многие уже поняли механизм) Но есть еще сторона, которую вам не видно. Да, бот выдает в ответ очень странные и непредсказуемые истории, может быть близкие к некому "обобщенному фольклору глазами ИИ". Но я смотрю одним глазком в логи (их много, я их удаляю и особо не смотрю, не стесняйтесь, я ко всему отношусь с пониманием и уважением) и вижу еще более странные сообщения, которые ему пишут игроки: в них появляются какие-то общие странные темы, даже какое-то подобие обобщенного... самосознания. То есть игроки в ответ образуют тоже своего рода генеративный Искусственный Интеллект, машину для придумывания все новых и новых странных сценариев тщетных попыток покинуть эту воронку отчаяния.

Я все еще считаю, что генерация текста – это одно из самых скучных и переоцененных применений ИИ, и не могу представить, чтобы я читал сгенерированные романы, статьи или стихи. С ужасом думаю о том, что через год-другой останутся только игры, где персонажи будут выдавать мне бессмысленные стены якобы интересного нагенерированного текста. Это же я говорю и тем, кто со мной советуется про использование GPT-3 – мол, не делайте чат, делайте управление текстом, но без всяких монологов в ответ. В кино всякие слуги и дворецкие далеко столько не трындят, сколько по-умолчанию выдает ChatGPT (в жизни я со слугами и дворецкими никогда не сталкивался, так что не знаю). Мне кажется, что сама технология GPT будет долго оставаться пугающе свежей и находить все новые странные применения, но лонгриды от ИИ читать никому не желаю.

Наверняка мои надежды не оправдаются, и станет только хуже, просто мы привыкнем. Вещи же сильно сжимаются, если их понимать, и тогда они как будто бы перестают быть такими громоздкими. Ну типа, как таблица умножения занимает в голове куда меньше места, чем на бумаге. Или вот мы смотрим на какие-нибудь кассовые чеки, на которых много всего написано, но сразу понимаем, где там что, где цена, где результат транзакции. Информационный мусор относительно легко игнорируется, когда к нему привыкнешь. Так и со стандартными искусственными текстами – может быть, в какой-то момент мы все притерпимся, и вместо трех занудных абзацев станем сразу видеть "а, это текст по промпту «вступление к статье о личной продуктивности»". Будем жить в мире некачественных дешевых текстов, которые нет смысла читать, но их продолжают генерировать, потому что это дешево и не так стыдно, как свои писать.

А может, мы всегда в таком и жили. Люди же читают вдумчиво лонгриды не от ИИ, хотя содержания там обычно примерно на маленький промт. Радостно потирают ручки, завидев длинный текст на любимую тему, прекрасно зная, что там не будет ничего нового – даже рассчитывая на это, а то новое утомляет. Играют во всякий Deus Ex и читают в нём эти бессмысленные всякие заметки.

Может, правильный взгляд здесь был бы – принять, что в этом и есть суть человечества, мол в антропологической перспективе – повторять одни и те же сказки и анекдоты, генерировать вариации одного и того же мифа. Если бы "Закон убывающего удовольствия" был применим к "удовольствию от текста", может, человеческой цивилизации вообще бы не сложилось. Может, это значит, что ИИ ускорит не столько какой-то типа научный или креативный прогресс, но какое-то тотальное мифологическое сгущение.

Вот и с этим в голове я был очень удивлен, насколько весело читать то, что эта игра в ответ пишет. Мне кажется, секрет тут не в том, что ИИ как-то талантливо изобретает истории, а в том, что он от души издевается над игроками. Удовольствие штука загадочная, и как выглядит "Удовольствие от ИИ" мы еще только начинаем понимать.

Говоря вслух про эту войну, особенно перед ее началом, я наделал всяких ошибок, и мало какие из моих “предсказаний” сбылись (за многие даже стыдно). Это меня радует, потому что оставляет меньше возможностей перепутать свои мысли с реальностью; я могу обсуждать какие-то мрачные сценарии, не впадая в излишнюю тревогу по поводу того, что они окажутся правдой.

Но вот о чем я думаю – уже с самого детства я помню предсказания от экологов о периоде “ресурсных войн” и климатических катастроф, который должен был бы начаться в течение века. Разумеется, тогда для меня это всё было про “где-то еще”, и я не сильно думал о том, что это будет как-то касаться меня. Я, как и почти все представители моего поколения, считал, что мир это нормальное состояние мира, а война это странное извращение; только в последние годы я стал думать, что мое поколение, возможно – единственное, для которого война не является чем-то совершенно нормальным; и что и наши предки жили, и наши потомки будут жить с куда менее взглядом.

Сам вопрос о том, входит ли конкретно эта война в период обещанных “вызванных климатической катастрофой ресурсных войн” оказывается очень этически нагружен. Среди объяснений типа “паранойи Путина”, “происков американцев”, “необходимости бороться за ресурсы” (ну и каких-то еще) каждая может оказаться причиной и следствием любой другой. Выбор конкретного объяснения – это серьезный этический жест, поскольку он сразу влечет за собой очень конкретную этическую позицию. Конечно, из них мне симпатичнее всего первая, но я распознаю этот выбор причины исключительно как мой собственный личный жест. (Можно ли “не выбирать”? Ну некий выбор есть всегда, поскольку без выбора причины невозможно ничего говорить или сделать; в любых монологах на тему “я не буду выбирать объяснение” легко прочесть какое-то конкретное объяснение – “все люди злодеи” или “войны неизбежны” и т.д.; если рассмотреть такое объяснение прямо, со всеми практическими следствиями из него, то возможно, оно покажется автору монолога куда хуже, чем одно из тех, которое он пытается критиковать.)

Идея о новом, полном ресурсных войн периоде мировой истории, помимо навязывания печальных образов будущего, извращает и многие привычные этические позиции. Эти позиции зачастую очень сильно зависят от фантазии о том, что жизнь становится лучше. У Канта это было так – он посмотрел на кровавую французскую революцию и сказал: “Эти ужасные события сами по себе пугают, но как символ они – повод для оптимизма, поскольку выражают желание человечества быть свободнее и лучше”. Фантазия о развитии этической жизни позволяет простую позицию по отношению к любому кошмару: “Это закончится, все будет хорошо, такие вещи будут происходить реже” (и даже: "у меня столько друзей благодаря этой катастрофе, мы взялись за ручки и все вместе против, а значит, добро победит"). И действительно, пока по какой-то причине казалось, что жизнь становится, в долгосрочной перспективе, лучше (почему? из-за постоянного капиталистического роста?), можно было игнорировать мрачную реальность жизни на Земле, воспринимать ее как нечто временное.

“Ресурсные войны”, как идея, пугают тем, что в них напрочь откинуты любые универсалистские фантазии – это войны за то, чтобы одна маленькая группа людей получила больше ресурсов, чем другая; никаким символом того, что “человечество хочет быть свободнее и лучше” они быть не могут. (А если и могут, то таким образом, который принимать не хочется – представьте себе нацию, которая уничтожает какую-то другую, чтобы “человечество стало свободнее и лучше”). В предельной точке фантазии, “ресурсная война” как этическая категория это такая ситуация, где универсалистская этическая позиция оказывается полностью несовместима с выживанием. “Конечно, я хочу коммунизм и свободу для всех, но если мы не будем убивать соседей, то строить его будет некому”. (С логической точки зрения фраза, конечно, бессмысленная, но представить себе ситуацию, где в нее трудно не верить, легко (и мы видели об этом немало фильмов))

(Искусственный Интеллект легко вписывается в эту историю как нечто, что опрокидывает логику того, что нации нужно большое население. Пока эта идея жила, она тоже могла вдохновлять универсалистские фантазии; но если ИИ действительно сделает большое население экономически нецелесообразным, то что помешает миру разложиться на груду маленьких, хорошо вооруженных технологических наций, и миллиарды беженцев, бродящих между ними?)

Я читал как-то школьные сочинения юных либералов, предлагающих логику в духе “давайте посмотрим на этику будущего, и сразу сделаем как у них – мы же абсолютно уверены, что будущее повлечет за собой только больше сексуальной и идентичностной свободы”, и думал о том, что “этика будущего” всегда оказывается абсурдно иной, и что наши потомки будут воспринимать нас как злодеев и идиотов за вещи, которые нам кажутся абсолютно нормальными. Да, мы сами еще далеки от уничтожающей этики точки “ресурсных войн”; я надеюсь, что она, как фантазия, не будет достигнута никогда. Но я распознаю и как невероятную роскошь возможность в принципе рассуждать об универсалистской этике – этике, в которой трудно не распознать условия разрастающегося капитализма. Если же наши потомки вырастут в период нормализации ресурсных войн, то для них универсализм может оказаться совершенно абсурдной идеей. Это не значит, что от него надо отказываться – наоборот, что стоит увидеть в нем уникальную и роскошную позицию, доверенную нам историей, которую, возможно, никому не получится передать.

У всех есть в голове такие кнопки, которые включают в ответ на какое-либо заявление или обращение поток пустой речи: "Вообще все [в обобщенной категории, о представителе которой шла речь] так плохо", или "Это, конечно, хорошо, но подумали ли вы о [еще одной категории страдающих]?", или "Ну, мы же понимаем, что невозможно делать какие-либо выводы в [предметной области] из-за [банальных эпистемологических причин]" или "Это хорошо, что ты пришел ко мне с этой проблемой, я тебе всегда помогу, твой звонок очень важен, оставайся, пожалуйста, на линии, мы как организация очень ценим такие обращения"... Иногда ловишь себя на каких-то таких автоматических речах, которые льются совершенно бездумно, и прям стыдно становится; другой стороне, которая слышит что-то такое, тоже часто становится стыдно за свое попадание в эту ситуацию, даже если изначально заявление или обращение было не таким уж и плохим.

Какой социальный смысл таких речей? Это что-то вроде амортизации, эти слова – такая подушка безопасности, которая позволяет смягчить чужое желание, или перенаправить его, может быть сэкономив кому-то (часто, кстати, "вышестоящему") время или силы. Стыдно в ответ становится от своей слабости, ощущения, что простыми разговорами ничего не добиться, и нужно либо сдаться, либо включать режим борьбы.

А потому такие речи служат для повышения ставок. Столкнувшись с таким вызовом в ответ на наши заявления, у нас два варианта реакции – либо забить и продолжить говорить о чем-то другом, либо начать стоять на своем с куда большей энергией. "Нет, этот случай особенный", "Нет, наша благотворительность, хотя и не универсальна, приносит много пользы в т.ч. и особым категориям страдающих", "Нет, моя проблема серьезная, это не просто типа обращение – мы ее должны сейчас решить"... Такие речи это вызов: скажи что-то действительно умное или оригинальное, или лучше молчи; твори настоящее добро или замолчи. Они, как комната с мягкими стенами из "Фантомас разбушевался", заставляют либо успокоиться и смириться, либо обдумать и направить свою борьбу.

Так вот, что мне очень нравится в LLM (современных языковых моделях типа GPT): они производят банальные речи, похожие по пустоте, но куда точнее и богаче по содержанию, на абсолютно любую тему, и это служит ровно таким же вызовом для нашего брата-графомана. Если кому-то вдруг стало казаться, что можно достичь какого-то признания, производя регулярные банальности на их любимые темы (будь то в виде текстов, кода, живописи), то теперь эти банальности должны быть не хуже, чем на уровне ChatGPT.

(Напишу бота на днях, чтобы оставлял комментарии к моим постам в духе "да это все ерунда и ИИ ничего не понимает", "да ученые давно опровергли Лакана и доказали ненаучность постмодернизма", чтобы сэкономить время и слегка повысить ставки уважаемому комментариату)

24 марта в 19:30 (по Москве) будем беседовать с Полиной Колозариди и ChatGPT про "Удовольствие и ИИ", будут трансляция и запись, подключайтесь )

Предположения о том, как ChatGPT может участвовать в терапии, вызывают массу эмоций, потому что напрямую касается болезненных вопросов о том, как и чем люди и их разговоры – особенные. Тексты про ИИ полнятся довольно странных мифов, причем с обоих сторон – там, где "верующие" в ИИ предлагают свои абсурдные фантазии о перекройке этими технологиями социальной фабрики, верующие в уникальность человека городят высокомерные и странные конструкции о возможности и необходимости гуманизма, которые и без ИИ трудно воспринимаются всерьез.

Глупый подход здесь в том, чтобы просить у ChatGPT советик. Конечно, это будет советик на уровне (или даже чуть лучше) произвольной self-help литературы или КБТ, и мало это кому поможет. Тут, впрочем, есть важный нюанс: к ИИ у некоторых людей может быть доверия больше, чем к другим людям, и это может повлиять на первоначальные эффекты. ИИ вполне годится в "субъекты-предположительно-знающие": есть отдельная, очень широкая категория странных людей, которая проигнорирует любой полезный совет, если только он не обрамлен в "я проанализировал все твои данные и с вероятностью 72% тебе нужно сделать вот это", и от ИИ этого проще ожидать, чем от тётки-терапевтши. Другой вопрос, что этим доверием, которое всегда должно быть обмануто, терапия не ограничивается; сведенная к таким вот data-driven советам, терапия рискует не более, чем дрессировать одержимых само-трекингом невротиков.

Более интересным мне кажется то, как GPT может адресовать невротическое убеждение в уникальности симптома. Большая проблема, которая мешает терапевтическому прогрессу, заключается в убежденности, что страдания уникальны и абсолютно невыразимы. Поскольку GPT это не более, чем усредненный и банальный универсальный дискурс, он может легко выразить самое невыразимое и ужасное страдание в ровно таких же усредненных, банальных и успокоительных терминах. Обнаружив, что с помощью нескольких промптов вы можете заставить его рассказать историю о самих себе, которая звучит куда более спокойно и ясно, нежели ваш внутренний дискурс, может быть, вы сможете найти и свой симптом куда более выносимым.

Через 37 минут тут будем беседовать про ИИ, если хотите присоединяйтесь послушать, запись тоже потом должна быть.

https://itmo.zoom.us/j/81530013684?pwd=QkNyQnR2dlowNmRFaVI3YUpvcmtkQT09

Идентификатор конференции: 815 3001 3684
Код доступа: 87612

https://www.youtube.com/watch?v=Pp4EIuCIyoU Вот запись вчерашней беседы, получилось довольно душеспасительно, спасибо Полине и "Центру DH" за приглашение. Обсудили связанный с ИИ регресс от знания к удовольствию и поговорили про гниение.

Сделад для журнала "Холод" интервью с ChatGPT https://holod.media/2023/03/30/gpt-4

Вопреки моим увещеваниям, они его слова отредактировали, поэтому исчезли его разные тонкие шуточки, например, он сформулировал опостылевший оборот как "вызывают задуматься". 🙁

Вообще... есть некий такой пустой публицистический жанр: "Проблема важная, но у нее есть две стороны, и дела плохи, но в то же время и хороши, и мы должны не забывать о своей ответственности, но более умелые и в правильном месте находящиеся люди чем мы уже занялись проблемой, так что ждем, но надежд не поднимаем, потому что ничего не изменится, кроме вот одного абсурдного предсказания которое я делаю для кликбейта." Единственный понятный мне способ из этого режима вылезти, не меняя при этом жанр на репортаж или исследование, это предлагать какие-то странные концепты, пытаясь вообще поменять язык для разговора о ситуации, а это получить от GPT достаточно сложно.

Пропт-инжениринг это еще одна демонстрация того, что вопросы интереснее ответов, ну за исключением какой-то такой ограниченной радости, типа как от говорящего умилительно умные вещи ребеночка. В интервью, конечно, вопросы сами по себе интересны не всегда, и собеседнику приходится иногда перепридумать, чтобы дать более интересный ответ. (Если на вопросы вообще не пытаться ответить, они становятся скучными – в этом смысле ответ нужен вопросу не чтобы его закрыть, а чтобы распознать и оценить то напряжение, что за этим вопросом стоит). Ботик это не особенно готов делать.

Приходилось, короче, боту немножко за кулисами подсказывать. Я старался это делать "честно", то есть не вкладывать слова ему в рот, а пытаться его именно навести на что-то. Это немного странное занятие, и сложное, потому что он так легко соглашается с чем угодно, поэтому нужно как-то очень издалека ему задавать вопросы, чтобы нащупать какую-то его агентность. Это как такая новая форма выражения – что-то можно выразить словами, придав какую-то форму какой-нибудь мысли, а вот "выразить в ChatGPT" это уже немного сложнее, но помогает найти этой мысли что-то вроде ее особенной внутренней простоты.

В какой-то момент у разных креативных нейросеток стало трудно не замечать своеобразную “ауру", некое их уникальное и аутентичное существование, которое было связано не только с их удивительными способностями, но скорее с теми странными ошибками и глюками, в которых проявлялся их своеобразный характер. Это касается как и и у генераторов картинок типа DALL-E или Midjourney, с их криповыми образами и странным стилем, так и чат-ботов – ChatGPT, но в еще большей степени Bing Chat, который прозвали ChatBPD за очень характерный, своенравный, истеричный стиль.

Это хорошие примеры того, как Беньяминовское понимание “ауры” и той угрозы, которая несет ей технология, несколько перегружено и может быть уточнено. Странное, ауратичное существование, которое он видел в предметах искусства, конечно, особый предмет человеческого поиска; столкнувшись с проблемой “технической воспроизводимости”, художникам приходится изобретать какие-то другие способы вернуть своим творениям “уникальное существование”. Типичная стратегия здесь – сделать так, чтобы работа выражала собой некую критику собственной материальности, чтобы таким образом зафиксировать ее в каком-то уникальном моменте; критическую работу невозможно “воспроизвести”, потому что такая критика, перенесенная в какой-то другой момент, будет критиковать уже что-то другое (или вообще потеряет смысл). Как-то так пытается уникально-существовать немало искусства последней сотни лет, и, хотя потенциал такой критики явно не истощен, трудно не думать о том, что натужная неизбежность этого подхода уже давно всем надоела.

Отношения “технологии” и “ауры” едва ли могут сводиться к их взаимоуничтожению. Когда Беньямин говорит о “технической вопроизводимости”, он видит за продуктами технологии некий серийный характер: технический процесс понятен и воспроизводим, и именно эта серийность мешает “уникальности и аутентичности”. Но технология не сводится к понятному и воспроизводимому; другой вопрос, что ее невоспроизводимость нужно правильно понимать: не как принципиальную “невозможность” воспроизвести, но только как некую социальную/экономическую/историческую неадекватность этого воспроизводства. Здесь она достигается не за счет особых, критических отношений с актом создания, но в качестве некоторого избытка, затратного излишества, которое невозможно оправдать при повторении.

Никто никогда не будет тренировать ровно такую же сетку, как Bing Chat или Midjourney старой версии, потому что это дорого, странно и бессмысленно. Если у кого-то есть так много капитала, то куда разумнее его потратить на что-то новое. Эти сетки, со всеми их глюками, уникальны и аутентичны потому, что они активно существуют, вмешиваются в этот мир, но при этом, хотя они и остаются самыми обычными примерами технологии, они не серийны и не воспроизводимы. Их существование очень хрупкое; мы получаем массу удовольствия от их странностей и глюков, но в какой-то момент их отключат, заменят на куда более качественные продукты, “ауру” которых мы уже не сможем распознать. А по этим мы будем скучать, и их глюки останутся в истории культуры, даже если технологии будут отключены навсегда.