У Пелевина есть очень ранняя повесть "Омон Ра", практически лишенная всей этой его типичной хиппи-благодати, и до сих пор чаще всего мною вспоминающаяся. Там рассказывается об "истине" советской беспилотной космонавтики — которая заключается в калеках-пилотах, притворяющихся, собственно, автопилотами.
Ну вот, с ИИ все ровно так и вышло — нет никакого труда ИИ, есть только труд каких-нибудь несчастных индусов, который скрывается. В данном случае подмена происходит непосредственно, но обычно, конечно, опосредуется массивом данных, который готовят люди вручную, а машина потом сжимает до формулы, стирая тем самым остатки связей с людьми — доводя отчуждение до известного сегодня предела.
В этом нет, конечно, ничего принципиально нового, буржуазная идеология всегда работала на том, чтобы притворяться, что за "свободным творчеством" среднего класса не стоит пролетарского труда.
Когда я читал Омон Ра, меня сильно озадачивало само желание притвориться, что это вовсе не люди управляют этими аппаратами, а компьютеры. Но, может, в этом смысл того, что прокатывает за инновацию сегодня. Вовсе не новые научные горизонты ищутся в последние несколько декад, а способы замести настоящий труд под ковёр. "Маркеты" вроде убера скрывают сервисный труд, китайские генетические эксперименты — труд по воспитанию и образованию, машинное обучение — способ максимально отчуждать труд по обработке данных от момента их применения.
Пелевин указывает на это все, как на некий советский феномен. Это заставляет вспомнить один забавный спор про совок. Есть люди, которые говорят – советская экономика была очень слабой, и совок существовал за счет труда заключенных гулага. А есть люди, которые с ними спорят, тоже очень серьезные люди, и они говорят – нет, гулаг был убыточным, а экономика была достаточно сильная, чтобы гулаг содержать. Понятно, что фанаты СССР обычно на стороне вторых – потому что они за убежденность в эффективность советской экономики. Спор мне кажется странным, поскольку не очень понятно само разделение. Почему мы делим весь труд в СССР на труд "экономики" (как некой экономической машины?) и личный труд заключенных гулага? Где эта грань? Как может быть неэффективным гулаг в эффективной экономике? Чем труд рабочих или колхозников столь принципиально отличается от зековского, что мы приписываем только его "экономике"? Надо, как Сталин говорил, быть диалектиками, а не фокусниками...
А вообще, подобного рода марксистские рассуждения гораздо лучше выходят у Джеймсона, которого недавно наконец перевели, почитайте, если хотите. Его тезис: постмодернизм это интеллектуальный аналог экономической ситуации, когда реальный труд отделен от управления при помощи бюрократии настолько, что можно притвориться, что его не существует.
Ну вот, с ИИ все ровно так и вышло — нет никакого труда ИИ, есть только труд каких-нибудь несчастных индусов, который скрывается. В данном случае подмена происходит непосредственно, но обычно, конечно, опосредуется массивом данных, который готовят люди вручную, а машина потом сжимает до формулы, стирая тем самым остатки связей с людьми — доводя отчуждение до известного сегодня предела.
В этом нет, конечно, ничего принципиально нового, буржуазная идеология всегда работала на том, чтобы притворяться, что за "свободным творчеством" среднего класса не стоит пролетарского труда.
Когда я читал Омон Ра, меня сильно озадачивало само желание притвориться, что это вовсе не люди управляют этими аппаратами, а компьютеры. Но, может, в этом смысл того, что прокатывает за инновацию сегодня. Вовсе не новые научные горизонты ищутся в последние несколько декад, а способы замести настоящий труд под ковёр. "Маркеты" вроде убера скрывают сервисный труд, китайские генетические эксперименты — труд по воспитанию и образованию, машинное обучение — способ максимально отчуждать труд по обработке данных от момента их применения.
Пелевин указывает на это все, как на некий советский феномен. Это заставляет вспомнить один забавный спор про совок. Есть люди, которые говорят – советская экономика была очень слабой, и совок существовал за счет труда заключенных гулага. А есть люди, которые с ними спорят, тоже очень серьезные люди, и они говорят – нет, гулаг был убыточным, а экономика была достаточно сильная, чтобы гулаг содержать. Понятно, что фанаты СССР обычно на стороне вторых – потому что они за убежденность в эффективность советской экономики. Спор мне кажется странным, поскольку не очень понятно само разделение. Почему мы делим весь труд в СССР на труд "экономики" (как некой экономической машины?) и личный труд заключенных гулага? Где эта грань? Как может быть неэффективным гулаг в эффективной экономике? Чем труд рабочих или колхозников столь принципиально отличается от зековского, что мы приписываем только его "экономике"? Надо, как Сталин говорил, быть диалектиками, а не фокусниками...
А вообще, подобного рода марксистские рассуждения гораздо лучше выходят у Джеймсона, которого недавно наконец перевели, почитайте, если хотите. Его тезис: постмодернизм это интеллектуальный аналог экономической ситуации, когда реальный труд отделен от управления при помощи бюрократии настолько, что можно притвориться, что его не существует.
Фишер (и вообще CCRU) обращались к pulp (как лучше по-русски? Бульварной литературе?), чтобы сбежать одновременно и от высокого, и от "популярного" – популярного, в смысле хорошо освещённого, навязываемого. Pulp не популярен, ему не хватает для этого ни качества, ни амбиций, но он "проникает" — он как-то попадает ко всем, избегая какой-то централизованно-широкой публичности. Русские pulp-игры, ну это в первую очередь "Поле Чудес", может, Генерал, Аллоды, "Бойцовский клуб", разумеется (по последнему, довольно убогой браузерной игре с безумным совершенно сообществом, даже есть свой бульварный роман!). Все это вещи известные абсолютно всем, и при этом практически невидимые и неинтересные нормальным исследователям и игрожурналистам (я, правда, о них всех писал, но это только подтверждает).
Pulp-игры были всегда, а вот что действительно новое среди игр, это появление Высокого жанра. Раньше было довольно четкое деление на популярное и качественное против всякого бесплатного или шареваре. Самая ясная грань здесь по способу распространения: что-то продавалось на дисках (как официально, так и пиратами), а что-то добиралось до компьютеров непонятно как. Аудитория тоже была четко разделена - настоящие геймеры ездили на Горбушку и снобствовали по поводу бесплатных и "условно-бесплатных" игр, а их бабушки читали Донцову и играли в непонятно как попадающий на их компьютеры маджонг, как будто так и надо. "Игромания" была рупором масс-маркета, а великолепный Game.EXE искал pulp-журналисткий подход, эстетизируя и извращая на практически пустом месте.
При этом у геймеров взгляд был наметан, даже если на концептуальном уровне они не всегда улавливали разницу. Еще тогда геймерам был свойственен дикий снобизм, ненависть ко всему за пределами популярных игр, которые они не всегда осознанно, но очень точно отделяли от pulp. Они критиковали эти игры как "старые", "двухмерные", даже "демо-версии" (демо как форма...), хотя часто эти эпитеты в принципе не соответствовали реальности. Эти игры не были товарами, созданными для наслаждения геймеров – это, конечно, их раздражает (будучи созданы вне типичной экономической логики игр, они услаждали кого-то еще – бухгалтерш или хотя бы самих авторов игры). Агрессия против инди-игр в первую декаду их появления оставалась, видимо, в первую очередь, по инерции.
Инди-игры появились, по сути, вместе с приходом Steam – когда игры независимых разработчиков из чисто любительских, никуда не вписывающихся проектов превратились в некоторое хорошо оформленное, зарегистрированное культурное явление. Инди-игра это куда более четкая товарная форма, чем shareware. Разумеется, для таких игр совершенно необходима пресса – а она влечет за собой и появление очень хорошо определенного высокого жанра: Beginner's Guide, What Remains of Edith Finch и т.д. – чаще всего трехмерные ходилки, с намеками на квест и "environmental storytelling", жертвующие жанровыми игровыми циклами в пользу сюжета, отказывающиеся от насилия как игрового элемента, типичного для шутеров (на движках которых, они, впрочем, и создаются).
А тем временем на все компьютеры, карманные и настольные, продолжают как-то сами собой проникать pulp-игрушки: мои любимые пасьянсы, фермы, головоломки на айфон, бесплатные, не попадающие ни в какие маркеты рогалики. У меня тут на винде "кэнди краш", я пытался играть в него, думая над каждым ходом – но, если задуматься хотя бы на 5 секунд, он начинает показывать подсказку, что очень отвлекает! Это правда ужасно. И вот так ведь у них всё.
Pulp-игры были всегда, а вот что действительно новое среди игр, это появление Высокого жанра. Раньше было довольно четкое деление на популярное и качественное против всякого бесплатного или шареваре. Самая ясная грань здесь по способу распространения: что-то продавалось на дисках (как официально, так и пиратами), а что-то добиралось до компьютеров непонятно как. Аудитория тоже была четко разделена - настоящие геймеры ездили на Горбушку и снобствовали по поводу бесплатных и "условно-бесплатных" игр, а их бабушки читали Донцову и играли в непонятно как попадающий на их компьютеры маджонг, как будто так и надо. "Игромания" была рупором масс-маркета, а великолепный Game.EXE искал pulp-журналисткий подход, эстетизируя и извращая на практически пустом месте.
При этом у геймеров взгляд был наметан, даже если на концептуальном уровне они не всегда улавливали разницу. Еще тогда геймерам был свойственен дикий снобизм, ненависть ко всему за пределами популярных игр, которые они не всегда осознанно, но очень точно отделяли от pulp. Они критиковали эти игры как "старые", "двухмерные", даже "демо-версии" (демо как форма...), хотя часто эти эпитеты в принципе не соответствовали реальности. Эти игры не были товарами, созданными для наслаждения геймеров – это, конечно, их раздражает (будучи созданы вне типичной экономической логики игр, они услаждали кого-то еще – бухгалтерш или хотя бы самих авторов игры). Агрессия против инди-игр в первую декаду их появления оставалась, видимо, в первую очередь, по инерции.
Инди-игры появились, по сути, вместе с приходом Steam – когда игры независимых разработчиков из чисто любительских, никуда не вписывающихся проектов превратились в некоторое хорошо оформленное, зарегистрированное культурное явление. Инди-игра это куда более четкая товарная форма, чем shareware. Разумеется, для таких игр совершенно необходима пресса – а она влечет за собой и появление очень хорошо определенного высокого жанра: Beginner's Guide, What Remains of Edith Finch и т.д. – чаще всего трехмерные ходилки, с намеками на квест и "environmental storytelling", жертвующие жанровыми игровыми циклами в пользу сюжета, отказывающиеся от насилия как игрового элемента, типичного для шутеров (на движках которых, они, впрочем, и создаются).
А тем временем на все компьютеры, карманные и настольные, продолжают как-то сами собой проникать pulp-игрушки: мои любимые пасьянсы, фермы, головоломки на айфон, бесплатные, не попадающие ни в какие маркеты рогалики. У меня тут на винде "кэнди краш", я пытался играть в него, думая над каждым ходом – но, если задуматься хотя бы на 5 секунд, он начинает показывать подсказку, что очень отвлекает! Это правда ужасно. И вот так ведь у них всё.
❤1
Пара текстов в тему к предыдущему посту:
1.
> Мало того. Три поделки 1991 года выпуска побывали на половине компьютеров бывшего Советского Союза. МОРСКОЙ БОЙ, КИНГ и ПОЛЕ ЧУДЕС. Их успех определили не дизайн и не gameplay. Стечение обстоятельств и безлюдность на русскоязычном рынке софта.
<...>
> Через полгода спасители отечества вернулись на Русь и стали меня допытывать: -Где ты был, подлец? И почему твоя (то есть теперь наша) игра стоит на каждом втором компьютере с русской клавиатурой?
Ну что я мог ответить? Ничего. Плюнул и забыл.
https://habr.com/ru/post/124363/
2.
> Competitors were frustrated. “Myst is an anomaly — there is no logical reason to explain its success”, said Gary Griffiths of SegaSoft, one of the most ill-advised and incompetent PC publishers of that era. “All you need to do is look at the customer base to know that.”¹⁵ This was 1998, and these people hadn’t cracked the code. Nobody knew why Myst kept appealing to players who’d never bought a game before.
> <...>
> This paradigm-shattering success made Myst impossible to escape. Everyone knew this game; everyone was talking about it. Corporations wanted a piece of the pie, but couldn’t get it; pundits wanted to say something valuable about the situation, but Myst seemed resistant to prediction or interpretation. How do you wrestle with this thing that’s driving the industry without being part of the industry? Computer game people understood Quake II, released around the same time as Riven: it sold to the same guys who read PC Gamer, an audience you could predict. The Myst games didn’t.
https://medium.com/picking-up-the-pieces/two-histories-of-myst-8b37e1504f9e
1.
> Мало того. Три поделки 1991 года выпуска побывали на половине компьютеров бывшего Советского Союза. МОРСКОЙ БОЙ, КИНГ и ПОЛЕ ЧУДЕС. Их успех определили не дизайн и не gameplay. Стечение обстоятельств и безлюдность на русскоязычном рынке софта.
<...>
> Через полгода спасители отечества вернулись на Русь и стали меня допытывать: -Где ты был, подлец? И почему твоя (то есть теперь наша) игра стоит на каждом втором компьютере с русской клавиатурой?
Ну что я мог ответить? Ничего. Плюнул и забыл.
https://habr.com/ru/post/124363/
2.
> Competitors were frustrated. “Myst is an anomaly — there is no logical reason to explain its success”, said Gary Griffiths of SegaSoft, one of the most ill-advised and incompetent PC publishers of that era. “All you need to do is look at the customer base to know that.”¹⁵ This was 1998, and these people hadn’t cracked the code. Nobody knew why Myst kept appealing to players who’d never bought a game before.
> <...>
> This paradigm-shattering success made Myst impossible to escape. Everyone knew this game; everyone was talking about it. Corporations wanted a piece of the pie, but couldn’t get it; pundits wanted to say something valuable about the situation, but Myst seemed resistant to prediction or interpretation. How do you wrestle with this thing that’s driving the industry without being part of the industry? Computer game people understood Quake II, released around the same time as Riven: it sold to the same guys who read PC Gamer, an audience you could predict. The Myst games didn’t.
https://medium.com/picking-up-the-pieces/two-histories-of-myst-8b37e1504f9e
Хабр
История игрушки. Поле Чудес
Случилось это в городе, закрытом от шпионов, цыган и бед социалистической экономики. В Советском Союзе было ровно 10 таких городов, повязанных атомным секретом. Жизнь мальчиков с математическими...
Концепция, согласно которой организм полностью определяется ДНК, по сути отказывается от социо-экономических факторов развития — т.е., она правая насквозь, и используется вовсю всякими расистами. Марксисты ее конечно критикуют, ну типа:
> an organism does not compute itself from its DNA. The organism is the consequence of a historical process that goes on from the moment of conception until the moment of death; at every moment gene, environment, chance, and the organism as a whole are all participating….Natural selection is not a consequence of how well the organism solves a set of fixed problems posed by the environment; on the contrary, the environment and the organism actively codetermine each other.
Так вот. Люди используют метафору вычисления, которая сейчас легко ложится на "исходный код" / "выполнение программы". ДНК типа исходники. Но ведь даже в случае исходного кода программ, ее выполнение определяется окружением. То есть, метафора про люди как компьютеры хорошая, просто мы очень наивно смотрим на компьютеры.
> an organism does not compute itself from its DNA. The organism is the consequence of a historical process that goes on from the moment of conception until the moment of death; at every moment gene, environment, chance, and the organism as a whole are all participating….Natural selection is not a consequence of how well the organism solves a set of fixed problems posed by the environment; on the contrary, the environment and the organism actively codetermine each other.
Так вот. Люди используют метафору вычисления, которая сейчас легко ложится на "исходный код" / "выполнение программы". ДНК типа исходники. Но ведь даже в случае исходного кода программ, ее выполнение определяется окружением. То есть, метафора про люди как компьютеры хорошая, просто мы очень наивно смотрим на компьютеры.
Fact is: we, people, really want to see a subject behind the computers. This situation itself is quite psychoanalysable. We can look at our fantasies about AI, the movies, books, games, or this worst kins of fantasy which is an editorial, and see, what exactly we want the AI to want. It will tell us a lot about ourselves. This is a very sound, healthily sceptical and productive theoretical position. It doesn't assume there's a subject anywhere but in humans.
However, let's try to take a step further.
Consider the founding event of psychoanalysis, when Freud took a hysterical symptom and tried to find a subject behind it. Hysteric's body was doing something strange, nonsensical and painful. Freud said: let's try to treat it as a sensible message from someone. Note that it's not necessary for us to think this subject existed a priori: it's constructed discursively and this construction itself allows the hysteric to take some control over symptom.
A fantasy that we have about computers is that they are totally and sensibly predetermined, because they run according to predictable rules. Not only this fantasy is used to think about them, but also, since computation is the most important metaphor for understanding today, it is used to think about everything in the world. However, our daily experience with computers proves that they are absolutely unpredictable and susceptible to the weirdest behavior, errors, bugs, crashes and corruption. Those are exactly the symptoms of AI.
There's no real mystery, of course. We understand, that even though computers run according to specific rules, they do it in an unpredictable environment. One attempt to think about it a paradigm trying to consider is as an interaction with a context.
This attempt itself is reductive, because there's no clear line between the program and the context. The context is The Other, and it doesn't even exist, not as a limited and consistent entity. Every specific line between the program and the context is a specific way to assign blame for the inconsistency of computer's behavior, like we can blame the users or the progrmmers or whatever. This line can't be drawn in a definite, unambiguous manner, and it is always, maybe in a very local way, a political gesture. Psychoanalysis is the technique we have to deal with such things — and as we see, here it is far from being limited to humans.
However, let's try to take a step further.
Consider the founding event of psychoanalysis, when Freud took a hysterical symptom and tried to find a subject behind it. Hysteric's body was doing something strange, nonsensical and painful. Freud said: let's try to treat it as a sensible message from someone. Note that it's not necessary for us to think this subject existed a priori: it's constructed discursively and this construction itself allows the hysteric to take some control over symptom.
A fantasy that we have about computers is that they are totally and sensibly predetermined, because they run according to predictable rules. Not only this fantasy is used to think about them, but also, since computation is the most important metaphor for understanding today, it is used to think about everything in the world. However, our daily experience with computers proves that they are absolutely unpredictable and susceptible to the weirdest behavior, errors, bugs, crashes and corruption. Those are exactly the symptoms of AI.
There's no real mystery, of course. We understand, that even though computers run according to specific rules, they do it in an unpredictable environment. One attempt to think about it a paradigm trying to consider is as an interaction with a context.
This attempt itself is reductive, because there's no clear line between the program and the context. The context is The Other, and it doesn't even exist, not as a limited and consistent entity. Every specific line between the program and the context is a specific way to assign blame for the inconsistency of computer's behavior, like we can blame the users or the progrmmers or whatever. This line can't be drawn in a definite, unambiguous manner, and it is always, maybe in a very local way, a political gesture. Psychoanalysis is the technique we have to deal with such things — and as we see, here it is far from being limited to humans.
щас буду выступать на Interlocutories (Transmediale) в разговоре с Аароном Шустером буду читать вот это по бумажке ^ (писал бухим с телефона не судите)
Знаете все эти наивные псевдонаучные рассуждения типа "мозг это нейросеть" (обычно заканчивающиеся тем, что "и поэтому надо быть неолибералами", кто бы мог подумать)? Вот возможно нас скоро ждёт новая наивная псевдонаучная метафора (с тем же выводом)
Я никогда бы не начал смотреть Maniac если бы кто-то о нем мне не сказал! Ужасно! Он очень классный, все смотрите, там очень интересный мир недобудущего, психоанализ таблетками и компьютером, блеклые цвета и атмосфера тухлой шизофреничной драмы
Не нужно верить в бессмертную душу, чтобы видеть, что компьютер как соперник в игре отличается не содержанием своих действий, а тем, что он не включен ни в какие внешние социальные иерархии. Я не говорю ни о чем серьезном, просто о том, что уделать товарища (или незнакомца) в игру это событие, выходящее или хотя бы способное выйти за пределы игры. У ИИ в игре нет ничего за ее пределами, как бы он в нее не играл.
ИИ в игре это чисто эстетический феномен, в самом скучном смысле этого слова. Какой бы он ни был умный и сложный и интересный, он такой, потому что так решили его создатели. Не потому, что создатели понимают, что делают, а потому, что создатели могли его настраивать до тех пор, пока он хоть немного не соответствовал их взгляду. Роль, написанная для фильма или спрограммированный ИИ - явления одного порядка. Считать, что сложность и умность "диплернинга" как-то сама по себе что-то изменит наивно. Диплернинг может помочь людям сделать что-то красивое и интересное, но это все равно будет авторским ходом.
И даже не только в игре. "Алиса" так интересна, потому что она своим криповым способом выражает взгляд на мир менеджеров Яндекса, "Алекса" - Безоса, а за Сири стоит дух Джобса. Потребительский ИИ это про эстетику, стиль, определенного рода доступность - это элемент дизайна, а не трансцендентность технологии.
ИИ в игре это чисто эстетический феномен, в самом скучном смысле этого слова. Какой бы он ни был умный и сложный и интересный, он такой, потому что так решили его создатели. Не потому, что создатели понимают, что делают, а потому, что создатели могли его настраивать до тех пор, пока он хоть немного не соответствовал их взгляду. Роль, написанная для фильма или спрограммированный ИИ - явления одного порядка. Считать, что сложность и умность "диплернинга" как-то сама по себе что-то изменит наивно. Диплернинг может помочь людям сделать что-то красивое и интересное, но это все равно будет авторским ходом.
И даже не только в игре. "Алиса" так интересна, потому что она своим криповым способом выражает взгляд на мир менеджеров Яндекса, "Алекса" - Безоса, а за Сири стоит дух Джобса. Потребительский ИИ это про эстетику, стиль, определенного рода доступность - это элемент дизайна, а не трансцендентность технологии.