Fact is: we, people, really want to see a subject behind the computers. This situation itself is quite psychoanalysable. We can look at our fantasies about AI, the movies, books, games, or this worst kins of fantasy which is an editorial, and see, what exactly we want the AI to want. It will tell us a lot about ourselves. This is a very sound, healthily sceptical and productive theoretical position. It doesn't assume there's a subject anywhere but in humans.
However, let's try to take a step further.
Consider the founding event of psychoanalysis, when Freud took a hysterical symptom and tried to find a subject behind it. Hysteric's body was doing something strange, nonsensical and painful. Freud said: let's try to treat it as a sensible message from someone. Note that it's not necessary for us to think this subject existed a priori: it's constructed discursively and this construction itself allows the hysteric to take some control over symptom.
A fantasy that we have about computers is that they are totally and sensibly predetermined, because they run according to predictable rules. Not only this fantasy is used to think about them, but also, since computation is the most important metaphor for understanding today, it is used to think about everything in the world. However, our daily experience with computers proves that they are absolutely unpredictable and susceptible to the weirdest behavior, errors, bugs, crashes and corruption. Those are exactly the symptoms of AI.
There's no real mystery, of course. We understand, that even though computers run according to specific rules, they do it in an unpredictable environment. One attempt to think about it a paradigm trying to consider is as an interaction with a context.
This attempt itself is reductive, because there's no clear line between the program and the context. The context is The Other, and it doesn't even exist, not as a limited and consistent entity. Every specific line between the program and the context is a specific way to assign blame for the inconsistency of computer's behavior, like we can blame the users or the progrmmers or whatever. This line can't be drawn in a definite, unambiguous manner, and it is always, maybe in a very local way, a political gesture. Psychoanalysis is the technique we have to deal with such things — and as we see, here it is far from being limited to humans.
However, let's try to take a step further.
Consider the founding event of psychoanalysis, when Freud took a hysterical symptom and tried to find a subject behind it. Hysteric's body was doing something strange, nonsensical and painful. Freud said: let's try to treat it as a sensible message from someone. Note that it's not necessary for us to think this subject existed a priori: it's constructed discursively and this construction itself allows the hysteric to take some control over symptom.
A fantasy that we have about computers is that they are totally and sensibly predetermined, because they run according to predictable rules. Not only this fantasy is used to think about them, but also, since computation is the most important metaphor for understanding today, it is used to think about everything in the world. However, our daily experience with computers proves that they are absolutely unpredictable and susceptible to the weirdest behavior, errors, bugs, crashes and corruption. Those are exactly the symptoms of AI.
There's no real mystery, of course. We understand, that even though computers run according to specific rules, they do it in an unpredictable environment. One attempt to think about it a paradigm trying to consider is as an interaction with a context.
This attempt itself is reductive, because there's no clear line between the program and the context. The context is The Other, and it doesn't even exist, not as a limited and consistent entity. Every specific line between the program and the context is a specific way to assign blame for the inconsistency of computer's behavior, like we can blame the users or the progrmmers or whatever. This line can't be drawn in a definite, unambiguous manner, and it is always, maybe in a very local way, a political gesture. Psychoanalysis is the technique we have to deal with such things — and as we see, here it is far from being limited to humans.
щас буду выступать на Interlocutories (Transmediale) в разговоре с Аароном Шустером буду читать вот это по бумажке ^ (писал бухим с телефона не судите)
Знаете все эти наивные псевдонаучные рассуждения типа "мозг это нейросеть" (обычно заканчивающиеся тем, что "и поэтому надо быть неолибералами", кто бы мог подумать)? Вот возможно нас скоро ждёт новая наивная псевдонаучная метафора (с тем же выводом)
Я никогда бы не начал смотреть Maniac если бы кто-то о нем мне не сказал! Ужасно! Он очень классный, все смотрите, там очень интересный мир недобудущего, психоанализ таблетками и компьютером, блеклые цвета и атмосфера тухлой шизофреничной драмы
Не нужно верить в бессмертную душу, чтобы видеть, что компьютер как соперник в игре отличается не содержанием своих действий, а тем, что он не включен ни в какие внешние социальные иерархии. Я не говорю ни о чем серьезном, просто о том, что уделать товарища (или незнакомца) в игру это событие, выходящее или хотя бы способное выйти за пределы игры. У ИИ в игре нет ничего за ее пределами, как бы он в нее не играл.
ИИ в игре это чисто эстетический феномен, в самом скучном смысле этого слова. Какой бы он ни был умный и сложный и интересный, он такой, потому что так решили его создатели. Не потому, что создатели понимают, что делают, а потому, что создатели могли его настраивать до тех пор, пока он хоть немного не соответствовал их взгляду. Роль, написанная для фильма или спрограммированный ИИ - явления одного порядка. Считать, что сложность и умность "диплернинга" как-то сама по себе что-то изменит наивно. Диплернинг может помочь людям сделать что-то красивое и интересное, но это все равно будет авторским ходом.
И даже не только в игре. "Алиса" так интересна, потому что она своим криповым способом выражает взгляд на мир менеджеров Яндекса, "Алекса" - Безоса, а за Сири стоит дух Джобса. Потребительский ИИ это про эстетику, стиль, определенного рода доступность - это элемент дизайна, а не трансцендентность технологии.
ИИ в игре это чисто эстетический феномен, в самом скучном смысле этого слова. Какой бы он ни был умный и сложный и интересный, он такой, потому что так решили его создатели. Не потому, что создатели понимают, что делают, а потому, что создатели могли его настраивать до тех пор, пока он хоть немного не соответствовал их взгляду. Роль, написанная для фильма или спрограммированный ИИ - явления одного порядка. Считать, что сложность и умность "диплернинга" как-то сама по себе что-то изменит наивно. Диплернинг может помочь людям сделать что-то красивое и интересное, но это все равно будет авторским ходом.
И даже не только в игре. "Алиса" так интересна, потому что она своим криповым способом выражает взгляд на мир менеджеров Яндекса, "Алекса" - Безоса, а за Сири стоит дух Джобса. Потребительский ИИ это про эстетику, стиль, определенного рода доступность - это элемент дизайна, а не трансцендентность технологии.
Это "децизионизм", типа, как у Карла Шмитта - у него законы любой может придумать, но установит их как законы только суверен своим решением. Вот и компьютер может написать сколько угодно симфоний, но в какой-то момент кто-то решит их все-таки послушать, выбрать какую-нибудь и выложить. И именно его решение поместит симфонию в культурное пространство.
Блин написал пост и Алекса на меня обиделась и сбила таймер и я сжег шницель
Короче, похоже "иммерсивность" это что-то вроде "дазайна", просто риторическое средство для критики всего, что кажется не "аутентичным". То есть это такой пустой аргумент в пользу какого-то конкретного сорта реализма, который в данный момент человеку почему-то кажется максимально похожим на реальность.
Спорил тут с одним мужиком, он мне говорит "мне плохой ИИ разрывает иммерсивность своей нереалистичностью, поэтому жду хороший ИИ" - ну фиг знает. (Вообще у реальных людей обычно очень плохой ИИ?)
Другая сторона понятия "иммерсивность" это что типа так сильно в игру погружаешься, что тебя от нее не оттащишь. Это как раз про глагол "разрывает". Но блин, тоже, побойтесь бога, самая иммерсивная игра это Candy Crush. Погружение в игру совершенно не связано с ее реалистичностью. Это человеческое поведение постоянно нам рвет шаблон, а в игре наоборот, все чинно, спокойно, предсказуемо, ни к чему снаружи не отсылает - тогда и получается там сто часов набирать.
Спорил тут с одним мужиком, он мне говорит "мне плохой ИИ разрывает иммерсивность своей нереалистичностью, поэтому жду хороший ИИ" - ну фиг знает. (Вообще у реальных людей обычно очень плохой ИИ?)
Другая сторона понятия "иммерсивность" это что типа так сильно в игру погружаешься, что тебя от нее не оттащишь. Это как раз про глагол "разрывает". Но блин, тоже, побойтесь бога, самая иммерсивная игра это Candy Crush. Погружение в игру совершенно не связано с ее реалистичностью. Это человеческое поведение постоянно нам рвет шаблон, а в игре наоборот, все чинно, спокойно, предсказуемо, ни к чему снаружи не отсылает - тогда и получается там сто часов набирать.
Всеми любимая барменша-конгресвумен Александрия Окаcио-Кортес подняла бучу своими твитами о том, что вот, алгоритмы – расисты. Все сразу полезли с мнениями. Люди, которые сидели в академии двадцать лет, уныло повторяя пустой аудитории хайдеггеровскую критику технологии ("технология это плохо, потому что мы миром просто пользуемся"), очень обрадовались и пишут шизофреничные статьи. Александр Галлоуэй написал просто ужасную, вроде взрослый мужик, а открыл для себя какой-то SJW-тумблерспик и стал им о компьютерах писать ("mathematics itself is typed if not also explicitly gendered and racialized" – мне вот такое можно, но он-то академик). Но и ему далеко до Дэвида Голумбии, который описал ИИ как символ белого супрематизма и поставил в шапку фотку ККК: "The Great White Robot God", с аргументами вроде "жертв Холокоста считали на компьютере, а значит, компьютеры это фашизм".
Конечно, какое-то адекватное высказывание в пользу такого рода рассмотрения ИИ необходимо. Но таких высказываний уже было немало те же 20 лет назад, и были они куда более интересными (мое любимое это, конечно, Сэди Плант, Zeros+Ones). Первый вопрос в таких делах не в том, чтобы кого-то убедить в чем-то, а в том, чтобы сделать мир сложнее и интереснее, и практику математики/программирования увидеть поглубже и в контексте всего общества. У Плант получается, у этих – нет.
С другой стороны, мне кажется я за последний год прочел статей пять про SimCity. SimCity превращается в такой жупел правого урбанизма, все винят его во всех бедах и пишут расследования. Вот я сейчас читаю Кевина Бейкера в журнале Logic, но был и Педерчини, и еще кто-то. О чем идет речь? О том, что люди играют в SimCity и думают после этого: "надо инвестировать в бизнес" и так они становятся злыми неолибералами. О том, что SimCity построена на том, чтобы изображать, что системы хорошо работают от правой политики.
Самое простое здесь мнение это "конкретно SimCity виновата, а значит, надо написать другую игру – где надо не в бизнес инвестировать, а деньги давать бедным". В общем-то Бейкер о том же говорит. Но все-таки это наивно. Вот вам мое правильное мнение:
Когда вы в игре "управляете городом", вы в любом случае находитесь в позиции технократа. В позиции человека, который думает, что можно найти оптимальное решение для оптимального развития такого-то города. Вы думаете: я изучу системы и тогда сделаю все хорошо по системам. И в жизни тоже вы думаете: я почитаю социологов и сделаю все хорошо, как они говорят. (Кстати, если вы почитаете достаточно социологов, быстро поймете, что никто ничего не понимает, как хорошо сделать). (А потом еще можно почитать Асю Казанцеву и жить, как она учит, она же все знает про эндорфины – значит и о том, как надо жить).
Такая технократическая позиция полностью упраздняет политику. Нет никакой больше политики – есть только оптимальное решение любой проблемы, подсказанное якобы наукой (а на самом деле, каким-то конкретным ученым, с которым обычно далеко не все согласны). И это плохая ситуация, хотя бы потому, что оптимальные решения видят только те проблемы, которые призваны решить. Вы не можете заниматься хорошей политикой или управлением, не слушая тех, чью жизнь вы обустраиваете – а это не может дать игра. Игра может смоделировать какой-то очень конкретный тип людей. Но в тот момент, когда город оптимизирован под какой-то тип людей, сразу появляется другой тип людей, которым от этого плохо. И вот тут-то и начинается политика.
Конечно, какое-то адекватное высказывание в пользу такого рода рассмотрения ИИ необходимо. Но таких высказываний уже было немало те же 20 лет назад, и были они куда более интересными (мое любимое это, конечно, Сэди Плант, Zeros+Ones). Первый вопрос в таких делах не в том, чтобы кого-то убедить в чем-то, а в том, чтобы сделать мир сложнее и интереснее, и практику математики/программирования увидеть поглубже и в контексте всего общества. У Плант получается, у этих – нет.
С другой стороны, мне кажется я за последний год прочел статей пять про SimCity. SimCity превращается в такой жупел правого урбанизма, все винят его во всех бедах и пишут расследования. Вот я сейчас читаю Кевина Бейкера в журнале Logic, но был и Педерчини, и еще кто-то. О чем идет речь? О том, что люди играют в SimCity и думают после этого: "надо инвестировать в бизнес" и так они становятся злыми неолибералами. О том, что SimCity построена на том, чтобы изображать, что системы хорошо работают от правой политики.
Самое простое здесь мнение это "конкретно SimCity виновата, а значит, надо написать другую игру – где надо не в бизнес инвестировать, а деньги давать бедным". В общем-то Бейкер о том же говорит. Но все-таки это наивно. Вот вам мое правильное мнение:
Когда вы в игре "управляете городом", вы в любом случае находитесь в позиции технократа. В позиции человека, который думает, что можно найти оптимальное решение для оптимального развития такого-то города. Вы думаете: я изучу системы и тогда сделаю все хорошо по системам. И в жизни тоже вы думаете: я почитаю социологов и сделаю все хорошо, как они говорят. (Кстати, если вы почитаете достаточно социологов, быстро поймете, что никто ничего не понимает, как хорошо сделать). (А потом еще можно почитать Асю Казанцеву и жить, как она учит, она же все знает про эндорфины – значит и о том, как надо жить).
Такая технократическая позиция полностью упраздняет политику. Нет никакой больше политики – есть только оптимальное решение любой проблемы, подсказанное якобы наукой (а на самом деле, каким-то конкретным ученым, с которым обычно далеко не все согласны). И это плохая ситуация, хотя бы потому, что оптимальные решения видят только те проблемы, которые призваны решить. Вы не можете заниматься хорошей политикой или управлением, не слушая тех, чью жизнь вы обустраиваете – а это не может дать игра. Игра может смоделировать какой-то очень конкретный тип людей. Но в тот момент, когда город оптимизирован под какой-то тип людей, сразу появляется другой тип людей, которым от этого плохо. И вот тут-то и начинается политика.
❤1
Политика, короче, это как минимум ответственность за себя – не надо ее перекладывать на умных людей и ученых. Проблема не в том, что умные люди и ученые ничего не понимают. Проблема в том, что как только вы поставили какую-то конкретную цель, как только выбрали какой-то KPI (это значит какая-нибудь статистика, которую вы хотите улучшить), то в общем-то для этики (политики, вопроса о благе...) уже поздно. Этика, политика и вопрос о благе - это даже не просто сам выбор цели, а некое понимание того, что нет никакого настоящего и адекватного способа выбрать эту цель раз и навсегда, что при любом выборе цели всегда останется что-то за бортом, и это оставшееся и будет самым важным.
Это только что были говорящие через меня Рансьер или Агамбен. А я хочу еще добавить следующее, шизофреничное, и не очень правильно интерпретирующее известных постструктуралистов:
Очевидно, что от SimCity люди получают массу удовольствия. Это нечто очень важное здесь. Дело не в том, что они хотят управлять городами, и идут учиться по SimCity. Наоборот: они замечают свое удовольствие от SimCity, и в итоге управляют городами.
Что это за удовольствие? (Только не надо пожалуйста ничего про мозг!) Это удовольствие, присущее этой самой сложной системе. Когда человек в ней участвует, помогая системе работать, он и сам к этому удовольствию приобщается. (От этого оно не становится "его удовольствием", как вы удовольствие присвоите?). Но те люди, которые вокруг этого удовольствия организуются, приобщиться к нему могут далеко не всегда. Они отчуждены. Оптимальная работа города или системы – это масса удовольствия, но совершенно необязательно, что для живущих в нем людей. Нужно всерьез воспринимать это удовольствие, потому что через него мир вообще весь работает. Игры дают нам доступ к его пониманию, но одновременно и показывают, насколько оно на самом деле нам чуждо.
Короче ладно, у меня всё. Ссылок на все эти статьи не будет, потому что я ими дико недоволен. Фотка – моего фейсбучного знакомого Константина Лазарева.
Это только что были говорящие через меня Рансьер или Агамбен. А я хочу еще добавить следующее, шизофреничное, и не очень правильно интерпретирующее известных постструктуралистов:
Очевидно, что от SimCity люди получают массу удовольствия. Это нечто очень важное здесь. Дело не в том, что они хотят управлять городами, и идут учиться по SimCity. Наоборот: они замечают свое удовольствие от SimCity, и в итоге управляют городами.
Что это за удовольствие? (Только не надо пожалуйста ничего про мозг!) Это удовольствие, присущее этой самой сложной системе. Когда человек в ней участвует, помогая системе работать, он и сам к этому удовольствию приобщается. (От этого оно не становится "его удовольствием", как вы удовольствие присвоите?). Но те люди, которые вокруг этого удовольствия организуются, приобщиться к нему могут далеко не всегда. Они отчуждены. Оптимальная работа города или системы – это масса удовольствия, но совершенно необязательно, что для живущих в нем людей. Нужно всерьез воспринимать это удовольствие, потому что через него мир вообще весь работает. Игры дают нам доступ к его пониманию, но одновременно и показывают, насколько оно на самом деле нам чуждо.
Короче ладно, у меня всё. Ссылок на все эти статьи не будет, потому что я ими дико недоволен. Фотка – моего фейсбучного знакомого Константина Лазарева.
❤1