Не существует никакого сильного или слабого ИИ без людей, так или иначе его тренирующих, то есть поставляющих и чистящих ему данные, будь то за копейки через mechanical turk или за какие-нибудь лайки и доступ к контенту. Без них ИИ это просто тендерфлоу на макбучике, иллюзии величия "дата-саентиста" со слишком большой для его габитуса зарплатой, оно мир не уничтожит. Тот ИИ, что уничтожит мир, будет сперва натренирован задешево с нарушением духа (но вряд ли отстающей буквы) трудового законодательства и эксплуатацией разного рода общественных ресурсов, от энергетического сырья до культурных артефактов. Вопрос об этом труде и ограничениях на его использовании - которое в случае уничтожений миров точно можно назвать "эксплуатацией" - не просто адекватнее с концептуальной точки зрения, чем фантазии о его самостоятельной и враждебной субъектности, но еще и актуален уже сейчас.

Что это за труд? Из двух ресурсов, на которых тренировали GPT-2 - веб-страницы и лайки на реддите для их отбора - получаются вполне ожидаемо бессмысленные шитпост-результаты... Мы видим, что просто кучи рандомного контента, который действительно доступен бесплатно, недостаточно, как это было ясно еще когда мы в прошлой эре интернета пытались придумать "аггрегаторы контента", надеясь, что просто собрать кучу ссылок было бы интересно. Лайки решили эту проблему слегка - они отмели совсем уж полное говно, но создали ситуацию, в которой оптимизируется кликбайт (а людей мучит состояние постоянной немедленной оценки). Короче, реддит это не нью йоркер - редакторы и кураторы все еще нужны, хотя никто им платить и не собирается. Вот и ИИ, способный не просто на шитпосты, но на что-нибудь типа "хотеть убивать", придется тренировать на более специальных и аккуратно отобранных данных - это называется "воспитание" и "забота", и критика эксплуатации такого рода труда развивается феминистками не меньше века.

На первый взгляд, есть три стороны в споре про ИИ и технологию, если так немного наивно смотреть (я книг не открывал много лет, и давно живу в мире собственных философских фантазий, играю в Philosophy Manager 2020 вместо изучения реальной):

1) ученые-позитивисты - сильно давят своей ученостью, ненавидят все философски-звучащее, аргумент обычно "мы сами не знаем, что мы можем, и знать не хотим (это была бы философия) - бойтесь и уважайте нас и наших монстров" (недавно вышедший стюарт рассел)

2) хайдеггерианцы - "технология в любом случае плохая, потому что выражает неправильный взгляд на мир, который его портит. бойтесь и не уважайте ее, берегите душу, читайте стихи". хайдеггерианцы как участники дискурса уже не существуют, но существуют как графоманы

3) бумер-постгуманисты, т.е., философы-ландианцы (ланд, реза, брасье) - с пенис-энви к первым, аргумент "не технология это недо-мы, а мы это недо-технология, так что ждем-с, когда нас превзойдет". декаду назад это был аргумент против хайдеггерианцев и чтения стихов, но тех давно уже все перестали слушать, а сейчас это консервативный (крипто-фашистский (или не крипто)) аргумент против любых попыток справиться с порчей мира

Для всех трех, мы видим, наука и технология это такая великая слепая и тупая сила, меняющая мир непонятно как. Эта сила вызывает страх и благоговение. Первые пытаются на ней самой осторожно заработать, вторые - заработать на страхе перед ней, а третьи - заработать на благоговении.

Можем ли мы сказать что-то другое? Можем ли мы сказать "Хватит всех этих фантазий о мощи науки, хватит притворяться, что квантовая физика нас всех поменяла больше, чем те за ней стоящие силы, что финансировали изучение атомной бомбы; хватит думать, что это ИИ великая сила, а не отвратительные стартапы, которые легкими статистическими методами воруют у нас время и небольшие суммы денег?"

Для этого нужно "другое" понятие материи, другой материализм, другое то, что сопротивлялось бы произвольности формы. Понятие материи как чего-то внешнего полностью апроприировано всеми этими чуваками - ученые говорят, что они-то ею и занимаются (и могут то ли все, то ли очень непонятно что); хайдеггерианцы оплакивают, что мир до нее раздет; бумер-постгуманисты, которые все - клозетные идеалисты, пытаются доказать, что они материалисты, просто потому что любят науку. Тут все потеряно, эта материя форме сопротивляться больше не может.

У Лиотара есть такая идея про душу (Anima Minima), которая обнаруживает, что у нее есть тело, когда ее потрогали или сделали ей больно. Это не материя, которую ты находишь с микроскопом, а материя, которая навязывает тебя твоей фальшиво-автономной душеньке, и от нее ты никуда не денешься, потому что ты из нее сделан. Это, на самом деле, правильное развитие Аристотелевского понятия материи как отрицания формы (а не наоборот). У Лакана так же определяется бессознательное (и он разумно называет себя Аристотелианцем или как сказать?). Через это понятие и надо работать с технологией. Ученые так не умеют (без разделения субъект-объект они не могут), хайдеггерианцы наверное могут, но не умеют работать с технологией, а бумер-постгуманистам это невыгодно, потому что не вписывается в их схему самоотрицания ради технологии.

Примеры работы через такое понятие: Жан-Ив Жирар и его исследования материальности логики через (не его) понятие "ресурса"; модная (слава богу) критика человеческого труда в ИИ; мой психоанализ бага как события материальности.

Забыл упомянуть в посте сторону 4) Феминисток. Я о них всегда пишу а тут забыл. Их вклад не сводится к гендерной справедливости и всякому такому. Та критика, которую они предлагают - критика невидимого труда - применима к критике технологии напрямую, и в общем-то развивалась преимущественно именно ими. Та история технологии, что предлагает Плант, или ее онтология, развиваемая Барад, исходит не из приписывания особой и центральной агентности определенным участникам - будь то искусственные интеллекты или какие-нибудь конкретные мужики, - а, наоборот, на попытках описывать прогресс так, чтобы невозможно было игнорировать инфраструктуры заботы, воспитания, обучения, поддержки, общения и прочего труда, который сам создаёт не впечатляющие объекты, но субъекты, которые уже в свою очередь могут приписывать объективное (отчужденное) созидание себе.

Интернет как набор форм для самовыражения явно показывает пару вещей о безумии, что мы подозревали и так:

1) Что "сублимация" это капиталистический обман, чтобы заставить нас набирать классы. Ох если бы только я научился выражать свою боль инстаграмом, свое отчаяние через телеграм-канал... Кому это надо, мне? "Обществу"?)) Понятно кому. Это не идет никуда, конечно, никому не помогает. Особенно, как мы видим, блоггеры самоубиваются еще как. Мы знаем о людях, которым их паблики с мемами якобы помогают выжить, потому что они постоянно нам сообщают, что они на грани. А гордая лаканистская формула "художник - тот, кто не отрицает ничего в себе" (альтернативная псевдофрейдовскому учению о сублимации), ломается сразу, когда мы, положив руки на клавиатуру, забываем про собственную задницу.

Романтическое представление о внутреннем разделении человека на тело и душу (о котором писал ночью мой пьяный коллега по "заводному карнапу") превращается даже не в "в интернете"/IRL, а в бесконечные "в линкедине", "во тайном аккаунте инсты", "в тиндере”. Раньше "псих" было исключением из общества, постоянно ему угрожающим, поскольку тело психа оставалось в том же физическом пространстве, а сейчас оно будет, скорее, предложением поискать другую компанию - всем, даже самым отвратным, находится местечко для таких как он в интернете. И в итоге вместо борьбы с Формой мы оказывается под властью малых форм, и это работает, например, так:

2) 4chan (и двач) были экспериментами по выживанию и высказыванию в условиях постоянного унижения и насмешки, по уходу от наполненного обманом или лицемерием общества в мир абсолютной честности, якобы создаваемой отказом от имен. У Лакана известный каламбур между Nom-du-pere и Les non-Dupes Errent; те, кто считает себя не подверженным общественному обману, поскольку не верит в "Имя отца" (в законы, в моральность, в вежливость и добропорядочность...), на самом деле ошибается - не потому, что у Имени отца есть магические силы, а потому, что у него есть важное место в структуре. Да, все, о чем говорили на 4чане, оказалось правдой: мир действительно управлялся шайкой педофилов. И эта правда, вычеркнутая из пространства, где у говорящих есть имена, оказалась абсолютно импотентской.

В отличие от псевдонимных реддита, твиттера (даже дёти и лепры), эти анонимные места не произвели ни победивших тревогу публично высказывающихся, ни даже борцов с государством вроде унабомбера или манюрова, но только убийц подростков-одноклассников: угрожающих единственному месту, где у них все-таки было имя. Потому что тревога - не у того, что через нас говорит, а у того, у чего есть имя; отказ от имени, даже хотя бы фальшивого, не создает или развивает ничего, что могло бы развиваться.

Я большой фанат медитативного и консистентного стиля Трэвиса Скотта, его ASTROWORLD для меня, это непрерывное часовое впечатление, прекрасное в своей целостности и медленном и сложном развитии настроения (и довольно бессмысленное как набор "треков"). Он – художник, работающим над своим конкретным и уникальным стилем, а не просто конкретными песнями, и это его достижение, что он смог создать стиль выраженный настолько хорошо, что ИИ смог ему научиться и создать песню, вписывающуюся в Трэвисовскую дискографию, дискографию переменчивых и богатых экспериментов со стилем. https://genius.com/a/this-fake-travis-scott-song-created-by-artificial-intelligence-sounds-almost-like-the-real-thing?fbclid=IwAR3Lxmk2yqpHVDw8dJv3eRpA9MF0amQmeiVIyrtuAWvm8_1iO2qZZkJhfRA

Я НЕ прекращу это пока люди не перестанут нести бред типа "Once there’s actual AGI (Artificial General Intelligence), it’s gonna be so much better at making art than us,” (цитата подружки очень богатого человека который записал песню "Don't doubt ur vibe" 🤮). О да, представьте себе, как вы слушаете "Piss On Your Grave", записанный искусственным интеллектом лол

https://www.youtube.com/watch?v=6E3Be5qrX38

очаровательный маленький мультфильм на трансмедиале показывают https://vimeo.com/288441672

Хорошая прошлогодняя статья о том, что мой скептицизм по поводу ИИ в сфере услуг это аристократично.

(О том, что всех бедных посадят с ИИ общаться и у ИИ лечиться, а богатые будут продолжать наслаждаться радостью и счастьем человеческого общения в сфере услуг)

https://www.nytimes.com/2019/03/23/sunday-review/human-contact-luxury-screens.html

Помимо этого, сделали игру где все видно с этими эффектами теории относительности, и плагин для Unity: https://aapt.scitation.org/doi/10.1119/1.4938057

Я, как миллениал, конечно, не могу найти себе занятия лучше, чем искать в философии оправданий астрологии. Вот несколько моих находок.

Я сильно надеялся на Аби Варбурга, но он слегка не оправдал ожиданий, особенно своим повторением что “астрология абсурдна”, столь частым, что задумываешься, что это может быть чем-то большим, чем просто тревогой, что серьезные люди не воспримут всерьез. Он говорит следующее: астрология была одним из важнейших путей, которыми греческие образы смогли дойти до Возрождения и далее; эти образы были, для Варбурга, главными способами материализовать основные проблемы греческой культуры. Другими словами, хотя арабская астрология (согласно Варбургу) редуцировала греческие экзистенциальные вопросы до случайного набора простых советов для жизни, иконическая сила этих образов - сила, достаточно мощная, чтобы эти образы пережили, в упрощенной но аутентичной форме, тысячелетнее путешествие до Индии и обратно - эта сила была источником возрожденческих открытий. Например, “оба изображения Венеры Ботичелли - Рождение Венеры и так называемая Весна - были попытками освободить богиню от ее двойных средневековых оков - мифографических и астрологических - и вернуть ей Олимпийскую свободу”, что было бы невозможно, если бы “оковы” не позволили сохранить ее образ так надолго в первую очередь.

У Беньямина понятие “созвездия” сводится к тому, что созвездие - в первую очередь, способ заметить отдельные звезды. Действительно (Беньямин не разбирает астрологию, так что дальше - моё), хотя созвездия не “существуют”, они все же используются, чтобы адресовать звезды, в том числе “наукой”. В отличие от маленького мира на Земле, у которого есть естественная основа, у космоса нет объективной системы отсчета, никакого стабильного способа опосредовать визуальное поле. Поэтому система отсчета с центром у нас не хуже, чем любая другая, и имеет двойное достоинство в своей скромности, и в том, что дает непосредственный метод описания видимого неба. Для земных существ, гравитация - способ оставаться в безопасности привязанными к огромному великому камню, защищающему их от бесконечного, хаотического пространства; для космонавта, гравитация - способ организовывать вещи между собой в небольшие группы, давая каждой из них достаточно пространства и свободы, чтобы продолжать падать на что-то гораздо большее, чем они - и промахиваться в этом падении, вновь и вновь избегая поглощения.

В другом месте, Беньямин намекает, что “будучи отличной от знаков, судьба позволяет говорить о себе лишь знаками”, что у судьбы нет собственного естественного языка. Грандиозный язык астрологии, достаточный для тысяч лет судеб более величественных, чем наши, не может быть хуже, чем редуктивное, неолиберальное крохоборство “эндорфинов”. Это особенно важно, поскольку для Беньямина, речь это единственный способ повлиять на наши судьбы - т.к. действия всегда предрешены. Наука согласится, что свобода может быть лишь феноменом языка.

И моя любимая идея - из эссе Ника Ланда о хайдеггеровском эссе о Тракле. Он говорит, что в самом начале, небо и наши души выглядели одинаково хаотично, и, когда мы узнали в небе хаос нашей судьбы, это и создало саму возможность знания, науки и культурного мышления. Наша смелость в том, чтобы навязать субъективный, произвольный визуальный порядок на хаос неба - первый шаг к смелости в том, чтобы разобраться в наших душах. Сейчас, тысячу лет спустя, мы там же узнаем наш собственный внутренний хаос в хаосе нейронных сетей; у нас, конечно, нет ни капли той же смелости, чтобы навязать им наш собственный порядок.