Мысли о колонизации космоса

В тексте рассматривается вероятность освоения космоса (пост)человечеством с учетом возможных затрат, мотивов и выгод, в том числе путем сравнения с другими известными случаями освоения новых земель. Также рассматриваются факторы, значительно влияющие на количество распространяемых при этом страданий.

#космос #s_риски #футурология #Тобиас_Бауман

Искусственное страдание: аргумент в пользу глобального моратория на синтетическую феноменологию

Статья Томаса Метцингера посвящена риску масштабного распространения страданий на искусственных носителях (ИИ). В первой части статьи автор формулирует проблему и связанные с ней этические соображения. Также формулируются вытекающие из этих соображений политические требования, включающие временный запрет всех исследований и разработок, которые непосредственно направлены на создание искусственного сознания, либо сознательно рискуют его появлением.

В связи с поднятой проблемой во второй части статьи автор указывает на некоторые желательные направления исследований, а также предлагает свою теорию страдания, обозначая необходимые условия для его возникновения у искусственных систем и рассматривая возможности его предотвращения. Наконец, автор рассматривает, как риск появления страданий может быть связан с другими рисками ИИ — на примере риска того, что искусственные системы сами могут стать моральными агентами и восстать против своих создателей.

#искусственный_интеллект #s_риски #Томас_Метцингер

Ментальные преступления

«Ментальные преступления» — это такие сценарии, при которых мышление достаточно сложного агента приводит к созданию внутри него существ, подвергающихся тому или иному вреду. Например, это может случиться, если масштабная ИИ-система будет создавать столь детальные симуляции людей, что они будут обладать сознанием, страдая и умирая внутри нее.

В статье рассматриваются четыре возможности того, как может произойти ментальное преступление, а также проблемы, стоящие перед нами, если мы хотим предотвратить подобные сценарии.

См. также: введение в тему.

#s_риски #искусственный_интеллект

Перепрограммирование хищников

В этой статье Дэвид Пирс рассматривает один из источников огромного числа страданий у животных — хищничество в дикой природе. Вместо того, чтобы оставаться безучастными к происходящим в дикой природе ужасам, люди будущего могли бы использовать продвинутые технологии для управления биосферой с целью уменьшения страданий животных.

Критически рассматриваются разнообразные причины, по которым людям сложно принять идею радикальной перестройки естественных пищевых цепей, особенно когда дело касается наиболее романтизированных видов животных вроде кошек. Также рассматриваются различные пути такой перестройки, включая контроль за величиной популяций животных, генную инженерию, аугментацию и др.

#дикая_природа #животные #Дэвид_Пирс

Против видовой дискриминации

Почему, даже признавая ценность благополучия каждого человека независимо от его личных особенностей, мы можем отказывать в этом животным, или ценить интересы одних животных сильнее интересов других по не относящимся к их благополучию причинам? В статье — о дискриминации по признаку видовой принадлежности, ее последствиях и проблемах аргументов в ее оправдание.

#Тобиас_Бауман #животные #моральный_круг

Когда машины улучшают машины

Искусственный общий интеллект — это машина, способная выполнять любую когнитивную задачу не хуже человека. Создание общего ИИ часто связывается с возможностью «взрыва интеллекта» — неконтролируемого стремительного роста интеллекта машин в процессе их самоулучшения.

В статье этот сценарий критикуется путем сравнения со сверхинтеллектуальными системами, которые уже существуют и образованы совокупностями сотрудничающих друг с другом людей и технологий.

#искусственный_интеллект #футурология #Магнус_Виндинг

От ИИ до удаленных зондов | Магнус Виндинг

Цель этого поста — представить гипотетический сценарий будущего, который бросает вызов некоторым из наших основных предположений и интуиций о нашем месте во вселенной.

#космос #искусственный_интеллект #Магнус_Виндинг

Некоторые причины не ожидать взрывного роста

Многие люди ожидают, что рост глобальной экономики в будущем ускорится, и темпы роста будут не просто значительно более высокими, чем сегодня, но даже на порядки выше.

В статье Магнуса Виндинга — некоторые из причин того, почему взрывной рост экономики может быть не слишком вероятным.

#Магнус_Виндинг #футурология

За стенами птицефабрик России

В этом коротком документальном фильме рассказывается о жестоких и антисанитарных условиях содержания кур-несушек на птицефабриках России, где около 200 миллионов птиц (что сопоставимо с человеческим населением РФ) вынуждены жить в тесных клетках, страдая от различных травм и болезней.

Фильм основан на совместном расследовании «Голосов за животных» и «Альянса Защитников Животных» на птицефабриках восьми регионов страны.

#животноводство #животные

S-риски: Введение

На протяжении всей истории человечества новые технологии открывали новые возможности, но в то же время несли с собой и новые риски. При недостаточной заботе о благополучии других существ технический прогресс может приводить к огромным страданиям. В некоторых случаях риски особенно велики — они называются рисками астрономических страданий или s-рисками.

В этой вводной статье — о двоякой роли технологий в истории человечества, возможных путях реализации s-рисков, причинах относиться к ним серьезно и возможных способах их снижения.

#s_риски #лонгтермизм #Тобиас_Бауман

Насколько хороша или плоха жизнь насекомого?

Статья Саймона Кнутссона посвящена качеству жизни медоносных пчел и некоторых других насекомых, считающихся самыми многочисленными, включая муравьёв, термитов и подёнок. Для оценки качества жизни рассматривается, как долго и в каких условиях насекомые живут и как умирают. Автор приходит к выводу, что если бы ему предложили переродиться в теле насекомого, он предпочел бы забвение.

#Саймон_Кнутссон #беспозвоночные #дикая_природа #животные

Краткий обзор на работу Эрика Дрекслера по рефреймингу безопасности ИИ

В этом небольшом тексте — краткое изложение основных положений работы «Reframing Superintelligence: Comprehensive AI Services as General Intelligence» Эрика Дрекслера. По его мнению, обычная концепция интеллекта ошибочна, искусственный интеллект радикально отличается от человеческого, и общий ИИ не обязательно будет агентоподобным. Вместо этого мы можем создать «комплексные ИИ-услуги», которые будут сверхинтеллектуальными и позволят людям сохранить контроль над высокоуровневыми стратегическими решениями.

#искусственный_интеллект #футурология #Эрик_Дрекслер #Тобиас_Бауман

МОРАЛЬНЫЙ ПРОГРЕСС

«Кое-что из вещей, в которые верил Кант. Он считал, что суицид морально неправилен. А также что мастурбация — еще неправильней, чем суицид. Или что пожертвования органов морально недопустимы. И даже что отрезать свои волосы и отдать их кому-то другому — тоже в какой-то степени морально ошибочно.

Роберт Уиблин: Не та проблема, которая сегодня страшно истязает нас.

Уилл МакАскилл: Именно, не то чтобы очень морально значимая вещь.

Он думал, что женщинам нет места в гражданском обществе. Он думал, что незаконные дети — что их допустимо и убивать. Он полагал, что разные расы имеют разную моральную ценность, — и белая раса, конечно же, важнее всех. Затем, кажется, азиаты, затем негры, затем индейцы.

Роберт Уиблин: Он был белым, не правда ли?

Уилл МакАскилл: Да. Какое совпадение.

Роберт Уиблин: Думаю, ну очень удачно для него совпало.

Уилл МакАскилл: Я рассказал это не чтобы устроить банальный переход на личность Канта, а потому, что здесь содержится важный для нас урок. Глядя на историю этической мысли, на все эти омерзительные вещи, в которые люди верили, или даже просто на вещи, в которых они были уверены, — мы должны подумать: "Да-а-а, а ведь крайне маловероятно, что сегодня и мы сами в принципиально ином положении". Вполне возможно, сегодня и мы так же считаем здравым смыслом множество поистине ужасающих вещей. А значит, если мы всячески стараемся полностью вписать наш моральный взгляд в нечто, что кажется здравым смыслом, мы, возможно, попросту берем наши предубеждения и моральные заблуждения — и возводим их на пьедестал.»

(80000hours.org)

НА ПИКЧЕ: девочка, которая собирается пожертвовать свои косы на благотворительность

Возможно ли согласование ИИ?

Задача согласования ИИ может быть грубо определена как задача сделать так, чтобы мощный искусственный интеллект делал то, что мы — люди — хотим, чтобы он делал. Магнус Виндинг считает, что эта задача плохо определена и (по меньшей мере в указанном смысле) ее нельзя решить. В этом эссе он указывает на две проблемы: непреодолимые ценностные разногласия между людьми и недоопределенность предпочтений любого отдельно взятого человека.

#искусственный_интеллект #ценности_и_этика #Магнус_Виндинг

Больше страданий: от контролируемого людьми ИИ или мятежного?

Распространенная фантазия о неконтролируемом искусственном сверхинтеллекте (таком как максимизатор скрепок) подразумевает, что он поспособствует вымиранию человечества и других форм жизни. Можно подумать, что раз их страдания будут окончены, это не такой уж и плохой сценарий, поэтому можно не беспокоиться о безопасности ИИ.

В данном отрывке из статьи «Artificial Intelligence and Its Implications for Future Suffering» Брайан Томасик объясняет, почему все гораздо сложнее и какие направления безопасности ИИ могли бы уменьшить страдания.

#искусственный_интеллект #s_риски #футурология #Брайан_Томасик

О теориях сентиентности: беседа с Магнусом Виндингом

В этом интервью, взятом у Магнуса Виндинга — немного о том, какие разные подходы к вопросу о природе сознания и сентиентности встречаются среди сторонников уменьшения страданий, о физикалистской позиции самого Виндинга и ее сходствах и различиях с позицией Дэвида Пирса, об эпистемических и моральных ценностях и о возможности победы над страданиями.

#сознание_и_сентиентность #Магнус_Виндинг

Почему куры вызывают у людей намного меньше эмпатии, чем коровы и свиньи?

История показывает, что, несмотря на культурное значение курицы как символа в разных обществах, мы никогда не беспокоились о благополучии этих животных. В чем причина такого отношения людей к ним? Психологические исследования показывают, что люди воспринимают когнитивные способности кур как крайне низкие. Но согласуется ли это убеждение с данными исследований о реальных способностях кур?

#животные #животноводство #Кэролайн_Спенс

ИИ должны быть защищены не меньше животных

Возможно, однажды мы создадим искусственный интеллект, способный к страданию. При этом многие из обсуждений возможных прав ИИ сосредоточены на моральных обязательствах лишь перед теми из них, которые близки по своему развитию к людям или превосходят их. Что же насчет менее развитых ИИ, сопоставимых, например, с мышами или собаками?

#искусственный_интеллект #моральный_круг #Джон_Басл #Эрик_Швицгебель

Что не так с энтомофагией?

В этом коротком интервью Брайан Томасик отвечает на ряд вопросов, связанных с темой употребления насекомых в пищу.

Почему это плохая идея? Что могут чувствовать насекомые? Что сейчас происходит с потреблением белков растительного и животного происхождения в западных странах?

#беспозвоночные #животноводство #животные #Брайан_Томасик

Материалы о беспозвоночных

1. Испытывают ли боль беспозвоночные?, Биореактор
2. Ларс Читтка: насекомые могут переживать боль, Naked Science
3. Пчелы — «философские зомби» или сознательные существа?, Ларс Читтка, Кэтрин Уилсон
4. Боль головоногая. Страдают ли осьминоги от уколов, кислоты и нагрева?, N+1
5. Больше боли. Шмели умеют терпеть. Значит ли это, что им бывает больно?, N+1
6. Крабы и омары заслуживают защиты от приготовлению вживую, Джонатан Бирч
7. Насколько хороша или плоха жизнь насекомого?, Саймон Кнутссон
8. Что не так с энтомофагией?, Брайан Томасик

Больше материалов можно найти на английском языке по ссылкам:
1. https://www.animal-ethics.org/invertebrate-sentience-a-review-of-the-neuroscientific-literature/
2. https://reducing-suffering.org/#invertebrates
3. https://forum.effectivealtruism.org/topics/invertebrate-welfare

Почему большинство интернет-активистов не меняют ничьего мнения

Когда люди проявляют безразличие к вопросам, которые для вас значимы, это может вызывать раздражение и даже агрессию. Но обвинение других загоняет их в угол, вынуждая защищаться и осложняя реальный пересмотр убеждений. «Я не хочу быть "избитым правдой", и не важно, насколько она правдива» — говорит по этому поводу писатель Дэвид Кейн.

#общение_и_взаимопонимание #Дэвид_Кейн