Артур Шопенгауэр был не только влиятельным философом, но и одним из первых европейских мыслителей, кто включил защиту животных в систему этических координат. Его философия, основанная на концепции мировой Воли и всеобщего страдания, напрямую вела к идее сострадания ко всем живым существам.

Шопенгауэр считал, что разделение на людей и животных — иллюзия эгоизма, поскольку все мы проявления единой мировой сущности и в равной степени способны чувствовать боль и страх. В своих трудах он прямо называл жестокость по отношению к животным «возмутительной, отвратительной варварской грубостью», отрицающей мораль. Для него сострадание к слабейшим было верным признаком подлинно доброго характера.

Для Шопенгауэра отказ от причинения зла животным был не сентиментальностью, а логическим и нравственным императивом. Он верил, что этичное обращение с другими существами — это практическое признание нашей глубочайшей связи со всей жизнью и первый шаг к преодолению бессмысленных страданий мира.

Вклад Шопенгауэра в развитие движения в защиту животных

В статье рассматривается роль Артура Шопенгауэра в становлении движения в защиту животных. Описано, как философ взаимодействовал с создателем первых немецких обществ по защите животных Игнацем Пернером. Показано, как Шопенгауэр критиковал картезианство и христианскую мораль, связывая с ними бесправное положение животных. Его взгляд на животных сравнивается с позициями представителей классической немецкой философии на примере Канта и Гегеля, а также рассматривается в контексте современной защиты животных. Критикуется распространённое мнение о его вегетарианстве. Делается вывод, что именно Шопенгауэр одним из первых в Европе предложил популярное философское обоснование этичного отношения к животным, которое легло в основу движения в защиту животных в Германии.

#животные #Артур_Шопенгауэр #Наталья_Чепелева

Сначала доброта, потом правота: почему аргументы не помогают переубедить человека

В статье Джеймса Клира объясняется, почему указание на факты и логическая аргументация часто не способны изменить убеждения людей. Взгляды выполняют не только познавательную, но и социальную функцию: они помогают сохранять принадлежность к группе, поддерживать социальные связи и статус. Поэтому попытки атаковать чужие убеждения напрямую могут не только не ослаблять их, но даже укреплять.

Успешность изменения мнений зависит не только от силы аргументов, но также от доверия, близости, общих ценностей и обстановки. Людей легче переубеждают те, кому они доверяют и с кем уже и так во многом согласны, а новые идеи лучше воспринимаются в безопасной обстановке — например, при чтении, а не в споре.

#общение_и_взаимопонимание #Джеймс_Клир

Мелкие хищники поедают множество животных | Брайан Томасик

Некоторые хищники из тех, что меньше людей по размеру, поедают больше отдельных позвоночных животных, а порой даже больше фунтов мяса, чем люди.

Типичный всеядный человек съедает лишь небольшую долю одного животного в день — за исключением случаев, когда он ест мелкую рыбу или другие морепродукты из мелких особей. В США потребление мяса на душу населения составляет около 271 фунта в год — менее одного фунта в день.

Для сравнения:

- «Взрослые императорские пингвины потребляют 2–5 кг (4,4–11 фунтов) пищи в день, за исключением начала сезона размножения или периода подготовки к линьке, когда они накапливают массу тела. Тогда они съедают до 6 килограммов (13 фунтов) в день» (источник). «Каждый пингвин съедает около одного фунта рыбы в день» (источник). «Каждый из пингвинов в зоопарке съедает 2 фунта рыбы в день» (источник).
- «Если посчитать, получится, что одной сипухе требуется около 79 фунтов мышей в год». Это составляет примерно 3,5 отдельных мыши в день (источник).

Разумеется, животных, поедаемых хищниками, не выращивают на фабричных фермах, и это существенное отличие. Тем не менее, можно утверждать, что в среднем их смерть еще хуже, чем на устроенных людьми бойнях, потому что в природе хищники не пытаются оглушать жертв даже для вида. Представьте, каково рыбе, которую проглотил живьём пингвин. Хотя потребление мяса людьми причиняет много страданий, хищничество в природе тоже приводит ко множеству страданий.*

*. Примечание переводчика: Это не аргумент в пользу употребления мяса людьми. Просто люди — не единственный источник страданий для животных. И уменьшить их страдания мы можем не только через уменьшение числа употребляемых нами животных продуктов, но также через влияние на то, как много актов хищничества будет происходить в дикой природе.

Оригинал: Small non-human carnivores eat a lot of animals (2013-2017.11.08)
Перевод: К. Кирдан

#дикая_природа #животные #Брайан_Томасик

О закрытом, пустом и открытом индивидуализме

Закрытый, открытый и пустой индивидуализм — это три довольно известных мнения насчёт вопроса о тождестве личности. Если по-простому, то эти три мнения таковы: согласно закрытому индивидуализму, я — конкретный человек, тот же самый, кем был в начале своей жизни и кем буду в конце, и никто другой; согласно пустому индивидуализму, я — не тот же человек, кем “был” в начале и кем “буду” в конце, а лишь один из многих, которые сменяют друг друга в процессе жизни нашего общего организма; согласно открытому индивидуализму, я — все люди (и прочие сознательные существа) одновременно во все моменты их жизни.

В данном тексте Дэвид Пирс, автор «Гедонистического Императива», объясняет, почему он симпатизирует открытому индивидуализму, но считает более реалистичным пустой индивидуализм.

#тождество_личности #Дэвид_Пирс

Как мы поверили в пытки

Артур Шарифов считает, что роль, которую пытки занимают в массовой культуре и наших умах, несопоставима с их реальной ужасностью. Реакции людей на сообщения о пытках и отношение к их допустимости — искажены. И массовая культура является одним из индикаторов того, что люди слишком сильно поверили в оправданность и эффективность пыток.

В этом видео он рассказывает об особенностях пыток в фильмах и играх, о пыточных практиках инквизиции, и о проблемах использования пыток в борьбе с преступлениями, включая террор.

#Артур_Шарифов #пытки #благополучие_людей

Крионика

Крионика предлагает заморозку тела или мозга человека в надежде на воскрешение в будущем, когда уровень медицины будет существенно выше. Стоит ли эта практика наших затрат?

Брайан Томасик кратко рассматривает крионику в контексте спасения жизней, личного благополучия, а также продления альтруистической деятельности. По большей части автор настроен скептично.

#Брайан_Томасик

Почему нам нужен дружественный ИИ

Возможно, люди не всегда будут самой разумной силой на планете, управляющей ее будущим. Когда-нибудь это место может занять продвинутый искусственный интеллект. Что тогда будет с человечеством? Как нам относиться к этой возможности и как лучше подготовиться к ней?

Об этом — в статье Люка Мюльхаузера и Ника Бострома.

#искусственный_интеллект #Люк_Мюльхаузер #Ник_Бостром

«...я бы увильнул от исполнения своего человеческого морального долга, если бы не упомянул также, что мы понятия не имеем, как определить, осознают ли себя ИИ-системы – потому что мы понятия не имеем, как декодировать что-либо, происходящее в огромных непонятных массивах – а следовательно, мы можем в какой-то момент непреднамеренно создать цифровые разумы, обладающие настоящим сознанием, которые должны будут иметь права, и которыми с моральной точки зрения нельзя будет владеть.

Правило, которое одобрило бы большинство осведомлённых об этих проблемах людей 50 лет назад, заключается в том, что если ИИ-система владеет языком, и говорит, что она осознаёт себя и заслуживает человеческих прав, то это должно сразу прекратить владение такими ИИ и использование их в своих целях. Мы уже разметали эту линию на песке. И это скорее всего было правильно; я согласен, что нынешние ИИ скорее всего просто имитируют разговоры о самосознании из своих обучающих данных. Но отмечу, что из-за того, как мы мало понимаем во внутренностях этих систем, мы на самом деле не знаем.

Если таково наше непонимание GPT-4, и мы позволим людям создать GPT-5, и GPT-5 будет таким же огромным скачком способностей, как от GPT-3 до GPT-4, то, я думаю, мы больше не сможем обоснованно сказать "скорее всего не имеет сознания". Это будет просто "я не знаю, никто не знает". Если вы не можете быть уверены, создаёте ли вы осознающие себя ИИ, это тревожит не только из-за моральных следствий "сознания", но и из-за того, что такая неуверенность означает, что вы понятия не имеете о том, что делаете, и это опасно, и вам надо остановиться.»

— Элиезер Юдковский, 2023 г.

Ценность образования

Почему «самые очевидные» решения тех или иных вопросов нередко оказываются поверхностными? Мир полон ужасных проблем — значит ли это, что мы должны поспешить с активными действиями, чтобы изменить его?

Брайан Томасик пишет об огромной ценности образования для тех, кто хочет заниматься альтруистической деятельностью. Автор считает, что даже первоначальное знакомство с разными областями знания может существенно в этом помочь. Расширяя кругозор, мы обогащаем наше понимание мира — и того, как именно мы можем повлиять на будущее.

#Брайан_Томасик #эффективный_альтруизм #рациональность

Есть вещи, о которых мы даже не подозреваем | Брайан Томасик

Порой кажется, что сторонники эффективного альтруизма одержимы «квантифицированной эффективностью»: метриками, показывающими результативность чего-либо — будь то QALY на доллар, управление временем, результаты опросов или оптимизация диеты и физических упражнений. Квантификация полезна и часто может выявить серьёзные пробелы, которые можно упустить, если применять только качественное, а не количественное мышление. Также квантификация может привести к выводам, которые не были очевидны до обработки данных. Цифры позволяют проводить гораздо больше вычислений, чем способен делать наш мозг сам по себе.

В то же время я опасаюсь, что некоторые сторонники эффективного альтруизма слишком сильно увлекаются квантификацией и перестают видеть лес за деревьями. Стоит помнить принцип «мусор на входе, мусор на выходе»: метрики хороши лишь настолько, насколько хороши те рассуждения, на основании которых мы решили, что именно эти метрики стоит оптимизировать. Кроме того, они могут упускать какие-то ключевые соображения. Чрезмерно оптимизируя что-то по узким или даже довольно широким метрикам, вы можете приносить в жертву какие-то важные элементы ценного, которые просто не измерялись. Оптимизация по метрике может создавать иллюзию прогресса, в то время как более широкий взгляд на ситуацию показал бы, что всё гораздо более размыто, чем казалось. Порой качественное, масштабное мышление человеческого мозга лучше справляется с подобными макроуровневыми проблемами, чем другие из доступных нам инструментов. Холден Карнофски обсуждает этот и другие связанные вопросы в эссе «Passive vs. rational vs. quantified».

Одна из областей, в которых оптимизация по метрикам сталкивается с серьёзными трудностями, — это открытие, выражаясь словами диснеевской Покахонтас, «вещей, о которых ты даже не подозревал» [things you never knew you never knew]. Непонятно, как вообще строить метрики для измерения тех аспектов проблемы, о которых мы ещё даже не подумали*. Если мы слишком сильно оптимизируем свои нынешние цели, мы можем упустить важность того, чтобы отступить на шаг назад и посмотреть на картину в целом. Суженный фокус — одна из нескольких проблем, о которых говорят авторы статьи «Goals Gone Wild: The Systematic Side Effects of Over-Prescribing Goal Setting».

*. См. такие понятия как «тяжёлая неопределенность», «неизвестные неизвестности», «чёрные лебеди» и «неведение» — прим. пер.

Оригинал: Things you never knew you never knew (2013-2019)
Перевод: К. Кирдан (добавлены ссылки)

#Брайан_Томасик #эффективный_альтруизм

Напоминаем, что нас можно читать и во ВКонтакте: https://vk.com/reducing_suffering

Неизвестные неизвестности | Дэниел Розелл

Аналитики часто сталкиваются с ситуациями, неопределённость в которых глубока, но распознана. Есть множество методов для работы с экстремальной неопределённостью при оценке рисков (Cox 2012b). Но иногда мы даже не осознаём собственного незнания. Выражение «неизвестные неизвестности» [unknown unknowns] сравнительно новое, но сама идея древняя — ещё в диалоге «Менон» Сократ отмечает, что невозможно исследовать тему, которой вообще не осознаёшь. По определению, мы не осознаём неизвестных неизвестностей, поэтому обычно исключаем их из оценок рисков. Тем не менее, были предложены подходы к снижению нашего незнания, такие как образное мышление и развитие общественной дискуссии (подробнее об этом — в последней части книги) (Attenberg, Ipeirotis & Provost 2015). Неопределённость, связанную с незнанием, невозможно количественно измерить. Но признание ограниченности наших знаний — это проявление сократической мудрости, и оно улучшает коммуникацию рисков (Elahi 2011).

Любому знанию присуща неопределённость, но в формальных оценках рисков обычно делаются конкретные, часто количественные утверждения о степени уверенности в чём либо. Поэтому особенно важно включать в оценки рисков оговорки, которые отражали бы оценочные суждения аналитика о том, что известно и что в принципе можно знать. Аналитик может считать, что его оценка охватывает все существенные аспекты темы с достаточной точностью для того, чтобы дать окончательный ответ. Скорее всего такой аналитик представит результаты с минимумом оговорок. Тогда как более скептичный и скромный аналитик добавит оговорки к своим оценкам, чтобы читатели не переоценивали значимость результатов.

Источник: Daniel J. Rozell, Dangerous Science: Science Policy and Risk Analysis for Scientists and Engineers (2020), лицензия CC BY 4.0
Перевод: К. Кирдан

#рациональность #Дэниел_Розелл

Страдание машин: как изменится представление о морали и субъективном опыте

Способны ли животные помимо человека к переживаниям, таким как страдание? Может быть, мы никогда не будем знать наверняка. Но игнорирование возможности того, что животные страдают, может приводить к тяжелым моральным ошибкам. Со временем моральный круг — круг тех, о чьих переживаниях и интересах мы заботимся — расширялся, и животные получали всё больше нашего внимания.

Сейчас, по мере стремительного развития искусственного интеллекта, перед нами стоит ещё одна проблема — как понять, какие виды ИИ тоже способны к субъективным переживаниям, таким как страдание? Моральные ошибки в этой сфере могут оказаться ещё страшнее. Возможно, всё чаще есть смысл обращаться к принципу предосторожности: даже когда у нас нет доказательств способности ИИ к страданию, нам следует вести себя с ним так, как если бы он был способен.

#моральный_круг #искусственный_интеллект #сознание_и_сентиентность

Искусственный интеллект: Риски и этика принятия рисков | Томас Метцингер

Есть по крайней мере два вида эпистемического невежества и неопределенности, которые важны в контексте искусственного страдания. Во-первых, мы не знаем, что было бы каузально необходимым и/или достаточным, чтобы реализовался конкретный риск вроде этого. Во-вторых, мы не знаем, как этот конкретный риск может взаимодействовать с другими рисками, в частности с теми другими непонятными рисками, которые мы в настоящее время обозначаем как «среднесрочные», «долгосрочные» или «эпистемически неопределенные» риски. Конструктивный подход не может игнорировать этот вопрос.

Вот три ярких примера таких рисков:

- интеллектуальный взрыв через автономную и неконтролируемую самооптимизацию (часто используется термин «сверхинтеллект» [Bostrom, 2014]);
- взрыв страданий через создание синтетической феноменологии;
- появление автономных искусственных моральных агентов через применение технологий ИИ (например, продвинутых систем рассуждений, доказателей теорем и т.д.) в области решения самих этических проблем.

Позвольте мне проиллюстрировать этот момент. С 2018 по 2020 годы я работал в Европейской комиссии в Экспертной группе высокого уровня по искусственному интеллекту (HLEG AI), был соавтором «Руководящих этических принципов для надежного ИИ» [European Commission, 2019a] и «Рекомендаций по политике и инвестициям для надежного ИИ» [European Commission, 2019b]. После короткого внутреннего обсуждения все три вышеперечисленных риска были намеренно вычищены из итоговых документов, главным образом потому, что промышленные лоббисты восприняли углубленное рассмотрение среднесрочных или долгосрочных рисков как опасность для своего маркетингового нарратива, в котором «этика» служила элегантной социальной декорацией для масштабной инвестиционной стратегии. Интересно, однако, что даже многие из более просоциально ориентированных членов Экспертной группы по ИИ не понимали, что любой подлинно этический подход к максимизации общего блага всегда подразумевает этическую позицию не только по отношению к известным рискам, но и по отношению к «неизвестным неизвестным» и к самому принятию риска. Сами по себе моральные последствия принятия риска не являются свойствами, присущими любому из потенциальных исходов. К сожалению, подлинно этический подход требует также рационального рассмотрения эпистемически неопределенных рисков, которые, с учетом наших когнитивных искажений, часто интуитивно кажутся «просто научной фантастикой» или чем-то «нереалистичным» [European Commission, 2019a, Note 76]. Подлинная этика риска должна проводить различие между преднамеренным и непреднамеренным подверганием риску. Например, есть разница между добровольным принятием риска (на примере Экспертной группы по ИИ) и навязыванием риска самосознательным системам, которые сами приняли бы такой риск или тем, которые не приняли бы его (на примере будущего самосознательного ИИ).

Для перечисленных выше трех типов рисков, вывод состоит в том, что научное сообщество должно сначала самостоятельно прийти к приемлемому решению, поскольку соответствующие политические институты действуют в условиях когнитивных искажений, высокой степени ограниченности рациональности и сильной загрязненности промышленным лоббированием. Было бы интеллектуально нечестным и, следовательно, неэтичным для ученых предполагать, что политические институты, такие как Евросоюз, или крупные компании, занимающиеся разработкой ИИ, на самом деле смогут справиться с несколько более абстрактными проблемами вроде упомянутых выше. Поскольку научное сообщество тоже знает об этом более широком политическом контексте, это, к сожалению, переносит основное бремя этической ответственности на самих исследователей.

(Из статьи «Искусственное страдание: аргумент в пользу глобального моратория на синтетическую феноменологию».)

#Томас_Метцингер #искусственный_интеллект #x_риски #s_риски