Сейчас мы говорим «обезьяна с гранатой». Через сто лет, возможно, будут говорить «человек с ИИ».
В новом интервью профессора Томаса Метцингера – члена высшей экспертной группы ЕС по разработке этических принципов ИИ – озвучены два весьма тонких для понимания, но очень важных вопроса.
1) Роботы-убийцы и активная эвтаназия – есть ли отличия?
Смертельное автономное оружие (т.н. роботы-убийцы) – это системы, которые используют ИИ в бою, чтобы решать, какую цель атаковать, уничтожить или даже убить.
Главный вопрос, пока еще, хоть и с трудом, но все же сдерживающий превращение роботов-убийц в главный фактор новой гонки вооружений - можно ли привлечь кого-либо к ответственности, если машина приняла неправильное решение?

Самое опасное в этом вопросе – его универсальность.
Ведь ровно тот же вопрос стоит, например, и по отношению:
- к автономным автомобилям;
- к системам активной эвтаназии.
Про самоуправляемые авто и так всем понятно – пресловутые проблемы, кого задавить, если нет иных вариантов, и чья жизнь дороже – водителя или пешехода …

А про активную эвтаназию поясню. Пассивная - предполагает прекращение введения препаратов, поддерживающих жизнь пациента, а активная — введение препарата от которого пациент умирает. Активная э. бывает добровольной и недобровольной – т.е. без согласия пациента. При этом кто-то должен взять на себя ответственность и решить: «Пусть этот человек умрет».
Но ведь страшно даже рассуждать о таком. И кому хотелось бы, стоя у больничной койки, произносить подобные слова?

Так вот сейчас, по словам Метцингера, в Нидерландах уже стоит вопрос о перекладывании таких решений на ИИ. Просто, удобно, никого не напрягает и никаких душевных мук.

Только чем это отличается от роботов-убийц?

2) Где проходит «красная черта» в применении любого робота-убийцы (военного, медицинского, автомобильного …)?
Проблема вовсе не в том, чтобы дать машинам правильные этические ценности. Проблема в «согласовании ценностей» ИИ и людей. И пока не понятно, как их согласовывать, поскольку люди сами не придерживаются своих собственных этических ценностей.
Иными словами, всегда существует конфликт разных целей у отдельных людей и в разных обществах. Наши общества не являются этически последовательными или связными, наша политика – тем более.
- Вы и ваш коллега.
- Британский и китайский военный.
- Президенты России и США.
Согласуются ли их этические ценности?

В итоге, нам самим сложно прогнозировать, какие решения примет тот или иной человек, и это создает реальный риск.
А если этот человек врач? Или генерал? Или президент страны?
Проще говоря, если вы включаете в цепочку принятия решений очень эффективный, быстрый и продвинутый ИИ, вы, по сути:
- подключаете ИИ к человеческим мозгам, почти не изменившимся со времен каменного века;
- подключаете ИИ к мозгу конкретных людей, - возможно, жадных, ревнивых, эгоистичных и амбициозных.
А раз так, то самим включением ИИ в цепочку принятия решений, вы непрогнозируемо увеличиваете риски.

Поэтому нет никакой проблемы заложить в робота-убийцу (да и в любой ИИ) конкретные этические ценности.
В реальности, мы сами – главная проблема.
И «красная черта» проходит через нас, а не через ИИ.


Текст и подкаст интервью https://www.br.de/nachrichten/kultur/killerroboter-ethik-interview-thomas-metzinger-philosophie,RVdgEgs
Контекст военных роботов-убийц https://www.br.de/nachrichten/deutschland-welt/killer-roboter-fakten-ueber-toedliche-systeme,R1wD3Rs
Мой пост о том, какая страшная штука – беспилотные летающие убийцы https://t.iss.one/theworldisnoteasy/763

#ЭтикаИИ

Разбавлю немного нормотворческую работу новостью самого Роскомнадзора:
https://rkn.gov.ru/news/rsoc/news68306.htm
Заблокировали по решению суда сайт с услугами написания диплома за деньги. Ну закрыли и закрыли каких-то нарушителей. Казалось бы.

➡️ А на каком основании суд заблокировал сайт? Суд не имеет абсолютной власти. Суд не может просто так взять и что-то сделать по велению левой пятки. Напомните, а когда у нас успели запретить информацию о написании дипломов за деньги?
➡️ Потрясающая оперативность. Работает «как часы», выражаясь словами одного безграмотного героя из прошлого, из телевизора. Суд изготовил мотивированное решение в августе прошлого года.
➡️ Роскомнадзор похвастался безграмотным, но типовым решением суда. Юридические дипломы видимо на том же сайте заказывали. Или хвастаться безграмотностью и махровым непрофессионализмом стало модным. Не могу выбрать.

☝️ Почему решение безграмотное? Федеральный закон №149-ФЗ от 27.07.2006 в статье 10 пункт 6 пишет: «Запрещается распространение информации, которая направлена на пропаганду войны, разжигание национальной, расовой или религиозной ненависти и вражды, а также иной информации, за распространение которой предусмотрена уголовная или административная ответственность». Это традиционная подмена понятий судом, когда он «случайно» теряет слово «распространение». Суд рассматривает эту формулировку как «запрещается распространение информации, содержание которой информирует о деянии, за которое предусмотрена уголовная или административная ответственность», но применяет в случаях, когда информация собственно является частью осуществления преступного деяния.

☝️ Так а чем это плохо? 1. Правовым нигилизмом 2. Судя по решению суда, нарушители не найдены, не выявлялись, нарушение предотвращено постановкой ширмы, никто не призван к ответственности и не понёс наказания. Правосудие НЕ восторжествовало.

Решение суда, кому интересно:
https://centralny--tum.sudrf.ru/modules.php?name=sud_delo&srv_num=1&name_op=doc&number=46461223&delo_id=1540005&new=0&text_number=1
Сайт: https://apr-el.ru/ (хостится в России, у живого крупного хостера, привет, Дима, домен в российской зоне, почта на mail.ru, но прокурору этого не нужно же для поощрения)

Найден ген, который определяет, насколько глубоко прорастают корни растений.
Этот ген регулирует работу ауксина - гормона, управляющего, в том числе, строением корневой системы.
Растения с более глубокой корневой системой могут запасти больше углерода. Умея управлять ауксином, можно будет, например, создать растения, лучше адаптирующиеся к изменениям климата и разработать более устойчивые к невзгодам агрокультуры.

(В общем, главное - не вырастить очередной борщевик)

https://phys.org/news/2019-07-gene-climate.html

Госдума 23 июля рассмотрит поправки в закон «О национальной платежной системе», которые запретят платёжным системам блокировать карты банков, попавших под санкции

Не ждут, а готовятся. Невыездные карты уже близко.

Горячее: vice где-то добыли инструкцию от Palantir Gotham - сервиса по поиску данных о людях, используемого спецслужбами в разных штатах. Красота! https://www.vice.com/en_us/article/9kx4z8/revealed-this-is-palantirs-top-secret-user-manual-for-cops

Регулятор ищет вариант, который устроил бы всех участников — банки, магазины и покупателей. Речь идет о диапазоне 0,2–0,7% от общей суммы.
https://www.rbc.ru/finances/12/07/2019/5d27a0e29a7947a3f93f036f

Банк России хотел бы запустить ближе к концу года возможность оплаты услуг ЖКХ с помощью Системы быстрых платежей и работает над тем, чтобы тариф за эту услугу был нулевым.
https://www.banki.ru/news/lenta/?id=10901071

Райффайзенбанк ввел комиссию за переводы в СБП, превышающие 10 000 в месяц. Ставка 1,5%. Shame on you, Райффайзенбанк!
https://www.kommersant.ru/doc/4027282

Фейсбук разрешил публиковать угрозы и призывы к насилию, если целью является 'опасное лицо' или 'опасная организация'.

Определял, кто является опасным, сам Фейсбук.

Вот, например, Фейсбук официально разрешил угрожать британскому публицисту Уотсону.

Потому что Уотсон не любит либералов, терпеть не может Клинтон, раньше поддерживал Трампа, но охладел после ударов по Сирии.

За это каждый день Уотсон получал сотни сообщений с угрозами убийством.

А Фейсбук считал, что так ему и надо.

Правда, считал он так недолго - даже западные СМИ офигели от такого подхода и Фейсбуку пришлось срочно менять все обратно.

Это примерно все, что нужно знать о современном либерализме.

МТС запускает сервис онлайн трансляций и просмотра записей в формате VR
https://www.vedomosti.ru/technology/news/2019/07/12/806435-mts-zapustit-servis

на выходные у меня для вас есть 48 страниц отчета по изучению прошивок телекоммуникационного оборудования Huawei. Исследователи изучили 1,5 миллиона файлов из почти 10 тыс образов к 558 различным корпоративным устройствам Huawei. Выводы исследователи делают неутешительные. Если коротко — то все плохо, оборудование менее безопасно, сотни потенциальных уязвимостей для бэкдоров, включая захардкоженные логины и пароли и встроенные криптографические ключи. Масса непропатченных известных уязвимостей из опенсорса, потому что в некоторых случаях разработчики почемуто решали использовать древние 20-летние библиотеки вместо современных аналогов. Несмотря на обещания Huawei улучшать безопасность устройств, исследователи делают вывод, что она со временем ухудшается.

Даже если у вас нет времени читать весь документ, раздел Key Findings — это хорошее место получить общее представление о том, что говорится в отчете. Очень занимательное чтиво.

https://finitestate.io/wp-content/uploads/2019/06/Finite-State-SCA1-Final.pdf

​​‼️ Blockstack - стартап под крылом у SEC ⁉️

Как я писал в этой статье - https://t.iss.one/Proffit_crypto/2003
создание любых долговых обязательств в крипте это будет тренд, который принесет в крипту просто колосальные инвестиции, а если это будет еще прикрыто регуляцией такой как SEC то вскоре капитализация крипты будет расти в геометрической прогрессии , зачем хранить деньги в традиционных долговых обязательствах иначе бондах, которые с учетом времени и нфляции по сути не приносят никакой прибыли для их держателей ? "Большие дяди" это уже хорошо понимают и хотят откусить свой кусок пирога, да побольше, к тому же мы все прекрасно понимаем, что капиталы правительств всех стран в основном находятся в американских трежерис, и они точно не хотят потерять этот контроль, поэтому они как можно скорее будут давать подконтрольным себе организациям стряпать крипто бонды.
Для тех кто еще не знает Blockstack уже выпустил токены-долговые обязательства класса А+ под надзором SEC, соответствующий регуляциям традиционных финансовых инструментов. на $28 млн, а хотят до $50 млн набрать в ближ время и это без всяких там лаунчпадов :)
Вообщем основные выводы из этого всего таковы, если реально деньги будут перетекать из традиционных бондов в крипто-бонды, то нас действительно ждет просто бомбический рост крипторынка, чего и боятся печатальщики бакса, в нынешнем лице Трампа, с его твитами о крипте и силе "грязной зеленой бумажки".
Подробнее про компанию Blockstack , ее "спонсорах" и то сколько они заработают на этом можно почитать по ссылкам ниже.
ссылка1 ссылка2 ссылка3
#proffit_news
@Proffit_crypto

#regulation #орв Сегодня в 22:10 по Москве один из проектов актов по «устойчивому Рунету» Роскомнадзора сменил степень регулирующего воздействия с низкой на среднюю. Также продлен срок публичного обсуждения. Текст новый, исправленный. Это тот самый смешной норматив, который по розовой ракете Роскомнадзора отключал Россию от интернета:
https://regulation.gov.ru/p/92597

👉 Продление сроков сделано с нарушением — по порядку рассмотрения акта после доработки. Сводный отчет заполнен не до конца по правилам средней степени регулирующего воздействия

✅ Из текста убрана ошибка, в результате которой получалось, что в случае угроз Рунет отключался от всех по определению
✅ Более чётко прописаны слабоисполнимые нормы и условия «если оба конца в России» и «маршрут только через узлы в пределах России»
✅ Оставлена неясная тема с «при анонсировании маршрутов сообщений электросвязи должны указываться сведения о взаимодействии с другими автономными системами в соответствии со вторым абзацем подпункта 4 пункта 8 статьи 56.2 Федерального закона от 7 июля 2003 г. № 126-ФЗ «О связи»
✅ Документ стал более четким и более четко перестал вписываться в иерархию нормативов по централизованному управлению. Там теперь каждый документ сам по себе и на практике придётся тетраэдр вбивать в круглое отверстие

Из интересного

👎 Смена статуса произошла поздним вечером, чтобы откусить от публичного обсуждения один день. Это уже не в первый раз, кстати.

😱 Выдержка из комментариев разработчика норматива к отзыву Вымпелкома:
«Как указывает автор «разработчики документа не учли, что порядок маршрутизации сообщений электросвязи в сети связи общего пользования (или пропуска трафика) регулируется рядом нормативных правовых актов, в том числе: - приказом Министерства информационных технологий и связи Российской Федерации от 08.08.2005 № 98 «Об утверждении Требований к порядку пропуска трафика в телефонной сети связи общего пользования». Таким образом, в настоящее время уже действует нормативный правовой акт, регламентирующий порядок пропуска трафика. Соответственно, Проект не устанавливает новых обязанностей.»
Это и как шутка не очень к месту и смешно, и как аргумент не очень серьёзно. Похоже на истерику.

😱 Вот ещё выдержка из комментариев разработчика норматива к отзыву РСПП: «Термин «анонсирование маршрутов сообщений электросвязи» является устоявшимся в отрасли и характерен для протокола bgp.»
Иногда лучше жевать, чем говорить. Даже если истерика.

‼️ Кто писал отзывы на этот проект норматива — пишите ещё, или переразместите заново старый.

⚡️ Давайте пройдёмся по списку и поставим проектам 👎 (или может кто хочет 👍 - у каждого своя голова на плечах). Психологическое давление я считаю тоже важным:
https://usher2.club/helpers/stable-runet-npa-list

YouTube запустил образовательные плейлисты, в которых не будет рекомендаций видео на другие темы. Составлять их будут образовательные организации.
https://vc.ru/media/75151

Интересно, что будут делать с этим "4g через спутник" наши арканарские власти, одержимые идеей контролировать каждый бит. Наши прихожане уверяют, что единственный способ сделать это - разрешить ВанВебу поставить в России наземные станции и начать работу тут. Потому что он все равно будет работать на большей части территории страны - частоты ненаглушишься, конфисковывать у всех устройства - тоже не вариант. Впрочем, пока можно поступить классическим арканарским способом - закрыть глаза. Авось пронесёт.

https://twitter.com/nnikiforov/status/1149705549124132865?s=21

​​Готовая фирма за 15 т.р...

Обнальщики постоянно грустят, как дорожают готовые технички, и как сложнее и сложнее работать. При этом юристы, работающие оптом, продают ООО… за 15 т.р.

Как такое вообще возможно?
Где они берут юрадрес (только он стоит в Москве 20-30 т.р.)?
Сколько они платят номиналу-директору? Ведь никто не хочет и не станет номиналить за 5 т.р. Откуда у них много людей в разных регионах?
Откуда у них столько фирм, зарегистрированных на учредителя, у которого НЕТ других фирм?

Ведь юристы обычно “выжимают” из номинала все соки и делают хотя бы 2 конторы.

Вопросов больше, чем ответов. Потому что ответ на все вопросы один:
Эти юристы наладили выпуск ЭЦП на физ лиц для регистрации фирм и ИП через сайт ИФНС. Себестоимость подачи таких документов - 200 руб. Ну, или 500. Госпошлину убрали, если фирму регать черех ЭЦП.

Вообще, для выпуска ЭЦП надо лично прийти в удостоверяющий центр, предьявить паспорт…Но мы же в России: у этих юристов все налажено по сканам. Благодать. Бери номиналов с Чукотки, или из глухих деревень, рисуй юрадреса, сдавай фирмы на регистрацию СОТНЯМИ в Москве, глядишь, процентов 50% проскочит.
Себестоимость практически нулевая.

Естественно, все эти фирмы продаются без счетов. Ведь открыть счет в банке без дира - это вопрос практически неразрешимый.

Годятся данные фирмы лишь под списание НДС, да еще в ряде случаев по ним можно открыть счет по доверенности на своего человека в некоторых банках (по доверенности в ряде регионов открывает даже Сбербанк, причем по доверенности не нотариальной, а просто с печатью фирмы).

Естественно, покупая такую фирму, вы рискуете познакомится с недовольным жителем Чукотки или крестьянином из глухой деревни. Причем в кабинете следователя. Ведь создание ООО путем обмана уголовно наказуемо, а вы можете стать ближайшим свидетелем. Самые наглые юристы вообще не парятся, а просто “рисуют” клонов ООО по взятой на сайтах других юристов информации.

читать на сайте:

Киберспорт в Китае становится национальным проектом!
https://www.vestifinance.ru/articles/121978

Адвокатам разрешат обращаться к детективам, чтобы лучше узнать клиента - legal.report
https://legal.report/advokatam-razreshat-obrashhatsja-k-detektivam-chtoby-luchshe-uznat-klienta/