Искусственный интеллект
Этика
Комплаенс

📌Драматическая история разворачивается в OpenAI - компании-владельце чат-бота ChatGPT: OpenAI достигла принципиального соглашения о возвращении уволенного советом директоров гендира Альтмана, перешедшего в Microsoft.

👉История вопроса:
☑️OpenAI была создана в 2015 году некоммерческой организацией с прописанным уставом и целями. основателями числятся Илон Маск, Сэм Альтман, Илья Суцкевер, Грег Брокман, Войцех Заремба и Андрей Карпаты
☑️разработчик GPT для ведения коммерческой деятельности организовал «компанию-прокладку» которую и возглавил Альтман. Сейчас в мире существует две компании OpenAI: материнская НКО OpenAI и дочерняя коммерческая OpenAI, которая и стала привлекать инвестиции
☑️Коммерческая OpenAI как разработчик GPT получила 13 млрд инвестиций только от Microsoft
☑️полный контроль над коммерческой OpenAI до сих пор оставался и остается за НКО OpenAI
☑️Накануне увольнения Сэма Альтмана с поста гендиректора OpenAI несколько штатных исследователей компании направили совету директоров письмо с предупреждением о важнейшем открытии в области искусственного интеллекта (ИИ), которое потенциально могло бы угрожать человечеству
☑️17 ноября Альтмана уволили с поста гендиректора OpenAI, после того как совет директоров пришел к выводу, что тот «не был всегда откровенен в своем взаимодействии с советом, что ограничивает его способность выполнять свои обязанности». «У правления больше нет уверенности в его способности возглавлять OpenAI», — говорилось в заявлении совета директоров
☑️После сообщений об увольнении Альтмана акции Microsoft на NASDAQ упали на 7 пунктов одним днем (падение стоимости MSFT на 1,68%)
☑️После ухода Альтмана OpenAI столкнулась с «волной отставок». Его возвращения требовали как инвесторы, так и сотрудники. 700 из 770 работников компании подписали письмо, в котором пригрозили уйти в Microsoft вслед за уволенным гендиректором

✅Можно было бы воспринять все это, только лишь как корпоративный конфликт, которых множество. Но есть несколько моментов, важных для дальнейшего регулирования ИИ:
⚡️ письмо сотрудников на Совет директоров НКО OpenAL «о важнейшем открытии в области искусственного интеллекта (ИИ), которое потенциально могло бы угрожать человечеству» - об этом крайне мало информации
⚡️ на текущий момент весы условно качнулись не в сторону проработки вопросов безопасности и контроля ИИ, а в сторону коммерциализации технологии
⚡️ в США, где разворачивается эта «драма», не существует единого регулирования в сфере ИИ. Разные ведомства имеют свои отдельные правила

❗️И еще: 28.03.23 глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк, а также более 1000 экспертов на сайте организации Future of Life подписали открытое письмо с призывом остановить обучение нейросетей

❓Регулирование ИИ не успевает за развитием технологий, пока нам везет. Но если нам перестанет везти?

Почитайте хронику событий с разных ракурсов:
https://www.rbc.ru/technology_and_media/22/11/2023/655da84c9a794742c9e96326
https://habr.com/ru/companies/itsumma/articles/775082/
https://www.forbes.ru/tekhnologii/500813-kak-sema-al-tmana-uvolili-iz-openai-i-vzali-v-microsoft-i-cto-eto-znacit-dla-rynka-ii
https://vc.ru/chatgpt/924346-turbulentnost-v-openai-hronika-uvolneniya-sema-altmana-i-kommentariy-ilona-maska

Материалы в канале по тематике ИИ:
Некорректное судебное решение с использованием GPT: https://t.iss.one/compliancecraft/1320
Эфир в канале по тематике ИИ: https://t.iss.one/compliancecraft/1099
ЕС: https://t.iss.one/compliancecraft/449
о письме 28.03.23: https://t.iss.one/compliancecraft/1091


#искусственныйинтеллект
#этика
#комплаенс

Искусственный интеллект
Комплаенс
Безопасность

📌В рамках ноябрьской конференции «AI SAFETY SUMMIT» в Великобритании произошло 2 важных события:
1️⃣Декларацию по рискам и возможностям искусственного интеллекта подписали 28 стран, т.н. The Bletchley Declaration by Countries Attending the AI Safety Summit (включая США, UK и Китай)
2️⃣В UK создан правительственный Институт безопасности ИИ (AI Safety Institute)

1️⃣В рамках Декларации выделены следующие планы стран-участниц:
☑️ выявление рисков безопасности ИИ, вызывающих общую озабоченность, формирование общего научного и основанного на фактических данных понимания этих рисков и поддержание этого понимания
☑️ разработка соответствующей политики, основанной на оценке рисков: повышение прозрачности со стороны частных субъектов, развитие передовых возможностей искусственного интеллекта, соответствующие показатели оценки, инструменты для тестирования безопасности и развитие соответствующего потенциала государственного сектора и научных исследований

❗️Страны-участники приняли на себя обязательство совместно разработать независимый и всеобъемлющий отчет "О состоянии науки". ➡️Отчет будет разрабатываться под руководством Йошуа Бенгио, ученому в области искусственного интеллекта, удостоенному премии Тьюринга, и члену Научно-консультативного совета ООН
➡️Отчет подготовит Экспертно-консультативная группа, состоящая из представителей стран, участвующих в Саммите, и других стран-партнеров, он будет опубликован в преддверии следующего саммита по безопасности AI в 2024

👉Цель Отчета:
✔️ способствовать общему научно обоснованному пониманию рисков, связанных с ИИ (frontier AI)
✔️ обобщение лучшего из существующих исследований и определены приоритетные области исследований, обеспечивая синтез существующих знаний о рисках frontier AI.

2️⃣В отношении Института безопасности ИИ
☑️ создан в публичном интересе
☑️ не является регулятором и не определяет правила государственного регулирования
☑️ создан как глобальный хаб по вопросам исследований в области безопасности ИИ

👉Основные направления работы института:
1️⃣Риски двойного назначения использования ИИ
2️⃣Социальные последствия
3️⃣Безопасность и защищенность систем
4️⃣Потеря контроля (над технологией)

👉Институт анонсировал проведение исследований по следующей тематике:
✔️Создание продуктов для управления ИИ (включая разработку нормативно-правовой базы и проверки комплаенс-систем в области управления ИИ)
✔️Совершенствование науки оценок
✔️Новые подходы к более безопасным системам ИИ

❗️Документ о создании института содержит набор определений:
- ИИ (Artificial Intelligence)
- Машинное обучение (Machine Learning)
- Система ИИ (AI system)
- Продвинутый/передовой ИИ (Advanced/frontier AI)
- Безопасность ИИ (AI safety)
- Защищенность систем ИИ (AI security)

✅Пока эти документы только намерения, но если все планы будут выполнены, вероятнее всего через несколько лет мы окажемся в другом комплаенс-мире с новыми экстерриториальными правилами в отношении ИИ, подходов регулирования и комплаенс-систем.

https://ria.ru/20231101/ii-1906737416.html
👉Информация об Институте безопасности ИИ в UK: https://assets.publishing.service.gov.uk/media/65438d159e05fd0014be7bd9/introducing-ai-safety-institute-web-accessible.pdf
👉Текст Декларации: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023
👉Комментарии в отношении прошедшего саммита от эксперта Олега Яновского, преподавателя кафедры политической теории МГИМО (❗️очень рекомендую послушать целиком): https://dzen.ru/video/watch/656f19d2649b955cd36cadf6

👉О российском форуме «Форум этики в сфере искусственного интеллекта: Поколение GPT. Красные линИИ» в ноябре 2023: https://t.iss.one/compliancecraft/1331

#искусственныйинтеллект
#комплаенс
#безопасность

Кино
Этика
Искусственный интеллект

1️⃣Короткометражка студентов «По контуру лица» на подумать:

🌲О ценности человеческого общения
🎄 О цене одиночества
🎄О вероятностном (социальный рейтинг и прочие вариации) развитии

https://youtu.be/Ech4fD8wQUk?si=2dAvhVwxiNckJnn0

2️⃣ необычно, мрачно, брутально - Мельница (The mill)

А если докрутить корпоративные правила до:
🎄абсурда
🎄 непробиваемой четкости
🎄вовлечения ИИ

😉😉😉

https://vk.com/video-192544707_456264710

p.s. Для всех кому надоели новогодние (салаты) фильмы 😉

#кино
#этика
#искусственныйинтеллект
#ии

Этика
Искусственный интеллект

📌Илон Маск подал в суд на компанию OpenAI, которая занимается разработкой искусственного интеллекта, ее гендиректора и президента, из-за коммерциализации проекта

👉Суть претензии:
🛑OpenAI была преобразована в де-факто дочернюю компанию Microsoft с закрытым исходным кодом
🛑Новое правление OpenAI совершенствует искусственный интеллект (AGI), чтобы «максимизировать прибыль для Microsoft, а не на благо человечества»
🛑детали GPT-4 известны только OpenAI и, по имеющейся информации, Microsoft. Следовательно, GPT-4 является противоположностью «открытого ИИ» и, таким образом, GPT-4 закрыта по коммерческим соображениям Microsoft
🛑нарушение контракта и недобросовестную деловую практику и просит компанию вернуться к открытому исходному коду
🛑компания «исказила» цели и задачи, которые были поставлены при ее основании

👉В обеспечение иска:
Маск запросил судебный запрет, чтобы помешать OpenAI, Брокману, Альтману и Microsoft получать прибыль от технологии AGI📍 компании

👉История OpenAI:
☑️OpenAI была создана в 2015 году некоммерческой организацией с прописанным уставом и целями. основателями числятся Илон Маск, Сэм Альтман, Илья Суцкевер, Грег Брокман, Войцех Заремба и Андрей Карпаты
☑️разработчик GPT для ведения коммерческой деятельности организовал «компанию-прокладку» которую и возглавил Альтман. Сейчас в мире существует две компании OpenAI: материнская НКО OpenAI и дочерняя коммерческая OpenAI, которая и стала привлекать инвестиции
☑️Коммерческая OpenAI как разработчик GPT получила 13 млрд инвестиций только от Microsoft
☑️полный контроль над коммерческой OpenAI до сих пор оставался и остается за НКО OpenAI
☑️В ноябре 2023 года OpenAI достигла принципиального соглашения о возвращении уволенного советом директоров гендира Альтмана, перешедшего в Microsoft

⚡️⚡️⚡️28.03.23 глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк, а также более 1000 экспертов на сайте организации Future of Life подписали открытое письмо с призывом остановить обучение нейросетей

📍Artificial General Intelligence или AGI – это сильный искусственный интеллект общего уровня, который способен мыслить и действовать, как человек

🖌Цитата с сайта OpenAI:
«Наша миссия заключается в обеспечении того, чтобы искусственный общий интеллект — системы искусственного интеллекта, которые, как правило, умнее людей, — приносили пользу всему человечеству»

✅Вопрос сейчас не в юридических перспективах этого иска (думаю коллеги-юристы еще много раз будут комментировать ход этого процесса), здесь скорее интересен этический аспект и аспект добросовестности:
✔️Историй с НКО с благородными целями много
✔️Историй, когда кто-то в НКО начинает вести себя недобросовестно и действует либо в своих личных интересах либо в интересах третьих лиц в разрез смысла и идеи деятельности НКО – тоже много
✔️Историй, когда у учредителей НКО денег меньше на юристов чем у Маска – больше всего – и тогда чаще всего недобросовестные действия менеджмента НКО остаются безнаказанными
✔️Каким будет вердикт суда – очень интересно, учитывая, что здесь все перемешано: и этика, и благородные цели и добросовестность и коммерческие интересы

➡️Историй, которые могут (потенциально) причинить вред человечеству как бы много, но вокруг ИИ пока слишком много всего не сделано:
❓ до конца неясен масштаб рисков (пока многим страшно, а кому-то все равно в погоне за прибылью)
❓ отсутствует (у всех стран) ясное и достаточное регулирование ИИ и рисков его использования

❗️В любом случае это знаковое дело и будем за ним наблюдать

https://www.rbc.ru/technology_and_media/01/03/2024/65e213439a7947a819b19faf?from=copy


🖇Материалы из канала:
👉Об истории увольнения Альтмана в ноябре 2023: https://t.iss.one/compliancecraft/1329
👉О декларации по рискам ИИ: https://t.iss.one/compliancecraft/1362
👉О регулировании этики ИИ в РФ: https://t.iss.one/compliancecraft/1331 (также смотрите пост о Кодексе ИИ в РФ от RBEN по этой части: https://t.iss.one/rben_official/19)
👉о письме 28.03.23: https://t.iss.one/compliancecraft/1091

#этика
#искусственныйинтеллект

Этика
Искусственный интеллект

Отличная подборка материалов от коллег из RBEN👇

#этика
#искусственныйинтеллект

❇️ПРЕЗЕНТАЦИЯ НАЦИОНАЛЬНОГО СТАНДАРТА «ИНДЕКС ДЕЛОВОЙ РЕПУТАЦИИ (ЭКГ-РЕЙТИНГ)» (07 июня, 12:00–13:00) - https://forumspb.com/programme/business-programme/123883/

День 4️⃣
❇️ЧУВСТВИТЕЛЬНЫЕ ДАННЫЕ: ТРАНСФОРМАЦИЯ АНАЛИЗА ПОТРЕБИТЕЛЬСКОГО РЫНКА, КОНСАЛТИНГА И АУДИТА В РОССИИ (08 июня, 12:00–13:15) - https://forumspb.com/programme/business-programme/123892/


#мероприятия
#комплаенс
#искусственныйинтеллект
#информационнаябезопасность
#фарма
#устойчивоеразвитие
#этика

Книги
Этика
Искусственный интеллект

📌В издательстве ВШЭ вышла книга Бернд Карстен Шталь, Дорис Шредер и Ровены Родригес «Этика искусственного интеллекта. Кейсы и варианты решения этических проблем» с интересным обзором кейсов и вариантов решения этических проблем

👉Рассмотрены кейсы по следующим направлениям:

☑️Кейсы по дискриминации, которой способствовал ИИ
☑️Кейсы нарушения неприкосновенности частной жизни
☑️Кейсы надзорного капитализма, использующего ИИ
☑️Кейсы манипулированию при помощи ИИ
☑️Кейсы, в которых ИИ негативно влияет на право на жизнь, свободу и личную безопасность
☑️Кейсы с потенциальным конфликтом между ИИ и человеческим достоинством
Приносит ли «ИИ во благо» благо?

👉Купить можно в магазинах Вышки или (как вариант) здесь: https://www.ozon.ru/product/etika-iskusstvennogo-intellekta-keysy-i-varianty-resheniya-eticheskih-problem-1597456516/

🖇Краткий обзор с оглавлением прилагаю

#книги
#этика
#искусственныйинтеллект
#ии

✅Менеджмент:
Современные тренды юридического менеджмента и консалтинга: https://roscongress.org/sessions/splf-2024-delovaya-programma-sovremennye-trendy-yuridicheskogo-menedzhmenta-i-konsaltinga/translation/#

✅Противодействие мошенничеству:
Доверие при дистанционных коммуникациях. Как защитить себя от мошенничества и социальной инженерии: https://roscongress.org/sessions/splf-2024-delovaya-programma-doverie-pri-distantsionnykh-kommunikatsiyakh-kak-zashchitit-sebya-ot-moshennichestva-v-sotsialnoy-in/translation/#

❗️Остальные трансляции сессий здесь: https://roscongress.org/events/xii-peterburgskiy-mezhdunarodnyy-yuridicheskiy-forum/sessions/

#мероприятия
#антикоррупционныйкомплаенс
#антимонопольныйкомплаенс
#санкционныйкомплаенс
#оценкарисков
#искусственныйинтеллект
#маркетплейс
#ии