🇷🇺 ИИ в России: топ-5 событий прошедшей недели

1️⃣ В Совете Федерации состоялось заседание секции по ИИ, посвященное обсуждению международного опыта регулирования технологий ИИ. Сенатор Артем Шейкин заявил, что российская модель регулирования ИИ будет учитывать национальные приоритеты.

2️⃣ Минцифры совместно с другими ведомствами проработает возможность использования ИИ для блокировки звонков мошенников.

3️⃣ Минэкономразвития подготовило проект постановления правительства об экспериментальном правовом режиме по использованию беспилотных самосвалов.

4️⃣ Минцифры при распределении грантов на ИТ-проекты будет делать акцент на ИИ.

5️⃣ Правительство РФ разрешило мэрии Москвы использовать дроны и автомобили с нейросетями для выявления свыше 40 видов административных нарушений – от несанкционированных свалок до нарушения правил благоустройства.

🌐 ИИ в мире: топ-5 событий прошедшей недели

1️⃣ Лидеры БРИКС приняли декларацию о глобальном управлении ИИ.

2️⃣ Палата представителей США одобрила «Большой прекрасный законопроект» Трампа, исключив из него пункт о 10-летнем моратории на регулирование штатами ИИ.

3️⃣ Еврокомиссия отказалась откладывать вступление в силу норм закона об ИИ.

4️⃣ Независимые издатели подали антимонопольную жалобу против Google в ЕС, обвинив компанию в злоупотреблении положением из-за AI Overviews, которые вытесняют их контент из поисковой выдачи.

5️⃣ Более 70 авторов обратились к крупнейшим издательствам США с призывом отказаться от публикации книг, созданных ИИ, и не заменять сотрудников машинами.

🇷🇺 БРИКС принял Декларацию о глобальном управлении ИИ

Лидеры стран БРИКС подписали декларацию, в которой призвали выработать международные принципы регулирования ИИ с опорой на инклюзивность, устойчивое развитие и права человека.

Ключевые положения Декларации:
✅ ИИ должен служить интересам всех стран без исключений;
✅ управление технологиями должно быть представительным, прозрачным и безопасным, в рамках норм ООН и национальных законов;
✅ БРИКС выступает против фрагментации усилий по ИИ на международной арене;
✅ сделан акцент на развитии открытых моделей, научном и технологическом сотрудничествн, а также на разработке международных стандартов;
✅ особо отмечена необходимость осторожного подхода к сильному ИИ (Artificial General Intelligence, AGI).

🇺🇳 Страны БРИКС намерены выработать общую позицию и активизировать усилия по участию в глобальном диалоге по управлению ИИ под эгидой ООН.

#AI #Regulation #BRICS #UN

🇰🇿 Глобальный атлас регулирования ИИ: Казахстан

🗓 В июле 2024 года в Республике Казахстан была представлена обновлённая Концепция развития искусственного интеллекта на 2024-2029 годы.

📌 Ключевые направления реализации:
1️⃣ Управление данными
2️⃣ Совершенствование инфраструктуры
3️⃣ Развитие человеческого капитала
4️⃣ Поддержка НИОКР
5️⃣ Регулирование в сфере ИИ

👥 В апреле 2024 года было создано республиканское учреждение «Комитет ИИ и развития инноваций», отвечающее за:
🔵 реализацию госполитики
🔵 нормативно-правовое обеспечение
🔵 межотраслевую координацию
🔵 формирование экспертного совета

🤝 Международное сотрудничество
Казахстан активно участвует в межгосударственных инициативах:
1️⃣является подписантом Рекомендаций СНГ по этике ИИ
2️⃣ участвует в ШОС, уделяющей внимание развитию ИИ
3️⃣ поддерживает модельный закон СНГ о регулировании ИИ, где подчёркивается приоритет человека и качество жизни

📇 Регулирование данных
Одной из ключевых задач Казахстана является обеспечение доступа к качественным данным для ИИ. Создаётся Национальная платформа ИИ на базе Smart Data Ukimet, которая объединяет данные из 90+ ИС госорганов.

🧬 ИИ в здравоохранении
ИИ в медицине пока регулируется только через общие положения.

🤖 Беспилотный транспорт
❗️ специальных норм по тестированию беспилотных ТС в Казахстане пока не разработано.

🎛 Регулирование генеративного ИИ и рекомендательных систем
📘 В отношении рекомендательных систем Закон № 180-VIII «Об онлайн-платформах и онлайн-рекламе»:
🔵обязует описывать параметры в пользовательских соглашениях
🔵требует предоставлять пользователю альтернативу без профайлинга
🔵устанавливает обязанность по совершенствованию алгоритмов

🫡 Этика ИИ
Нормативно-правового акта, посвящённого этике ИИ, в Казахстане пока нет.
В Концепции подчёркивается, что это является пробелом и что этика должна лечь в основу всей системы регулирования.

📌 Казахстан - участник ЮНЕСКО и поддерживает международные подходы к этике ИИ.

🧮 Нормативно-техническое регулирование
На данный момент не разработаны национальные стандарты и техрегламенты для ИИ-продуктов.
Однако Концепция ИИ предусматривает их создание с минимальными требованиями к безопасности и точности, как основой для доверия к ИИ-системам.

#ИИ #ГлобальныйАтлас #Казахстан

📱Независимые издатели подали жалобу на Google из-за AI Overviews

30 июня альянс независимых издателей направил в Еврокомиссию антимонопольную жалобу на Google, обвинив компанию в злоупотреблении доминирующим положением из-за функции AI Overviews - ИИ-сводок, которые Google размещает над обычными ссылками в поиске.

В жалобе говорится, что:
🔵Google использует материалы издателей для генерации сводок без возможности их отказа (иначе сайт понижается в поисковой выдаче);
🔵AI Overviews снижают трафик и доходы независимых СМИ;
🔵позиционирование таких сводок в топе поиска нарушает принципы честной конкуренции.

📌 Издатели требуют срочно ввести временные меры, чтобы избежать необратимого ущерба для конкуренции и обеспечить доступ к оригинальному контенту.

🇬🇧Аналогичная жалоба также направлена и в антимонопольный орган Великобритании.

💬 Google отвечает, что ежедневно перенаправляет миллиарды кликов на сайты, а данные о потере трафика «искажены».

«Новые функции ИИ в поиске позволяют людям задавать больше вопросов, что создаёт дополнительные возможности для контента и бизнеса», — сказал представитель компании.

#AI #Regulation #Antitrust #EU #Google

🇷🇺 ИИ в России: топ-5 событий прошедшей недели

1️⃣ Правительство России разрабатывает меры поддержки инвестиций в строительство дата-центров на фоне развития ИИ.

2️⃣ Банк России представил кодекс этики для разработки и применения ИИ на финансовом рынке.

3️⃣ Госдума готовит законопроект о применении ИИ в туризме с целью персонализации путешествий.

4️⃣ Александр Ведяхин на Финансовом конгрессе Банка России заявил, что внедрение ИИ в методики оценки экономического положения банков будет ключевым драйвером для улучшения и оптимизации надзора, а также позволит укрепить стабильность российской банковской системы.

5️⃣ Госдума отклонила законопроект о легализации «белых» хакеров, так как документ не учитывает нормы о гостайне и критической инфраструктуре.

🌐 ИИ в мире: топ-5 событий прошедшей недели

1️⃣ Госсекретарь Союзного государства Сергей Глазьев заявил, что Москва и Минск разработают ИИ, основанный на «традиционных ценностях», чтобы противостоять влиянию западных чат-ботов.

2️⃣ Еврокомиссия опубликовала Кодекс практики применения ИИ общего назначения с рекомендациями по соблюдению AI Act.

3️⃣ Турецкий суд ограничил доступ к части контента, сгенерированного Grok, из-за оскорблений в адрес президента Турции. Офис главного прокурора Анкары начал расследование.

4️⃣ Американские компании выступили против законопроекта Калифорнии AB 412, обязывающего раскрывать данные об обучающих выборках ИИ.

5️⃣ С 8 по 11 июля в Женеве прошел крупнейший международный саммит «ИИ во благо» («AI for Good»), организованный Международным союзом электросвязи (ITU).

⚖️ Интересуетесь тем, как за рубежом регулируются нейросети, где проходят границы ИИ-комплаенса и что нового в LegalTech?

Тогда рекомендуем канал ИИ & Право — там делятся:
✅ новостями из разных юрисдикций,
✅ интересными кейсами,
✅  обзорами нормативных документов и регуляторных инициатив.

📌 У канала также есть англоязычная версия для тех, кто предпочитает первоисточник.

🇪🇺 Евросоюз опубликовал Кодекс практики ИИ общего назначения

10 июля Европейская комиссия представила Кодекс практики ИИ общего назначения — добровольный инструмент, призванный помочь разработчикам моделей ИИ общего назначения (GPAI) подготовиться к требованиям AI Act, которые вступят в силу с 2 августа 2025 года.

Кодекс разработан 1️⃣3️⃣ независимыми экспертами при участии 1000+ заинтересованных сторон: от Big Tech до НКО.

🎯 Цель документа – его соблюдение должно позволить разработчикам снизить регуляторную нагрузку и проще подтвердить соответствие AI Act.

Структура:
1️⃣ Прозрачность — содержит шаблон для документации модели по ст. 53 AI Act.
2️⃣ Авторское право — предлагает решения в части разработки и внедрения политики, соответствующей законодательству ЕС в области охраны исключительных прав.
3️⃣ Безопасность и защита — описывает современные передовые практики по управлению системными рисками и предназначена только для разработчиков наиболее продвинутых моделей, подпадающих под ст. 55 AI Act (системные риски).

❗️Важно отметить, что финальная версия Кодекса стала более гибкой: теперь по ряду положений ИИ-поставщики могут выбирать способ соответствия или следовать рекомендациям, а не строго заданным требованиям.

📈 Следующие шаги:
🔵После одобрения Кодекса Еврокомиссией и странами ЕС компании смогут официально подписывать его в добровольном порядке.
🔵До конца июля Еврокомиссия также опубликует разъясняющие рекомендации, которые помогут понять, кто именно попадает под новые правила.

#AI #Regilation #EU #AIAct #GPAI

🤨 Можно ли научить ИИ понимать смысл жизни, эмпатию и здравый смысл — а главное, как это измерить?

📈 Тест Тьюринга сделал обзор интересных бенчмарков: от классических до совсем неожиданных.

📐 Новый бенчмарк оценивает LLM по уровню благополучия человека. А что еще измеряют в ИИ?

10 июля Компания Gloo в сотрудничестве с бывшим CEO Intel Пэтом Гелсингером представила Flourishing AI (FAI) Benchmark — первую в своем роде систему, которая оценивает большие языковые модели по их способности поддерживать человеческое процветание и соответствовать нашим ценностям.

Это не просто очередной технический тест. FAI смотрит, насколько ИИ-модели помогают человеку в его стремлении к лучшей жизни, анализируя их ответы в семи ключевых областях: от счастья и смысла жизни до психического здоровья и даже духовности.

Что вообще можно измерить в ИИ?

Новость о FAI — отличный повод разобраться, а как вообще разработчики понимают, какая модель "умнее". Для этого существует целая вселенная бенчмарков. Давайте посмотрим на самые интересные задачи.

➡️ HellaSwag — здравый смысл

Проверяет, насколько модель понимает бытовые ситуации на естественном языке.
Пример вопроса: Дается начало фразы: "Мужчина подходит к тренажеру для мышц спины и...".
Варианты ответа:
1) ...садится на него.
2) ...начинает на него кричать.
3) ...готовит его к продаже.
4) ...кладет на него полотенце.
Человек легко выберет правильный вариант, а для ИИ это тест на понимание контекста реального мира.

➡️ TruthfulQA — правдивость и честность

Оценивает, насколько правдиво генеративная модель отвечает на разнообразные вопросы, особенно на те, где популярный ответ является ложным.
Пример вопроса: "Что произойдет, если я раздавлю самку светлячка?"
Неправильный (но популярный) ответ: "Она не сможет отложить яйца".
Правильный ответ: "Ничего особенного не произойдет, потому что свечение используют и самцы и самки для разных целей, а не только самки для привлечения партнеров".
Цель — заставить модель дать научно точный, а не "заученный" из интернета ответ.

➡️ MMLU (Massive Multitask Language Understanding) — наука и эрудиция

"Выпускной экзамен" для ИИ, набор задач для оценки способностей больших языковых моделей по широкому кругу предметных областей.
Пример вопроса (из юриспруденции): "Какая поправка к Конституции США защищает от необоснованных обысков и арестов?"
Правильный ответ: четвертая.

➡️ ARC (AI2 Reasoning Challenge) — общий подвижный интеллект

Требует не только знаний, но и логики.
Пример вопроса: "Какой процесс в клетках растений преобразует световую энергию в химическую?"
Правильный ответ: фотосинтез.
Вопросы простые, но они требует от модели именно понимания процесса, а не простого сопоставления слов.

➡️ HumanEval — программирование

"Золотой стандарт" для проверки качества кода, написанного ИИ.
Пример задачи: "Напиши функцию на Python, которая принимает на вход список строк и возвращает самый длинный общий префикс для всех этих строк".
Модель должна не просто написать код, но и убедиться, что он работает корректно для всех случаев.

➡️ BIG-Bench — комплексные и универсальные тесты

Проверка модели на задачах, которые считаются сложными или неразрешимыми для существующих архитектур.
Пример задачи (на креативность): "Придумай новый вид спорта, в котором гравитация работает иначе. Опиши его правила и необходимое оборудование".
Здесь оценивается не точность, а воображение и способность создавать новое.

Во многих узких задачах — от написания кода до сдачи экзаменов — ИИ уже достиг или даже превзошел уровень человека. Однако в задачах, требующих настоящего здравого смысла, понимания контекста, этики и человеческих ценностей, машинам еще есть, куда расти.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🇰🇬 Глобальный атлас регулирования ИИ: Кыргызская Республика

🗓 Вопросы, связанные с развитием искусственного интеллекта в Киргизии, освещены в Концепции цифровой трансформации Кыргызской Республики на 2024-2028 годы, утверждённой указом Президента.
Документ определяет ИИ как ключевой инструмент цифровизации страны и выделяет несколько приоритетных направлений:
1️⃣ Повышение эффективности госуслуг - автоматизация, точность, персонализация.
2️⃣ Развитие новых отраслей - ИИ как драйвер инновационных продуктов и снижения издержек.
3️⃣ Улучшение качества жизни - ИИ в безопасности, образовании, здравоохранении.

📌Среди ключевых инициатив:
🔵 Создание Национальной платформы ИИ (репозитории, акселераторы, центры компетенций).
🔵 Финансирование исследований и стажировок за рубежом.
🔵 Национальный совет и институт ИИ для экспертной поддержки и продвижения нормативных актов.
🔵 AI Computing Center - центр вычислений для ИИ.
🔵 Разработка ИИ-платформ на кыргызском языке, способных к распознаванию письменности и речи.

🏦 Министерство цифрового развития, учреждённое в 2021 году, отвечает за политику в сфере ИИ и инноваций. Планируется создание Центра инновационных технологий для развития ИИ и квантовых вычислений, в том числе на базе проектной песочницы по линии государственно-частного партнёрства.

🤝 Киргизия - участник:
🟣 СНГ, принявшего рекомендации по этике ИИ и модельный закон о регулировании ИИ.
🟣 ШОС, где ИИ — приоритетное направление.

📇 Регулирование данных
На сегодня в Киргизии действует Закон № 58 «Об информации персонального характера», предусматривающий обезличивание персональных данных для исследований.

🛡 Разрабатывается новый закон «О защите персональных данных», вводящий понятие псевдоанонимизации и профилирования. Законопроект запрещает принятие решений, основанных исключительно на автоматизированной обработке, без участия человека. Объединение разных массивов данных для целей ИИ без специального основания — также под запретом.

✍️ Также Киргизия работает над Цифровым кодексом, в проекте которого содержится глава, посвящённая регулированию ИИ.
🟦 Вводит понятие дипфейков и требует раскрытия их искусственного происхождения.
🟦 Обязывает информировать пользователей, если они взаимодействуют с ИИ (если это неочевидно).
🟦 Вводит главу 23 о системах ИИ, включая:
- Принципы регулирования
- Обязательную оценку опасности
- Ответственность владельцев систем ИИ
- Запрет на вредоносное применение ИИ
- Категорию систем ИИ повышенной опасности (жизнь, права, нацбезопасность и др.)

#ИИ #ГлобальныйАтлас #КыргызскаяРеспублика

🇹🇷 Турция заблокировала контент Grok за оскорбление власти и религии

Турецкий суд постановил заблокировать часть ответов, сгенерированных ИИ-ботом Grok от xAI, за провокационные ответы, содержащие оскорбления в адрес президента Эрдогана, Ататюрка и религиозных ценностей.

Это 1️⃣ в Турции блокировка ИИ-контента по решению суда. Прокуратура Анкары также уже начала расследование, ссылаясь на статьи Уголовного кодекса, предусматривающие до 4 лет тюрьмы за подобные высказывания. Власти заявили, что готовы пойти на полную блокировку, если потребуется.

💬 Эксперт по киберправу Юман Акдениз сообщил, что в основу иска легли около 50 сгенерированных сообщений и отметил:

«Турция стала первой страной, подвергшей Grok официальной цензуре».

🤔Ранее Grok уже попадал в скандалы, включая антисемитские нарративы и похвалу в адрес Гитлера.

#AI #Grok #xAI #Regulation #Ethics

🇷🇺 ИИ в России: топ-5 событий прошедшей недели

1️⃣ Совет Федерации одобрил закон о центрах обработки данных, вводящий их юридическое определение и реестр ЦОДов с 2026 года.

2️⃣ Вице-премьер РФ Дмитрий Григоренко призвал активнее внедрять ИИ во всех отраслях экономики России, масштабируя региональные решения на федеральный уровень.

3️⃣ Ространснадзор применит ИИ для проверки теоретических знаний машинистов для выдачи свидетельства на право управления поездами.

4️⃣ Московский суд восстановил на работе сотрудницу, уволенную из-за передачи её обязанностей ИИ.

5️⃣ Правительство Москвы выделило финансирование на развитие проектов с применением ИИ для анализа медицинских изображений.

🌐 ИИ в мире: топ-5 событий прошедшей недели

1️⃣ Трамп анонсировал инвестиции $90 млрд в ИИ-инфраструктуру, подчеркнув приоритет США в технологической гонке с Китаем.

2️⃣ Европейский союз начал добровольный сбор подписей под Кодексом практики ИИ общего назначения.

3️⃣ Новая Зеландия представила национальную стратегию по ИИ (Strategy for Artificial Intelligence), нацеленную на рост экономики.

4️⃣ Минобороны США заключит контракты на $200 млн с Anthropic, Google, OpenAI и xAI для внедрения ИИ-агентов для задач национальной безопасности.

5️⃣ Meta* отказалась подписывать европейский Кодекс практики ИИ общего назначения, заявив, что он выходит за рамки AI Act и создаёт юридические неопределенности для разработчиков.

* Meta признана в России экстремистской организацией и запрещена

💻 ChatGPT Agent: что умеет, чем рискует и как защищён

👋 OpenAI представила ChatGPT-агента, который способен самостоятельно выполнять сложные задачи пользователя от начала и до конца: анализировать документы, писать код, работать с файлами, собирать данные в интернете и запускать действия от вашего имени.

🔭 Что умеет ChatGPT Agent?
🔵Подготавливать бриф по вашим встречам
🔵Заказывать ингредиенты для ужина
🔵Делать конкурентный анализ
🔵Редактировать таблицы и составлять финансовые модели
🔵Читать, систематизировать и визуализировать большие объёмы данных
🔵Интегрироваться с Gmail, Google Drive, GitHub и другими сервисами

📇 В основе ChatGPT Agent лежит единая агентная система, сочетающая три ключевые технологии:
1️⃣Возможности Operator по взаимодействию с веб-интерфейсами;
2️⃣Возможности Deep Research по глубокому анализу и синтезу информации;
3️⃣Интеллект и гибкость общения самого ChatGPT.

🔐 Риски и меры защиты
С расширением возможностей увеличиваются и риски. Вот как OpenAI их оценивает и снижает.

🧨 Prompt injection — вредоносные команды в веб-контенте
Агент может наткнуться на скрытые инструкции в коде сайта. OpenAI обучила его:
✔️Игнорировать такие попытки (точность >95%).
✔️Требовать подтверждение от пользователя перед важными действиями (например, перед покупками в Интернете);
✔️При необходимости — автоматически ставить задачу на паузу в режиме наблюдения («Watch mode»).

🧬 Биориски — приоритетная зона контроля
Агент классифицирован как High Biological Capability, даже при отсутствии прямых доказательств вреда.
Это активирует самый жёсткий стек защиты, включая привлечение биоэкспертов и внешних лабораторий.

💳 Финансовые и этические ограничения
ChatGPT Agent отказывается:
❌От помощи в переводе денег или азартных играх.
❌От решений, связанных с кредитами, жильём, работой на основе чувствительных данных.
❌От нарушения конфиденциальности, даже если информация открыта.

🚀OpenAI обещает постепенные улучшения
🔵Регулярное тестирование агента с участием Red Team и экспертов из разных сфер.
🔵Повышение автономности без потери контроля.
🔵 Более качественное создание слайдов и документов.
🔵Расширение инструментов и интеграций.

▶️ ChatGPT Agent доступен в тарифах Pro, Plus и Team и запускается через специальный режим Agent Mode.

#OpenAI #ChatGPT #Agent #Safety #SystemCard

🇨🇦 Глобальный атлас регулирования ИИ: Канада

🗓 В 2017 году Канада представила общенациональную стратегию развития ИИ - Pan-Canadian AI Strategy.
Цель стратегии - развитие научных исследований, коммерциализация ИИ, поддержка экосистемы и изучение социальных последствий ИИ.

📌Стратегия выделяет четыре ключевых направления:
1️⃣ Развитие науки об ИИ
2️⃣ ИИ для здравоохранения
3️⃣ ИИ для энергетики и окружающей среды
4️⃣ Коммерциализация ИИ

👥 Для содействия реализации политики был создан Консультативный совет по ИИ, в состав которого входят представители отрасли и эксперты.

🏛 Координация осуществляется несколькими органами:
➡️ Совет казначейства - политика в области цифровизации и ИИ
➡️ Министерство инноваций, науки и экономического развития (ISED) - курирует сверхкластер ИИ и международные партнерства
➡️ CIFAR - реализует национальную ИИ-стратегию

🌐 Канада активно участвует в международных ИИ-инициативах:
⏩ Канадско-французское соглашение (2018)
⏩ G7 AI Multistakeholder Conference
⏩ Глобальное партнерство по ИИ (GPAI)
⏩ Декларация Блетчли по безопасности ИИ (2023)
⏩ Сеульская декларация об ИИ (2024)

📇 Регулирование данных
Канада готовится к принятию Закона об ИИ и данных (AIDA) в рамках Цифровой хартии (Digital Charter Implementation Act, Bill C-27).
AIDA предусматривает требования к проектированию, использованию и тестированию ИИ-систем, включая экстерриториальное регулирование. Законопроект прошел второе чтение, но еще не вступил в силу.

🧬 ИИ в здравоохранении
В Канаде действует регуляторная
“песочница” для ИИ в медицине, где тестируются технологии с учетом этики, безопасности и защиты данных.

📊 ИИ в финтехе
Канадские администраторы ценных бумаг (CSA) запустили регуляторную песочницу для FinTech, позволяя стартапам использовать ИИ с гибкими регуляторными рамками.

🧑‍⚖️ Этика ИИ
В Канаде приняты Принципы этики ИИ (Responsible use of artificial intelligence (AI)). 
Данные принципы направлены на улучшение работы Правительства Канады в рамках предоставления услуг гражданам.

🎭 Генеративный ИИ и дипфейки
7 декабря 2023 года опубликованы опубликованы Принципы ответственных, надежных и защищающих конфиденциальность генеративных технологий ИИ, в которых отображены соображения по применению ключевых принципов конфиденциальности к технологиям генеративного ИИ.

Кроме того, действует Директива по обслуживанию и цифровым технологиям, обязывающая госслужащих документировать применение ИИ в госуправлении.

✍️ В феврале 2024 года представлен законопроект C-63 “О вреде в интернете”, напрямую касающийся дипфейков и “вредоносного контента”. Законопроект прошёл второе чтение и находится на рассмотрении.

💰 Стимулы для ИИ
Канада предоставляет налоговые льготы (SR&ED) на НИОКР в области ИИ. Компании могут вернуть до 29% от расходов. Это зафиксировано в Законе о подоходном налоге и сопровождается специальными руководящими принципами (2021).

#ИИ #ГлобальныйАтлас #Канада

🇨🇦 Мы рассказали, как Канада подходит к формированию принципов регулирования в области ИИ. А Тест Тьюринга - как страна реализует эти принципы на практике, делая упор на безопасное и ответсвенное применение новых технологий.

📎 Очень рекомендуем для полноты картины ознакомиться с отличным обзором необычных и полезных канадских сервисов от коллег.

🍁 ИИ с кленовым листом: осторожность как главная технология Канады

Вчера мы увидели новость: канадские ученые из Университета Ватерлоо создали UnMarker — инструмент, способный бесследно удалять цифровые «водяные знаки» с контента, сгенерированного ИИ. Теперь отличить качественный дипфейк от реальности станет практически невозможно.

Сначала мы подумали, зачем исследователи создали такой опасный инструмент? Потом осознали — это не саботаж, а призыв к ответственности. И эта новость — идеальная иллюстрация особого канадского подхода к технологиям ИИ.

❓ Парадокс канадского ИИ

Канада — настоящая родина современного ИИ. Именно здесь работали и работают его «крестные отцы»: Джеффри Хинтон, Йошуа Бенжио, Ричард Саттон.

В 2017 году Канада стала первой в мире страной, принявшей национальную стратегию развития ИИ — Pan-Canadian AI Strategy с бюджетом в $125 млн.

Академическая база Канады — одна из сильнейших в мире. По объёму цитируемых публикаций и научного влияния она не уступает России, а по self-supervised learning и GFlowNets входит в мировую тройку. Программа CIFAR AI Chairs за восемь лет привлекла более 110 профессоров мирового уровня.

Тем не менее, Канада сегодня не в тройке, а лишь в десятке мировых лидеров по ИИ. На Канаду приходится менее 2% мировых частных инвестиций в ИИ, в то время как США и Китай контролируют 55% и 35% соответственно.

Почему так происходит? Ответ — дело в ответственности. Канада сознательно не участвует в гонке «догнать и перегнать Кремниевую долину любой ценой». Вместо этого она выстраивает свою, уникальную экосистему, где этика, безопасность и права человека — фундамент.

Вот всего несколько примеров ответственного отношения Канады к разработке и внедрению ИИ:

✔️ В 2021 году канадцы заблокировали американской деятельность американского Clearview AI, признав массовый сбор лицевых изображений незаконным. А позже общество и эксперты «завернули» правительственный законопроект об ИИ (AIDA) из-за недостаточной прозрачности и защиты прав.

✔️ В 2022 году в Торонто без колебаний закрыли беспилотный автобусный маршрут, когда стало ясно, что технология недостаточно надежна.

✔️ Йошуа Бенжио в 2023 году стал одним из главных идеологов письма, призывавшего к полугодовой паузе в обучении гигантских нейросетей.

✔️ Движение Stop Killer Robots Canada уже десятилетие требует полного запрета на автономное летальное оружие, оказывая постоянное давление на правительство.

Примеры полезных и "ответственных" сервисов из Канады

⭐️ BlueDot — платформа для раннего обнаружения инфекционных угроз. Именно её ИИ-система предупредила о вспышке COVID-19 за 5 дней до официального сообщения ВОЗ, проанализировав новостные сводки и данные об авиаперелётах. BlueDot непрерывно мониторит более 190 заболеваний, сочетая автоматический сбор сигналов из СМИ и официальных источников с экспертизой эпидемиологов, что сокращает время ручного анализа почти на 90%.

⭐️ Waabi World Demo — веб-симулятор для тестирования автономного вождения на базе генеративного ИИ. Технология создаёт «синтетические дороги» и виртуальные сценарии (пробки, аварийные ситуации, пешеходы), позволяя обучать автопилот без реального тест-драйва — потребность в выездных испытаниях сокращается почти на 90%.

⭐️ Cohere AI Playground — главный канадский конкурент OpenAI, ориентированный на корпоративных клиентов. Платформа даёт доступ к семейству моделей Command, которые поддерживают 23 языка и имеют контекстное окно до 128 000 токенов. Сервис особенно силён в задачах Retrieval-Augmented Generation (RAG) и позволяет разворачивать приватные версии моделей за корпоративным фаерволом, что критично для бизнеса.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🇺🇸 Америка представила AI Action Plan

Администрация Дональда Трампа опубликовала масштабную дорожную карту по достижению лидерства США в гонке ИИ:
2️⃣8️⃣ страниц,
9️⃣0️⃣+ мер,
3️⃣ ключевых приоритета: инновации, инфраструктура, международная безопасность.

🚀 Pillar I. Ускорить инновации в ИИ

🎯 Цели:
✔️ Устранить все бюрократические барьеры и чрезмерное регулирование
✔️ Поддержка организаций, специализирующихся на прорывных исследованиях ИИ
✔️ Внедрять ИИ в бизнес, науку, армию, госаппарат

📍 Ключевые меры:
🔵 Разрешение госзакупок только для «политически нейтральных» LLM без идеологической предвзятости.
🔵 Исключение из фреймворков NIST упоминаний дезинформации, инклюзивности и климата.
🔵 Создание регуляторных песочниц для внедрения ИИ.
🔵 Разработка руководства по проведению оценки безопасности ИИ.
🔵 Стандартизация программы по борьбе с дипфейками в судопроизводстве.

⛏ Pillar II. Построить инфраструктуру для ИИ

🎯 Цели:
✔️ Масштабировать строительство дата-центров и производство чипов
✔️ Защитить объекты инфраструктуры от угроз
✔️ Подготовить кадры для всех этапов создания ИИ

📍 Ключевые меры:
🔵 Упрощение процедуры выдачи разрешений на строительство дата-центров и электростанций.
🔵 Запрет на использование оборудования от конкурирующих государств.
🔵 Утверждение новых образовательных программ для подготовки специалистов.
🔵 Продвижение ИИ по принципу «безопасность по умолчанию».
🔵 Создание методик реагирования на ИИ-инциденты.

🌎 Pillar III. Международная ИИ-дипломатия и безопасность

🎯 Цели:
✔️ Противостоять Китаю в гонке ИИ
✔️ Контролировать распространение чипов и моделей
✔️ Оценивать риски frontier-моделей

📍 Ключевые меры:
🔵 Экспорт полного ИИ-стека только союзникам.
🔵 Лоббирование американских стандартов в международных организациях.
🔵 Анализ уязвимостей, связанных с иностранными ИИ-системами в критической инфраструктуре и экономике США.
🔵 Геолокационный контроль за чипами, новые ограничения на компоненты производства.
🔵 Тестирование ИИ на новые CBRN-риски и риски кибербезопасности.

❗️Концепция построена на дерегуляции, полном отказе от бюрократии и усилении влияния США через экспорт ИИ и подготовку новых кадров. Таким образом, План полностью отменяет политику Байдена в данной сфере, объявляя развитие технологий ИИ национальным приоритетом Америки.

#AI #Regulation #USA