Академические институты РАН создали технологию невидимой маркировки для контента, сгенерированного искусственным интеллектом

О разработке рассказал директор ИСП РАН, заместитель президента РАН академик Арутюн Аветисян:

🗣От фундаментальных исследований и идей прошлых лет мы уже перешли к практико-ориентированной разработке. Сейчас вместе с компанией Яндекс создаём открытое решение, которое будет доступно всем по лицензии Apache 2.0 или аналогичной, для маркировки контента, генерируемого искусственным интеллектом🗣.

⭐️ Маркировка важна, потому что сегодня невозможно однозначно определить, создан ли контент искусственным интеллектом или это реальная видеозапись и аудио. Таким образом, единая система маркировки позволит повысить прозрачность, доверие и ответственность в цифровой среде.

Проект реализуется совместно с Математическим институтом им. В.А. Стеклова РАН.

💡 Подробнее — в ролике.

Как обеспечить доверенный ИИ в критической информационной инфраструктуре — рассказал академик Арутюн Аветисян

Директор Института системного программирования им. В.П. Иванникова РАН, заместитель президента РАН академик Арутюн Аветисян выступил на пленарном заседании «ИИ: Применение, перспективы и вызовы» форума «Микроэлектроника 2025».

Говоря о вызовах безопасности, учёный привёл примеры уязвимостей: от взлома систем распознавания лиц до аварий с автономными автомобилями и психологического воздействия ИИ на людей.

🗣В отличие от традиционного IT, искусственный интеллект имеет два измерения: кибербезопасность — традиционную, конечно же, и социо-гуманитарную. И вот это уже новый вызов, с которым мы должны иметь дело», — отметил академик🗣.

Особую опасность, по его словам, представляют сложные мошеннические схемы с использованием дипфейков, которые подрывают доверие к цифровой информации.

При этом угрозы в ИИ носят принципиально новый, комплексный характер, сочетая кибербезопасность и социо-гуманитарный аспект. Исключить возможность подмены информации можно путём формирования инфраструктуры доверенных баз данных. Даже незначительное искажение данных (менее 1 %) может привести к «отравлению» информации и, как следствие, к обучению системы на некорректных данных, которые потенциально позволят взломать всю систему.

Безопасные, этичные и надёжные технологии искусственного интеллекта в России разрабатывают учёные ИСП РАН. О таких проектах рассказал академик в ролике.