Как обеспечить доверенный ИИ в критической информационной инфраструктуре — рассказал академик Арутюн Аветисян

Директор Института системного программирования им. В.П. Иванникова РАН, заместитель президента РАН академик Арутюн Аветисян выступил на пленарном заседании «ИИ: Применение, перспективы и вызовы» форума «Микроэлектроника 2025».

Говоря о вызовах безопасности, учёный привёл примеры уязвимостей: от взлома систем распознавания лиц до аварий с автономными автомобилями и психологического воздействия ИИ на людей.

🗣В отличие от традиционного IT, искусственный интеллект имеет два измерения: кибербезопасность — традиционную, конечно же, и социо-гуманитарную. И вот это уже новый вызов, с которым мы должны иметь дело», — отметил академик🗣.

Особую опасность, по его словам, представляют сложные мошеннические схемы с использованием дипфейков, которые подрывают доверие к цифровой информации.

При этом угрозы в ИИ носят принципиально новый, комплексный характер, сочетая кибербезопасность и социо-гуманитарный аспект. Исключить возможность подмены информации можно путём формирования инфраструктуры доверенных баз данных. Даже незначительное искажение данных (менее 1 %) может привести к «отравлению» информации и, как следствие, к обучению системы на некорректных данных, которые потенциально позволят взломать всю систему.

Безопасные, этичные и надёжные технологии искусственного интеллекта в России разрабатывают учёные ИСП РАН. О таких проектах рассказал академик в ролике.