Взлом ИИ роботов превращает их в камикадзе

Специалисты Университета Пенсильвании разработали технологию взлома систем автономных устройств.
RoboPAIR, разработанная учёными, демонстрирует 100% успеха в деактивации защитных механизмов роботизированных систем.

Атакующий модуль использует языковые модели для генерации вредоносных команд, для обхода встроенной защиты.
После обхода защиты, модуль создаёт в API целевого робота возможность исполнять произвольные промпты.

Уязвимыми оказались Go2, Clearpath Jackal и симулятор Nvidia Dolphins.

Взломанные машины способны атаковать пешеходов, устанавливать взрывные устройства и вести скрытое наблюдение.

Получается используют LLM для взлома LLM.

#robotics #security #RoboPAIR #cybersecurity
-------
@tsingular