🚨 Кто на самом деле отвечает вам в Web3? 🕵️♂️
Мир Web3 стремительно меняется. AI-агенты везде: они могут торговать криптой 💹, участвовать в DAO-голосованиях 🗳, управлять токенами и кошельками 💰. Такие агенты уже контролируют решения, влияющие на миллионы долларов.
Но тут возникает фундаментальный вопрос: а вы уверены, что ваш агент — это именно он?
Что вместо любимого GPT или Claude вам не подсунули более дешёвую, медленную или уязвимую модель?
В централизованных сервисах подмена может быть незаметна — в децентрализованных же это часто вопрос репутации и денег.
💡 Идея Positive Technologies — “семантический отпечаток” LLM-агентов 🧬
Речь идёт о semantic fingerprinting — методе, который позволяет определять конкретную языковую модель по её уникальному стилю, “манере речи” и паттернам ответа.
У каждой модели есть своя “подпись”:
- выбор слов 🗨,
- структура предложений 📐,
- способы изложения фактов 📚,
- реакции на нестандартные вопросы 🌀
🎯 Как это работает?
1️⃣ Подготовка теста
Исследователь подбирает специальные фразы и вопросы. Не просто “привет, как дела?”, а набор заданий, которые вызывают у модели типичные, повторяющиеся паттерны.
2️⃣ Сбор ответа
Модель отвечает. Даже если вы переписываете вопрос, её “стиль” остаётся.
Например, GPT-4o склонен давать структурированные, компактные, но насыщенные ответы. А Llama 3.1 — чаще “разливается” на лишние детали.
3️⃣ Сравнение с эталоном
Ответ обрабатывается алгоритмом, который ищет совпадения с известными “отпечатками” моделей.
Если совпадений мало - высока вероятность подмены 🤨
🔍 Что можно обнаружить
🛑 Подмену модели без уведомления — например, если сервис решил сэкономить и вместо GPT-4 запустить GPT-3.5.
🐞 Маскировку уязвимостей — заменили модель на ту, которая не “спотыкается” на старых ошибках.
📉 Падение качества решений - агент начал выдавать хуже структурированные ответы или делать ошибки в вычислениях.
🔥 Все дело в рисках
В экосистеме, где AI-агент может распоряжаться 100 ETH 💎, решать судьбу смарт-контракта 📜 или голосовать в DAO, подмена модели - это не просто баг, это реальная угроза безопасности и деньгам.
Представьте: ваш DeFi-бот, который годами работал с высокой точностью, внезапно стал медлить или ошибаться. В лучшем случае - упущенная прибыль, в худшем - потеря средств.
⚡ Семантический анализ позволяет проверять подлинность AI-агентов так же, как криптография проверяет подлинность транзакций.
🔗 Более подробно о подходе PT читайте в статье на Хабр
Stay secure and read SecureTechTalks 📚
#Web3 #AI #Fingerprinting #SecureTechTalks #LLM #Безопасность #AIагенты #ПроверкаМодели #DeFi #Инфобез
Мир Web3 стремительно меняется. AI-агенты везде: они могут торговать криптой 💹, участвовать в DAO-голосованиях 🗳, управлять токенами и кошельками 💰. Такие агенты уже контролируют решения, влияющие на миллионы долларов.
Но тут возникает фундаментальный вопрос: а вы уверены, что ваш агент — это именно он?
Что вместо любимого GPT или Claude вам не подсунули более дешёвую, медленную или уязвимую модель?
В централизованных сервисах подмена может быть незаметна — в децентрализованных же это часто вопрос репутации и денег.
💡 Идея Positive Technologies — “семантический отпечаток” LLM-агентов 🧬
Речь идёт о semantic fingerprinting — методе, который позволяет определять конкретную языковую модель по её уникальному стилю, “манере речи” и паттернам ответа.
У каждой модели есть своя “подпись”:
- выбор слов 🗨,
- структура предложений 📐,
- способы изложения фактов 📚,
- реакции на нестандартные вопросы 🌀
🎯 Как это работает?
1️⃣ Подготовка теста
Исследователь подбирает специальные фразы и вопросы. Не просто “привет, как дела?”, а набор заданий, которые вызывают у модели типичные, повторяющиеся паттерны.
2️⃣ Сбор ответа
Модель отвечает. Даже если вы переписываете вопрос, её “стиль” остаётся.
Например, GPT-4o склонен давать структурированные, компактные, но насыщенные ответы. А Llama 3.1 — чаще “разливается” на лишние детали.
3️⃣ Сравнение с эталоном
Ответ обрабатывается алгоритмом, который ищет совпадения с известными “отпечатками” моделей.
Если совпадений мало - высока вероятность подмены 🤨
🔍 Что можно обнаружить
🛑 Подмену модели без уведомления — например, если сервис решил сэкономить и вместо GPT-4 запустить GPT-3.5.
🐞 Маскировку уязвимостей — заменили модель на ту, которая не “спотыкается” на старых ошибках.
📉 Падение качества решений - агент начал выдавать хуже структурированные ответы или делать ошибки в вычислениях.
🔥 Все дело в рисках
В экосистеме, где AI-агент может распоряжаться 100 ETH 💎, решать судьбу смарт-контракта 📜 или голосовать в DAO, подмена модели - это не просто баг, это реальная угроза безопасности и деньгам.
Представьте: ваш DeFi-бот, который годами работал с высокой точностью, внезапно стал медлить или ошибаться. В лучшем случае - упущенная прибыль, в худшем - потеря средств.
⚡ Семантический анализ позволяет проверять подлинность AI-агентов так же, как криптография проверяет подлинность транзакций.
🔗 Более подробно о подходе PT читайте в статье на Хабр
Stay secure and read SecureTechTalks 📚
#Web3 #AI #Fingerprinting #SecureTechTalks #LLM #Безопасность #AIагенты #ПроверкаМодели #DeFi #Инфобез
1