🤖 Когда ИИ решает, кто "подозрительный": как сделать это честно?

Алгоритмы могут быть не хуже людей… но и не лучше, если дискриминируют.

🚨 А в чём вообще проблема?

Представьте, что ваша безопасность зависит от работы алгоритма. Этот алгоритм — система обнаружения "аномалий": он решает, кто ведёт себя подозрительно.

И вот незадача: он чаще ошибается, если вы, скажем, пожилой человек. Или женщина.

Несправедливо? Очень. Но вполне реально.

🧠 Что придумали учёные?

Исследователи из Гонконга создали систему под названием FairAD — это такая "честная нейросеть", которая выявляет подозрительное поведение без предвзятости.

То есть:
➖Она не судит по полу, возрасту или цвету кожи
➖Не путает “другого” с “опасным”
➖И всё ещё хорошо ловит реальных нарушителей

🔍 Как это работает?

Допустим, у нас есть куча людей (или операций, или событий в сети). Алгоритм должен найти тех, кто выбивается из общего поведения. Для этого он:

1⃣ Приводит всех “нормальных” к одному шаблону
2⃣ Только потом сравнивает с этим “шаблоном” новых людей
3⃣ Если кто-то сильно отличается — возможно, это аномалия
4⃣ И при этом он не знает, кто мужчина, кто женщина, кто откуда.
5⃣ Чистая логика — без предвзятых ярлыков.

🧪 Проверили на практике?

Да!

➖На реальных базах данных (судимости, финансы, медицина)
➖Даже когда данные были специально "перекошены" (например, больше мужчин, чем женщин)

Результат:
➖Находит угрозы почти так же хорошо, как лучшие ИИ
➖Но делает это справедливо — не зависая на одних и тех же группах людей
➖F1-скор на COMPAS (чувствительный к расовым предвзятостям): Im-FairAD: 47.49%, выше всех конкурентов.

🧠 Точно ли это нужно?

В мире, где всё больше решений принимается алгоритмами — важно, чтобы алгоритмы не были токсичными.
Особенно в кибербезопасности, где “ошибка” может означать блокировку, бан или угрозу.

Именно такие проекты, как FairAD, учат ИИ быть не просто умным, а ещё и этичным.

Stay secure and read SecureTechTalks 📚

#SecureTechTalks #ИИ #Безопасность #Аномалии #Этика #AI #FairAI #CyberSecurity #ML #Антидискриминация #AIForGood

🧠 LLM против фишинга прямо в браузере: защита, которая не требует облака

Фишинг стал умнее: сайты меняются на лету, маскируются под популярные сервисы и обманывают даже опытных пользователей. Но исследователи нашли элегантное решение: запустить LLM прямо в браузере, чтобы анализировать подозрительные сайты локально — без утечки данных в облако. Так появился продукт WebLLM.

🚨 Механика

➖JavaScript на сайте анализируется прямо в браузере: ищутся подозрительные паттерны вроде eval, document.write, редиректы, кодировка, вставки DOM — всё, что характерно для фишинговых страниц.
➖Сайт открывается в песочнице (iframe), отслеживается, что делает страница: как меняется DOM, какие ресурсы она запрашивает, что пишет в поля и куки.
➖Местная LLM получает всю собранную информацию и делает вывод — сайт безопасен или нет. И что важно: объясняет, почему.

💥 В чём сила такого подхода?

➖Нет отправки данных наружу — всё локально, всё приватно.
➖Анализ в реальном окружении — браузер, как у реального пользователя, с настоящими заголовками и поведением.
➖Даже маленькие модели (2–8B) на WebGPU справляются с задачей — и выдают результаты, сравнимые с облачными LLM.
➖LLM умеет читать смысл, а не просто искать ключевые слова. Она понимает, что перед ней подделка, даже если URL и код выглядят легитимно.

📌 Ещё немного про преимущества

Классические антифишинг-фильтры часто опаздывают. А этот подход:

📍 не зависит от чёрных списков,
🧩 видит контекст страницы,
🚫 работает даже в режиме инкогнито,
🔐 и не требует доверия к третьим сторонам.

🧪 Пример из исследования

Обычный сайт с MetaMask-фейком (через поддомен Google Sites) был мгновенно определён как фишинговый. LLM объяснила: "форма требует сид-фразу кошелька, используется поддельный интерфейс, URL — маскировка".
А настоящие сайты Google и Microsoft прошли проверку — без ложных срабатываний.

🔗 Полезные ссылки

📎 Исследование: arxiv.org/abs/2506.03656
🛠 WebLLM на GitHub: github.com/mlc-ai/web-llm

Stay secure and read SecureTechTalks 📚

#SecureTechTalks #LLM #Phishing #WebSecurity #BrowserAI #InBrowserLLM #CyberSecurity #ZeroShot #WebLLM #PrivacyTech #AIForGood