Развитие ИИ опережает оценку рисков от ИИ

Скорость развития ИИ значительно опережает методы оценки производительности, точности и безопасности.
Миллиардные инвестиции подстегнули гонку технологий ИИ и сделали устаревшими прежние критерии оценки прогресса.
Общедоступные бенчмарки и системы оценки не успевают за сложностью современных моделей ИИ.
Оценка безопасности и эффективности ИИ стала сложной задачей для специалистов по тестированию.
Компаниям рекомендуется создавать внутренние тесты и полагаться на человеческую оценку наряду с бенчмарками.
Правительства также сталкиваются с проблемами управления рисками новейших моделей ИИ.

В таких условиях может возникнуть желанием вообще все запретить, а потом разбираться.
Но рынок уже не остановить.

#AI #risks #benchmarks
-------
@tsingular

Теневой ИИ в корпоративной среде: сотрудники используют AI-инструменты в обход правил

Интересная заметка в блоге Google про использование сотрудниками ИИ в обход регламентов.

В отличие от прошлых волн теневого ИИ, сейчас риск выше — используются мощные корпоративные инструменты (привет MCP), но без соблюдения протоколов безопасности.

Причина? Медленные процессы согласования тормозят бизнес, и команды идут в обход, создавая "зоопарк AI-инструментов" с дублирующимися функциями и ненужными расходами.

Хуже того — неконтролируемое использование создает риски утечки данных.

Вместо жестких запретов эксперты рекомендуют: упростить процессы согласования, обучить сотрудников безопасной работе с ИИ и создать понятные правила с четкими границами допустимого использования.

ИИ появится у вас в офисе так или иначе. Так что: не можешь предотвратить,- возглавь.
Очень эта вся история напоминает период бума BYOD. Когда народ начал на работу таскать свои ноутбуки и смартфоны.
Тоже сначала зоопарк и хаос был.

#ShadowAI #Enterprise #Security #Risks
------
@tsingular