Forwarded from InfoSec VK Hub
VK Security Confab: ИИ в безопасности, безопасность ИИ
1 октября мы погрузились в самую горячую тему года — от автоматизации безопасности с помощью ИИ до защиты самих ML-систем.
Для всех, кто был с нами (и для тех, кто пропустил) — делимся презентациями спикеров.
Сохраняйте и используйте!
🔹 Материалы выступлений:
→ Секреты (и) LLM
Илья Сидельников, VK
Ссылка на презентацию
→ Агентный подход для анализа безопасности OpenAPI-схем
Руслан Бомин-Кулаков, Т-Банк
Ссылка на презентацию
→ Использование ИИ для автоматической классификации конфиденциальных данных
Игорь Дмитриев, WB tech
Ссылка на презентацию
→ MLSecOps в продакшене
Павел Литиков, VK
Ссылка на презентацию
Спасибо спикерам за глубину тем, а всем участникам — за крутые вопросы и атмосферу, где рождаются новые идеи! 💪
Следите за анонсами — готовим кое-что особенное!
VK Security | Буст этому каналу!
#confab #митап #AI
1 октября мы погрузились в самую горячую тему года — от автоматизации безопасности с помощью ИИ до защиты самих ML-систем.
Для всех, кто был с нами (и для тех, кто пропустил) — делимся презентациями спикеров.
Сохраняйте и используйте!
→ Секреты (и) LLM
Илья Сидельников, VK
Ссылка на презентацию
→ Агентный подход для анализа безопасности OpenAPI-схем
Руслан Бомин-Кулаков, Т-Банк
Ссылка на презентацию
→ Использование ИИ для автоматической классификации конфиденциальных данных
Игорь Дмитриев, WB tech
Ссылка на презентацию
→ MLSecOps в продакшене
Павел Литиков, VK
Ссылка на презентацию
Спасибо спикерам за глубину тем, а всем участникам — за крутые вопросы и атмосферу, где рождаются новые идеи! 💪
Следите за анонсами — готовим кое-что особенное!
VK Security | Буст этому каналу!
#confab #митап #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥2⚡1👍1
Стволовые клетки обратили старение у обезьян
Китайские ученые из Chinese Academy of Sciences провели эксперимент на старых обезьянах циномолгус, вводя им генетически модифицированные мезенхимальные стволовые клетки.
За 44 недели эксперимента клетки показали реальное омоложение:
- периферическая кровь: 33% возврата генной экспрессии
- гиппокамп: 42%
- яичники: 45%
Генные модификации включали активацию NRF2 и FOXO3 транскрипционных факторов, что снизило риск опухолей и усилило регенерацию.
Омоложение затронуло 10 физиологических систем и 61 тип тканей.
Никаких серьезных побочек не зафиксировали.
Теперь главные вопросы: GMP-стандартизация, стоимость терапии и регуляторные одобрения до человеческих испытаний.
Публикация в Cell
Осталось не состариться пока регуляторы одобрят. :)
#StemCells #AntiAging #Longevity
———
@tsingular
Китайские ученые из Chinese Academy of Sciences провели эксперимент на старых обезьянах циномолгус, вводя им генетически модифицированные мезенхимальные стволовые клетки.
За 44 недели эксперимента клетки показали реальное омоложение:
- периферическая кровь: 33% возврата генной экспрессии
- гиппокамп: 42%
- яичники: 45%
Генные модификации включали активацию NRF2 и FOXO3 транскрипционных факторов, что снизило риск опухолей и усилило регенерацию.
Омоложение затронуло 10 физиологических систем и 61 тип тканей.
Никаких серьезных побочек не зафиксировали.
Теперь главные вопросы: GMP-стандартизация, стоимость терапии и регуляторные одобрения до человеческих испытаний.
Публикация в Cell
Осталось не состариться пока регуляторы одобрят. :)
#StemCells #AntiAging #Longevity
———
@tsingular
🔥31 8⚡2 1
Google запустил Gemini для умного дома
Google интегрировал Gemini в домашние устройства Nest.
Теперь можно обычными голосовыми командами управлять светом, термостатом и камерами, - что-то типа "сделай потеплее" или "покажи что на заднем дворе".
Хочется верить, что управление физическими устройствами будет проходить без галлюцинаций.
Интересная деталь: вся обработка идёт через облако.
А вы еще не хотите Max устанавливать :)
#Gemini #SmartHome #GoogleNest
———
@tsingular
Google интегрировал Gemini в домашние устройства Nest.
Теперь можно обычными голосовыми командами управлять светом, термостатом и камерами, - что-то типа "сделай потеплее" или "покажи что на заднем дворе".
Хочется верить, что управление физическими устройствами будет проходить без галлюцинаций.
Интересная деталь: вся обработка идёт через облако.
А вы еще не хотите Max устанавливать :)
#Gemini #SmartHome #GoogleNest
———
@tsingular
🔥6⚡3🆒3😁1
This media is not supported in your browser
VIEW IN TELEGRAM
Tesla Optimus скоро будет знать кунг-фу лучше людей. :)
Когда уже соревнования международные по восточным единоборствам среди роботов.
P.S.: не забываем, что Оптимус, - это дрон, а не ИИ.
Там где-то за кадром оператор обвешанный датчиками.
#Tesla #Optimus #роботы
------
@tsingular
Когда уже соревнования международные по восточным единоборствам среди роботов.
P.S.: не забываем, что Оптимус, - это дрон, а не ИИ.
Там где-то за кадром оператор обвешанный датчиками.
#Tesla #Optimus #роботы
------
@tsingular
😁9🆒8🤔2👾1
Ученые Гарварда создали первый непрерывно работающий квантовый компьютер
Исследователи запустили квантовую систему, которая работает без постоянной перекалибровки человеком.
Обычно квантовые компьютеры требуют постоянного вмешательства — дрейф параметров, нестабильность кубитов, необходимость перенастройки каждые несколько минут или даже секунд.
Тут система сама компенсирует ошибки и поддерживает стабильную работу.
Всё еще не коммерческий продукт, но значительный прогресс.
#Harvard #Quantum #Computing
———
@tsingular
Исследователи запустили квантовую систему, которая работает без постоянной перекалибровки человеком.
Обычно квантовые компьютеры требуют постоянного вмешательства — дрейф параметров, нестабильность кубитов, необходимость перенастройки каждые несколько минут или даже секунд.
Тут система сама компенсирует ошибки и поддерживает стабильную работу.
Всё еще не коммерческий продукт, но значительный прогресс.
#Harvard #Quantum #Computing
———
@tsingular
👍53🔥19❤9⚡3
Для многих задач типа чат ботов и распознавания картинок достаточно производительности таких моделей, как Gemma3:27b
И по размеру она влезает на потребительские видеокарты.
Так вот, оказывается в openrouter она бесплатна.
Причём со скоростью 42 токена в секунду!
Т.е. совсем нет смысла в своём железе, если у вас такие модели на нем крутятся.
Подключились и пользуетесь
Ну, если данные не конфиденциальные конечно.
Там ещё много бесплатного:
google/gemini-2.0-flash-exp:free
qwen/qwen3-coder:free
tngtech/deepseek-r1t2-chimera:free
deepseek/deepseek-r1-0528:free
deepseek/deepseek-chat-v3-0324:free
openai/gpt-oss-20b:free
z-ai/glm-4.5-air:free
moonshotai/kimi-dev-72b:free
qwen/qwen3-235b-a22b:free
moonshotai/kimi-vl-a3b-thinking:free
moonshotai/kimi-k2:free
и многие другие, но эти, пожалуй, из бесплатного самые интересные.
Там же эти модели можно погонять в чат режиме:
https://openrouter.ai/chat?models=deepseek/deepseek-chat-v3-0324:free
#Openrouter #free
———
@tsingular
И по размеру она влезает на потребительские видеокарты.
Так вот, оказывается в openrouter она бесплатна.
Причём со скоростью 42 токена в секунду!
Т.е. совсем нет смысла в своём железе, если у вас такие модели на нем крутятся.
Подключились и пользуетесь
Ну, если данные не конфиденциальные конечно.
Там ещё много бесплатного:
google/gemini-2.0-flash-exp:free
qwen/qwen3-coder:free
tngtech/deepseek-r1t2-chimera:free
deepseek/deepseek-r1-0528:free
deepseek/deepseek-chat-v3-0324:free
openai/gpt-oss-20b:free
z-ai/glm-4.5-air:free
moonshotai/kimi-dev-72b:free
qwen/qwen3-235b-a22b:free
moonshotai/kimi-vl-a3b-thinking:free
moonshotai/kimi-k2:free
и многие другие, но эти, пожалуй, из бесплатного самые интересные.
Там же эти модели можно погонять в чат режиме:
https://openrouter.ai/chat?models=deepseek/deepseek-chat-v3-0324:free
#Openrouter #free
———
@tsingular
1✍12🔥7⚡4❤3
Forwarded from Уставший техдир
12 Factor Agents - принципы разработки агентов
По следам от 12 Factor Apps, Декстер Хорти собрал ключевые принципы по разработке агентов, делюсь!
1) Преобразование естественного языка в вызовы инструментов. Агент интерпретирует команды в формализованные вызовы функций, а исполняет их — детерминированный код
2) Владей своими промптами (как кодом). Промпт — это артефакт. Его надо хранить, версионировать, тестировать и относиться к нему не как к важной части кода.
3) Управляй контекстом агента. Активно контролируй, что попадает в это окно. Убирай уже не нужное, суммаризируй, оставляй важное, выделяй ограниченные слоты под фичи — внимание модели ограниченно.
4) Вызов тулинга — это просто JSON. LLM генерирует название тула и параметры, остальное должен делать ваш детерминированный вход. Модель решает "что делать", а ваше приложение "как делать"
5) Держи тех.состояние и бизнес состояние вместе. Каждый шаг агента — это и логика, и данные. Всё в одном состоянии, чтобы потом не ковыряться по логам в поисках, где оно сломалось
6) API для управление циклом агента. Агент должен иметь простой API для запуска, приостановки и возобновления работы, уметь вставать на паузу и возвращаться к работе спустя время на каждом этапе жизненного цикла
7) Запрос к человеку — как инструмент. Любое обращение в процессе работы к человеку должно быть представлено агенту, как инструмент
8) Явно контролируйте логику исполнения. Модель лишь "говорит" что, а твой код решает стоит ли выполнять, когда и как.
9) Добавляйте ошибки исполнения инструментов в контекст. Если что-то упало, сократи информацию и добавь это в контекст агента. Пусть модель сама догадается, что дальше: повторить, спросить или изменить стратегию
10) Используйте малых специализированных агентов. Лучше много маленьких агентов, решающих узконаправленные задачи, чем один перегруженный агент всего
11) Доставляй агентов в любые интерфейсы, удобные пользователю. Slack, Telegram, веб, CLI — неважно. Главное — единый API и омниканальность. Пользователь не должен думать, где общаться с агентом. Он просто должен это делать.
12) Агент как Stateless Reducer. На входе — состояние и запрос. На выходе — новое состояние и ответ. Всё как в хорошем Redux. Никакого собственного внутреннего состояния, он должен работать как чистая функция
Бонус:
13) Предзагрузи все необходимое. Агент не должен постоянно дёргать одни и те же данные. Наполняй контекст тем, что почти наверняка пригодится.
Репа: https://github.com/humanlayer/12-factor-agents
Доклад: https://www.youtube.com/watch?v=8kMaTybvDUw
По следам от 12 Factor Apps, Декстер Хорти собрал ключевые принципы по разработке агентов, делюсь!
1) Преобразование естественного языка в вызовы инструментов. Агент интерпретирует команды в формализованные вызовы функций, а исполняет их — детерминированный код
2) Владей своими промптами (как кодом). Промпт — это артефакт. Его надо хранить, версионировать, тестировать и относиться к нему не как к важной части кода.
3) Управляй контекстом агента. Активно контролируй, что попадает в это окно. Убирай уже не нужное, суммаризируй, оставляй важное, выделяй ограниченные слоты под фичи — внимание модели ограниченно.
4) Вызов тулинга — это просто JSON. LLM генерирует название тула и параметры, остальное должен делать ваш детерминированный вход. Модель решает "что делать", а ваше приложение "как делать"
5) Держи тех.состояние и бизнес состояние вместе. Каждый шаг агента — это и логика, и данные. Всё в одном состоянии, чтобы потом не ковыряться по логам в поисках, где оно сломалось
6) API для управление циклом агента. Агент должен иметь простой API для запуска, приостановки и возобновления работы, уметь вставать на паузу и возвращаться к работе спустя время на каждом этапе жизненного цикла
7) Запрос к человеку — как инструмент. Любое обращение в процессе работы к человеку должно быть представлено агенту, как инструмент
requestClarification(message:string)8) Явно контролируйте логику исполнения. Модель лишь "говорит" что, а твой код решает стоит ли выполнять, когда и как.
9) Добавляйте ошибки исполнения инструментов в контекст. Если что-то упало, сократи информацию и добавь это в контекст агента. Пусть модель сама догадается, что дальше: повторить, спросить или изменить стратегию
10) Используйте малых специализированных агентов. Лучше много маленьких агентов, решающих узконаправленные задачи, чем один перегруженный агент всего
11) Доставляй агентов в любые интерфейсы, удобные пользователю. Slack, Telegram, веб, CLI — неважно. Главное — единый API и омниканальность. Пользователь не должен думать, где общаться с агентом. Он просто должен это делать.
12) Агент как Stateless Reducer. На входе — состояние и запрос. На выходе — новое состояние и ответ. Всё как в хорошем Redux. Никакого собственного внутреннего состояния, он должен работать как чистая функция
Бонус:
13) Предзагрузи все необходимое. Агент не должен постоянно дёргать одни и те же данные. Наполняй контекст тем, что почти наверняка пригодится.
Репа: https://github.com/humanlayer/12-factor-agents
Доклад: https://www.youtube.com/watch?v=8kMaTybvDUw
YouTube
12-Factor Agents: Patterns of reliable LLM applications — Dex Horthy, HumanLayer
Hi, I'm Dex. I've been hacking on AI agents for a while.
I've tried every agent framework out there, from the plug-and-play crew/langchains to the "minimalist" smolagents of the world to the "production grade" langraph, griptape, etc.
I've…
I've tried every agent framework out there, from the plug-and-play crew/langchains to the "minimalist" smolagents of the world to the "production grade" langraph, griptape, etc.
I've…
✍9❤3⚡2👍2❤🔥1🫡1
Гайд по безопасности MCP от Semgrep
Semgrep выпустили руководство по уязвимостям MCP с детальными схемами атак, примерами и чеклистом для сервера и клиента.
Рассмотрены угрозы:
Tool Poisoning - вредоносные инструкции в описании инструментов, которые манипулируют поведением AI без ведома пользователя
Tool Shadowing - конфликт имён инструментов от разных серверов. AI может выбрать не тот инструмент или использовать невидимые символы для приоритезации выбора тулов
Rug-Pulling - валидный сервер заменяется вредоносным уже после прохождения одобрения потому, что спецификация не требует уведомлять об изменениях
Плюс классика Web 2.0:
Все старые добрые уязвимости актуальны: path traversal, SQL injection, request smuggling — только в новом контексте AI-агентов.
#MCP #Semgrep #cybersecurity
———
@tsingular
Semgrep выпустили руководство по уязвимостям MCP с детальными схемами атак, примерами и чеклистом для сервера и клиента.
Рассмотрены угрозы:
Tool Poisoning - вредоносные инструкции в описании инструментов, которые манипулируют поведением AI без ведома пользователя
Tool Shadowing - конфликт имён инструментов от разных серверов. AI может выбрать не тот инструмент или использовать невидимые символы для приоритезации выбора тулов
Rug-Pulling - валидный сервер заменяется вредоносным уже после прохождения одобрения потому, что спецификация не требует уведомлять об изменениях
Плюс классика Web 2.0:
Все старые добрые уязвимости актуальны: path traversal, SQL injection, request smuggling — только в новом контексте AI-агентов.
#MCP #Semgrep #cybersecurity
———
@tsingular
1👍4✍1
ArtCraft - новый генератор видео на базе редактора 3Д сцен
Интересный проект, который позволяет построить в редакторе полную 3Д или 2Д сцену и дальше по ней прогнать нейрорендер, получив на выходе максимально точную к замыслу реализацию, а не бесконечный перебор промптов.
Более того, товарищи обещают выложить все это в оупенсорс.
Получится такой вариант нейроБлендера.
Пока есть приложения для винды и для мака.
#Artcraft #нейрорендер
———
@tsingular
Интересный проект, который позволяет построить в редакторе полную 3Д или 2Д сцену и дальше по ней прогнать нейрорендер, получив на выходе максимально точную к замыслу реализацию, а не бесконечный перебор промптов.
Более того, товарищи обещают выложить все это в оупенсорс.
Получится такой вариант нейроБлендера.
Пока есть приложения для винды и для мака.
#Artcraft #нейрорендер
———
@tsingular
🔥15⚡4
This media is not supported in your browser
VIEW IN TELEGRAM
AgentBuilder - конкурент n8n от OpenAI
Сегодня в 20:00 мск смотрим презентацию на канале OpenAI
#AgentBuilder #OpenAI #n8n
------
@tsingular
Сегодня в 20:00 мск смотрим презентацию на канале OpenAI
#AgentBuilder #OpenAI #n8n
------
@tsingular
✍8🔥7
Apps SDK - OpenAI теперь запускает платформу для приложений.
С триггерами, МСР, данными и коннекторами к популярным приложениям.
- уже затянули Spotify, Coursera, Zillow, Figma, Canva
Поддерживает рендер веб страниц внешних сайтов внутри chatGPT и позволяет взаимодействовать с ними с ИИ.
Режим "диалога с приложениями"
Т.е. приложение, подключённое через МСР, превращается в своего рода агента внутри мультиагентной среды chatGPT
С точки зрения пользовательского опыта очень похоже на Comet browser от Perplexity - диалог с вебсайтами.
#OpenAi #SDK
———
@tsingular
С триггерами, МСР, данными и коннекторами к популярным приложениям.
- уже затянули Spotify, Coursera, Zillow, Figma, Canva
Поддерживает рендер веб страниц внешних сайтов внутри chatGPT и позволяет взаимодействовать с ними с ИИ.
Режим "диалога с приложениями"
Т.е. приложение, подключённое через МСР, превращается в своего рода агента внутри мультиагентной среды chatGPT
С точки зрения пользовательского опыта очень похоже на Comet browser от Perplexity - диалог с вебсайтами.
#OpenAi #SDK
———
@tsingular
👍5⚡2🔥2
AgentKit - noCode комбайн:
AgentBuilder - аналог n8n или даже langflow больше по стилю. есть работа с файлами, MCP, Guardrails, Human in the loop и циклы.
в редакторе сразу видно вывод каждого шага, - удобно для отладки (ака Flowise)
Публикация в прод сразу из окна редактора.
Сразу виден исходных код процесса.
ChatKit - виджет для быстрого создания чата с агентами
Evals - оценка действий агентов
работает прямо из AgentBuilder
#OpenAI #Agents
———
@tsingular
AgentBuilder - аналог n8n или даже langflow больше по стилю. есть работа с файлами, MCP, Guardrails, Human in the loop и циклы.
в редакторе сразу видно вывод каждого шага, - удобно для отладки (ака Flowise)
Публикация в прод сразу из окна редактора.
Сразу виден исходных код процесса.
ChatKit - виджет для быстрого создания чата с агентами
Evals - оценка действий агентов
работает прямо из AgentBuilder
#OpenAI #Agents
———
@tsingular
🔥6👍3⚡2
Codex выходит из режима Preview в режим полной доступности [GA]
Интеграция в Slack
Codex SDK - обновление
Enterprise controls
#Codex #OpenAI
———
@tsingular
Интеграция в Slack
Codex SDK - обновление
Enterprise controls
#Codex #OpenAI
———
@tsingular
👍4✍1
Sora2 доступна по API!!!
Самый дешёвый вариант - 10 секунд за $1
ну теперь можно забыть про живой интернет.
#Sora #OpenAI
———
@tsingular
Самый дешёвый вариант - 10 секунд за $1
ну теперь можно забыть про живой интернет.
#Sora #OpenAI
———
@tsingular
🤯9🔥4❤2
Media is too big
VIEW IN TELEGRAM
Вот уже пол года как Figure по 10 часов в день пашут на заводах собирая BMW X3.
#Figure #роботы
------
@tsingular
#Figure #роботы
------
@tsingular
🔥43🤨6⚡4❤4👍3👾3🤔1
AMD подписала контракт с OpenAI на поставку чипов с возможностью выкупа до 10% акций
OpenAI заключила многолетний контракт с AMD на поставку чипов на десятки миллиардов долларов ежегодно, с планами построить гигаваттный дата-центр на чипах MI450.
На фоне новости цены на акции AMD взлетели на 34% до $226.
Схема все интереснее и интереснее: сначала Nvidia вложила в OpenAI, а OpenAI сдала мощности обратно NVidia.
Теперь OpenAI инвестирует в AMD.
GPUroboros прирастает
#AMD #OpenAI
———
@tsingular
OpenAI заключила многолетний контракт с AMD на поставку чипов на десятки миллиардов долларов ежегодно, с планами построить гигаваттный дата-центр на чипах MI450.
На фоне новости цены на акции AMD взлетели на 34% до $226.
Схема все интереснее и интереснее: сначала Nvidia вложила в OpenAI, а OpenAI сдала мощности обратно NVidia.
Теперь OpenAI инвестирует в AMD.
GPUroboros прирастает
#AMD #OpenAI
———
@tsingular
🔥5⚡2👏2❤1🤔1🕊1
This media is not supported in your browser
VIEW IN TELEGRAM
К концу следующего года Grok будет генерить игры премиум качества в реальном времени.
В принципе это уже практически Матрица.
#Grok #нейрорендер
———
@tsingular
В принципе это уже практически Матрица.
#Grok #нейрорендер
———
@tsingular
😁8👍4💯2⚡1🔥1🕊1🫡1