Хакеры восстанавливают переписку из зашифрованных чатов с ИИ
Исследователи обнаружили уязвимость в большинстве чат-ботов на базе ИИ, включая ChatGPT и Microsoft Copilot. 🔓
Они могут частично восстановить содержимое зашифрованных чатов, используя особенности работы больших языковых моделей (LLM) с токенами.
LLM отправляют сгенерированные токены по одному в реальном времени, что позволяет извлечь их длины из перехваченных сообщений.
Затем эти длины используются для угадывания слов по контексту с помощью LLM. Полное восстановление сложно, но частичное - возможно.
Большинство чат-ботов уязвимы, но постепенно закрывают уязвимости.
OpenAI, Cloudflare, Google Gemini и GitHub Copilot уже защитились от подобного рода аттак. 🛡
Мораль - не нужно отдавать токены стримом. Никакое шифрование не поможет.
#chatbots #privacy #encryption
-------
@tsingular
Исследователи обнаружили уязвимость в большинстве чат-ботов на базе ИИ, включая ChatGPT и Microsoft Copilot. 🔓
Они могут частично восстановить содержимое зашифрованных чатов, используя особенности работы больших языковых моделей (LLM) с токенами.
LLM отправляют сгенерированные токены по одному в реальном времени, что позволяет извлечь их длины из перехваченных сообщений.
Затем эти длины используются для угадывания слов по контексту с помощью LLM. Полное восстановление сложно, но частичное - возможно.
Большинство чат-ботов уязвимы, но постепенно закрывают уязвимости.
OpenAI, Cloudflare, Google Gemini и GitHub Copilot уже защитились от подобного рода аттак. 🛡
Мораль - не нужно отдавать токены стримом. Никакое шифрование не поможет.
#chatbots #privacy #encryption
-------
@tsingular
DuckDuckGo запускает Duck.ai для приватных чатов с популярными ИИ
Duck.ai позволяет пользователям анонимно и безопасно взаимодействовать с GPT-3.5 Turbo от OpenAI, Claude 3 Haiku от Anthropic, Llama-3 70B от Meta и Mixtral 8x7b от Mistral AI.
DuckDuckGo удаляет метаданные запросов, обеспечивая конфиденциальность пользователей.
Поставщики моделей удаляют чаты в течение 30 дней и не используют их для обучения ИИ.
Сервис бесплатен с ежедневным лимитом, рассматривается платная подписка.
Duck.ai дополняет поисковик DuckDuckGo, позволяя переключаться между поиском и чатом с ИИ.
Теперь можно безопасно поболтать с любимым чатботом. 🦆🔒💬
#DuckDuckGo #privacy #chatbots
-------
@tsingular
Duck.ai позволяет пользователям анонимно и безопасно взаимодействовать с GPT-3.5 Turbo от OpenAI, Claude 3 Haiku от Anthropic, Llama-3 70B от Meta и Mixtral 8x7b от Mistral AI.
DuckDuckGo удаляет метаданные запросов, обеспечивая конфиденциальность пользователей.
Поставщики моделей удаляют чаты в течение 30 дней и не используют их для обучения ИИ.
Сервис бесплатен с ежедневным лимитом, рассматривается платная подписка.
Duck.ai дополняет поисковик DuckDuckGo, позволяя переключаться между поиском и чатом с ИИ.
Теперь можно безопасно поболтать с любимым чатботом. 🦆🔒💬
#DuckDuckGo #privacy #chatbots
-------
@tsingular
ElevenLabs запускает полноценную платформу разговорных AI-агентов
ElevenLabs трансформируется из сервиса клонирования голоса в комплексную платформу создания разговорных ботов.
Новая система поддерживает Gemini, GPT и Claude, интеграцию баз знаний через файлы и URL.
Предоставляет гибкие настройки: выбор языка, температуры ответов, лимитов токенов, параметров голоса.
SDK совместим с Python, Javascript, React и Swift, поддерживает WebSocket API.
Компания планирует привлечь финансирование с оценкой более $3 млрд, конкурируя с Vapi, Retell и OpenAI.
Теперь роботы смогут не только думать, но и разговаривать человеческими голосами. Колл-центры на выход! 🤖📞
#ElevenLabs #VoiceAI #ChatBots
-------
@tsingular
ElevenLabs трансформируется из сервиса клонирования голоса в комплексную платформу создания разговорных ботов.
Новая система поддерживает Gemini, GPT и Claude, интеграцию баз знаний через файлы и URL.
Предоставляет гибкие настройки: выбор языка, температуры ответов, лимитов токенов, параметров голоса.
SDK совместим с Python, Javascript, React и Swift, поддерживает WebSocket API.
Компания планирует привлечь финансирование с оценкой более $3 млрд, конкурируя с Vapi, Retell и OpenAI.
Теперь роботы смогут не только думать, но и разговаривать человеческими голосами. Колл-центры на выход! 🤖📞
#ElevenLabs #VoiceAI #ChatBots
-------
@tsingular
👍7