Tips AI | IT & AI
Я иногда использую браузер Comet и вот недавно (браузер Brave) написали в своем блоге про интересную уязвимость. Вы просите ИИ сделать саммари страницы, а там спрятана чужая команда. — утащи логин и пароль Perplexity уже закрыли дыру, но сам принцип остаётся:…
Вот это интересно и стыкуется с прошлым постом:
Вероятность того, что кто-то сможет опустошить ваш кошелёк с помощью промпт-инъекции, составляет 11,2%.
Такую вот статистику показали Anthropic.
Еще показали превью Claude для Chrome, который может выполнять задачи в вашем браузере.
Конечно, все хотят видеть 0%, но пока сложно представить, что LLM сможет достичь такого уровня безопасности.
@tips_ai #news
Вероятность того, что кто-то сможет опустошить ваш кошелёк с помощью промпт-инъекции, составляет 11,2%.
Такую вот статистику показали Anthropic.
Еще показали превью Claude для Chrome, который может выполнять задачи в вашем браузере.
Конечно, все хотят видеть 0%, но пока сложно представить, что LLM сможет достичь такого уровня безопасности.
@tips_ai #news
👍14❤4🔥4