OpenAI приобретает Global Illumination
OpenAI объявил о приобретении команды Global Illumination, компании, занимающейся созданием творческих инструментов и цифровых продуктов на основе искусственного интеллекта. Весь коллектив теперь будет работать над основными продуктами OpenAI, включая ChatGPT.
- Команда Global Illumination предана искусственному интеллекту и применению его в творческих инструментах и цифровых продуктах.
- В прошлом команда создавала продукты на ранних этапах для Instagram и Facebook и вносила значительный вклад в подобные компании, такие как YouTube, Google, Pixar, Riot Games и др.
- OpenAI приветствует новых членов бригады и с нетерпением ожидает их вклада в развитие своих продуктов.
https://openai.com/blog/openai-acquires-global-illumination
OpenAI объявил о приобретении команды Global Illumination, компании, занимающейся созданием творческих инструментов и цифровых продуктов на основе искусственного интеллекта. Весь коллектив теперь будет работать над основными продуктами OpenAI, включая ChatGPT.
- Команда Global Illumination предана искусственному интеллекту и применению его в творческих инструментах и цифровых продуктах.
- В прошлом команда создавала продукты на ранних этапах для Instagram и Facebook и вносила значительный вклад в подобные компании, такие как YouTube, Google, Pixar, Riot Games и др.
- OpenAI приветствует новых членов бригады и с нетерпением ожидает их вклада в развитие своих продуктов.
https://openai.com/blog/openai-acquires-global-illumination
Openai
OpenAI acquires Global Illumination
The entire team has joined OpenAI.
Глава Tencent обещает развивать ИИ для блага человечества, но предупреждает о возможных рисках
https://www.scmp.com/tech/big-tech/article/3231161/tencent-boss-pony-ma-vows-develop-ai-technologies-aid-human-well-being-warning-potential-huge-pain
https://www.scmp.com/tech/big-tech/article/3231161/tencent-boss-pony-ma-vows-develop-ai-technologies-aid-human-well-being-warning-potential-huge-pain
South China Morning Post
Tencent boss Pony Ma wants to develop AI tech that promotes human well-being
Tencent boss Pony Ma wants AI tech to promote human good and company has already deployed AI technologies to applications that aim to solve social issues.
FastViT: быстрый гибридный Vision Transformer со структурной репараметризацией
FastViT - новое слово в области гибридных архитектур преобразователей и сверточных сетей, обеспечивающее повышенную точность модели и ее эффективность. Главная заслуга FastViT - ислинование RepMixer, инновационного оператора для смешивания токенов, который использует структурную репараметризацию и уменьшает затраты на доступ к памяти, отказываясь от традиционных связей с пропуском.
- FastViT работает на мобильных устройствах в 3,5 раза быстрее CMT при точности классификации ImageNet.
- FastViT значительно превосходит EfficientNet и ConvNeXt с соотношениями скорости 4.9х и 1.9х соответственно.
- Формат FastViT по сравнению с MobileOne при схожей задержке показывает на 4.2% лучшую точность Top-1.
- FastViT демонстрирует отличные результаты в различных задачах, включая классификацию изображений, обнаружение, сегментацию и регрессию 3D-сетки.
Paper link: https://huggingface.co/papers/2303.14189
Code link: https://github.com/apple/ml-fastvit
A detailed unofficial overview of the paper:
https://andlukyane.com/blog/paper-review-fastvit
FastViT - новое слово в области гибридных архитектур преобразователей и сверточных сетей, обеспечивающее повышенную точность модели и ее эффективность. Главная заслуга FastViT - ислинование RepMixer, инновационного оператора для смешивания токенов, который использует структурную репараметризацию и уменьшает затраты на доступ к памяти, отказываясь от традиционных связей с пропуском.
- FastViT работает на мобильных устройствах в 3,5 раза быстрее CMT при точности классификации ImageNet.
- FastViT значительно превосходит EfficientNet и ConvNeXt с соотношениями скорости 4.9х и 1.9х соответственно.
- Формат FastViT по сравнению с MobileOne при схожей задержке показывает на 4.2% лучшую точность Top-1.
- FastViT демонстрирует отличные результаты в различных задачах, включая классификацию изображений, обнаружение, сегментацию и регрессию 3D-сетки.
Paper link: https://huggingface.co/papers/2303.14189
Code link: https://github.com/apple/ml-fastvit
A detailed unofficial overview of the paper:
https://andlukyane.com/blog/paper-review-fastvit
GitHub
GitHub - apple/ml-fastvit: This repository contains the official implementation of the research paper, "FastViT: A Fast Hybrid…
This repository contains the official implementation of the research paper, "FastViT: A Fast Hybrid Vision Transformer using Structural Reparameterization" ICCV 2023 - apple/ml-fastvit
Forwarded from 42 секунды
The Information: Как Google планирует победить OpenAI
– Весной Пичаи объединил ИИ-команды Google и DeepMind
– Теперь сотни людей борются за выпуск группы новых LLM
– Модели с общим названием Gemini должны помочь Google
– Он сможет создавать продукты, недоступные конкурентам
– Gemini объединит возможности от GPT-4, Midjourney и др.
– Технологи Gemini должны усилить Bard, Google Docs и др.
– Разработчикам Gemini будут продавать через Google Cloud
– Gemini обучали также на большом корпусе видео YouTube
– Разработкой моделей Gemini уже руководят 20+ инженеров
– Возглавляет общую команду бывший руководитель DeepMind
@ftsec
– Весной Пичаи объединил ИИ-команды Google и DeepMind
– Теперь сотни людей борются за выпуск группы новых LLM
– Модели с общим названием Gemini должны помочь Google
– Он сможет создавать продукты, недоступные конкурентам
– Gemini объединит возможности от GPT-4, Midjourney и др.
– Технологи Gemini должны усилить Bard, Google Docs и др.
– Разработчикам Gemini будут продавать через Google Cloud
– Gemini обучали также на большом корпусе видео YouTube
– Разработкой моделей Gemini уже руководят 20+ инженеров
– Возглавляет общую команду бывший руководитель DeepMind
@ftsec
"Large Language Models с семантическим поиском" от DeepLearning.AI
DeepLearning.AI, в сотрудничестве с Cohere, создало курс "Large Language Models с семантическим поиском". Целью курса является большее понимание и эффективное использование больших языковых моделей (LLM) в разработке и создании приложений.
- Команда DeepLearning.AI нацелена на то, чтобы облегчить разработчикам выбор оптимальной модели для своих приложений.
- В курсе подробно рассматриваются техники улучшения работы с LLM, такие как one-shot или few-shot prompting, RAG и fine-tuning.
- Цель курса - обучить методам интеграции LLM с поиском и использованию информации веб-сайта для формирования ответов.
https://www.deeplearning.ai/the-batch/issue-210/
DeepLearning.AI, в сотрудничестве с Cohere, создало курс "Large Language Models с семантическим поиском". Целью курса является большее понимание и эффективное использование больших языковых моделей (LLM) в разработке и создании приложений.
- Команда DeepLearning.AI нацелена на то, чтобы облегчить разработчикам выбор оптимальной модели для своих приложений.
- В курсе подробно рассматриваются техники улучшения работы с LLM, такие как one-shot или few-shot prompting, RAG и fine-tuning.
- Цель курса - обучить методам интеграции LLM с поиском и использованию информации веб-сайта для формирования ответов.
https://www.deeplearning.ai/the-batch/issue-210/
GPU Shortage, Affordable Robodog, Humanizing Large Language Models, and more
The Batch - AI News & Insights: An increasing variety of large language models (LLMs) are open source, or close to it. The proliferation of models...
Forwarded from Chat GPT
This media is not supported in your browser
VIEW IN TELEGRAM
Alibaba open-sources ChatGPT competitor.
Tongyi Qianwen (Alibaba's LLM) is open to third-party developers, allowing them to create their own AI applications without training their own systems.
This move puts Alibaba in competition with Meta and may challenge ChatGPT.
Tongyi Qianwen (Alibaba's LLM) is open to third-party developers, allowing them to create their own AI applications without training their own systems.
This move puts Alibaba in competition with Meta and may challenge ChatGPT.
"Openstream.ai признана Gartner за инновационный подход к разговорному AI"
Openstream.ai, ведущий разработчик решений для разговорного искусственного интеллекта (AI), был вновь отмечен в исследовательском отчете Gartner за свою платформу Eva™. Это уже пятое по счету упоминание компании в отчетах Gartner в 2023 году.
- Gartner определяет концепцию "Combinatorial AI" как использование совокупности передовых технологий и трендов AI для раскрытия новых ценностей и возможностей.
- По мнению Gartner, для реализации полного потенциала предприятия в области разговорного AI необходимо применение различных дисциплин, методологий и инструментов AI.
- Openstream.ai продолжает построение своего портфолио 2023 года, включая отметку как единственного визионера в квадранте Gartner по разговорному AI для предприятий.
https://www.prnewswire.com/news-releases/the-future-of-conversational-ai-requires-combinatorial-ai-301903665.html
Openstream.ai, ведущий разработчик решений для разговорного искусственного интеллекта (AI), был вновь отмечен в исследовательском отчете Gartner за свою платформу Eva™. Это уже пятое по счету упоминание компании в отчетах Gartner в 2023 году.
- Gartner определяет концепцию "Combinatorial AI" как использование совокупности передовых технологий и трендов AI для раскрытия новых ценностей и возможностей.
- По мнению Gartner, для реализации полного потенциала предприятия в области разговорного AI необходимо применение различных дисциплин, методологий и инструментов AI.
- Openstream.ai продолжает построение своего портфолио 2023 года, включая отметку как единственного визионера в квадранте Gartner по разговорному AI для предприятий.
https://www.prnewswire.com/news-releases/the-future-of-conversational-ai-requires-combinatorial-ai-301903665.html
PR Newswire
The Future of Conversational AI Requires Combinatorial AI
/PRNewswire/ -- Openstream.ai, the leading provider of plan-based, multimodal Conversational AI solutions for visionaries, today announced its platform, Eva™,...
ИИ ИБ стартапы:
https://www.darkreading.com/edge-slideshows/8-ai-risk-and-resilience-firms-cisos-should-track
https://www.darkreading.com/edge-slideshows/8-ai-risk-and-resilience-firms-cisos-should-track
Darkreading
8 AI Risk and Resilience Firms CISOs Should Track
Check out our list of emerging firms that are building technology and services to assess the risk posture of AI systems and ML models.
Meta Platforms запускает Code Llama - открытую модель, помогающую разработчикам автоматически генерировать программный код, как альтернативу платному ПО от OpenAI, Google и других.
- Code Llama может быть запущен уже на следующей неделе
- Эта модель генерации кода становится конкурентом для модели Codex от OpenAI
- Она облегчит разработку ИИ-ассистентов, автоматически предлагающих код разработчикам, и может отвлечь пользователей от платных помощников в программировании, таких как GitHub Copilot от Microsoft с технологией Codex.
https://www.theinformation.com/articles/metas-next-ai-attack-on-openai-free-code-generating-software
- Code Llama может быть запущен уже на следующей неделе
- Эта модель генерации кода становится конкурентом для модели Codex от OpenAI
- Она облегчит разработку ИИ-ассистентов, автоматически предлагающих код разработчикам, и может отвлечь пользователей от платных помощников в программировании, таких как GitHub Copilot от Microsoft с технологией Codex.
https://www.theinformation.com/articles/metas-next-ai-attack-on-openai-free-code-generating-software
The Information
Meta’s Next AI Attack on OpenAI: Free Code-Generating Software
Meta Platforms is preparing to launch software to help developers automatically generate programming code, a challenge to proprietary software from OpenAI, Google and others, according to two people with direct knowledge of the product. Meta’s code-generating…
Forwarded from GPT-4 Community
This media is not supported in your browser
VIEW IN TELEGRAM
Adobe выкатили новую версию видеоредактора Adobe Express с нейронками.
С помощью этого сервиса у вас есть возможность креативить по полной, ведь благодаря ИИ сможете создать абсолютно любой видеоролик или заставку.
Как пользоваться вы увидите в самом видео.
GPT-4 ▶️ #Useful
С помощью этого сервиса у вас есть возможность креативить по полной, ведь благодаря ИИ сможете создать абсолютно любой видеоролик или заставку.
Как пользоваться вы увидите в самом видео.
GPT-4 ▶️ #Useful
Forwarded from Точка сингулярности💥
🧬 #Сингулярность по-китайски.
Рост интеллектуальной мощи китайского Baidu воистину становится сингулярным: скорость роста немыслимая, настолько, что предсказать показатели интеллектуальности ИИ хотя бы на полгода уже невозможно.🔥
По состоянию на март этого года, самый мощный китайский разговорный бот на основе генеративного ИИ ERNIE Bot (разработка лидера китайской индустрии ИИ – компании Baidu) отставал в гонке от лидера – американского #ChatGPT на целый круг. Текущее же состояние ERNIE Bot, объявленное позавчера на Wave Summit 2023 в Пекине, способно повергнуть в шок и американского разработчика ChatGPT OpenAI, и его друзей-соперников Microsoft, Google и Anthropic.
И вместо отставания, Китай уже наступает на пятки США в гонке за мировое первенство технологий ИИ. За прошедшие 4 мес. ERNIE Bot увеличил производительность обучения в 3 раза, а производительность логического вывода более чем в 30 раз (!); достигнуто 2,1-кратное увеличение длинны цепочки мыслей, позволяющее более глубоко рассуждать, и 8,3-кратное расширение объема знаний, расширяющее общую способность понимания ERNIE Bot. Он теперь не просто способен писать тексты на уровне людей, но и делать это на любой комбинации из 200 китайских литературных жанров: от классики китайской литературы Биджи (筆記) до Чжигуай сяошо (志怪小說) - «рассказы о чудесах», или «записи о необычном» - ставший прообразом телесериала «Секретные материалы» жанр китайской литературы, появившийся на 2+ тыс лет раньше телесериала, еще во времена династии Хань. (Кстати, в английской и русской литературе число жанров ощутимо меньше: примерно 30+).🤷
На платформе глубокого обучения Baidu PaddlePaddle работают 8 млн разработчиков, и она обслуживает 220 тыс предприятий, используя 800+ тыс моделей. Представляя все эти цифры, тех. директор Baidu Хайфэн Ван сказал, что основные способности ИИ к пониманию, генерации, рассуждению и памяти приближают нас к общему искусственному интеллекту (AGI).
Нас ждет «новый рассвет», когда появится AGI. Он уже скоро – сказал Хайфэн Ван.⚡️
🧩 #AINews
Рост интеллектуальной мощи китайского Baidu воистину становится сингулярным: скорость роста немыслимая, настолько, что предсказать показатели интеллектуальности ИИ хотя бы на полгода уже невозможно.
По состоянию на март этого года, самый мощный китайский разговорный бот на основе генеративного ИИ ERNIE Bot (разработка лидера китайской индустрии ИИ – компании Baidu) отставал в гонке от лидера – американского #ChatGPT на целый круг. Текущее же состояние ERNIE Bot, объявленное позавчера на Wave Summit 2023 в Пекине, способно повергнуть в шок и американского разработчика ChatGPT OpenAI, и его друзей-соперников Microsoft, Google и Anthropic.
И вместо отставания, Китай уже наступает на пятки США в гонке за мировое первенство технологий ИИ. За прошедшие 4 мес. ERNIE Bot увеличил производительность обучения в 3 раза, а производительность логического вывода более чем в 30 раз (!); достигнуто 2,1-кратное увеличение длинны цепочки мыслей, позволяющее более глубоко рассуждать, и 8,3-кратное расширение объема знаний, расширяющее общую способность понимания ERNIE Bot. Он теперь не просто способен писать тексты на уровне людей, но и делать это на любой комбинации из 200 китайских литературных жанров: от классики китайской литературы Биджи (筆記) до Чжигуай сяошо (志怪小說) - «рассказы о чудесах», или «записи о необычном» - ставший прообразом телесериала «Секретные материалы» жанр китайской литературы, появившийся на 2+ тыс лет раньше телесериала, еще во времена династии Хань. (Кстати, в английской и русской литературе число жанров ощутимо меньше: примерно 30+).🤷
На платформе глубокого обучения Baidu PaddlePaddle работают 8 млн разработчиков, и она обслуживает 220 тыс предприятий, используя 800+ тыс моделей. Представляя все эти цифры, тех. директор Baidu Хайфэн Ван сказал, что основные способности ИИ к пониманию, генерации, рассуждению и памяти приближают нас к общему искусственному интеллекту (AGI).
Нас ждет «новый рассвет», когда появится AGI. Он уже скоро – сказал Хайфэн Ван.
🧩 #AINews
Please open Telegram to view this post
VIEW IN TELEGRAM
Google DeepMind разрабатывает новую модель AI - Gemini
Google DeepMind работает над новой искусственной интеллектуальной моделью, Gemini. Глава компании, Демис Хассабис, заявил, что Gemini будет объединять сильные стороны уже существующих систем AI, доступных на рынке, включая их собственную AlphaGo, и не только.
- Gemini включит новые инновации для улучшенного планирования и решения проблем.
- Gemini будет обучаться и совмещать несколько типов данных, таких как изображения и текст.
- Для разработки Gemini DeepMind привлекает навыки от Google Brain, компании, которая изобрела первые трансформеры в 2017 году.
https://singularityhub.com/2023/07/02/heres-why-google-deepminds-gemini-algorithm-could-be-next-level-ai/
Google DeepMind работает над новой искусственной интеллектуальной моделью, Gemini. Глава компании, Демис Хассабис, заявил, что Gemini будет объединять сильные стороны уже существующих систем AI, доступных на рынке, включая их собственную AlphaGo, и не только.
- Gemini включит новые инновации для улучшенного планирования и решения проблем.
- Gemini будет обучаться и совмещать несколько типов данных, таких как изображения и текст.
- Для разработки Gemini DeepMind привлекает навыки от Google Brain, компании, которая изобрела первые трансформеры в 2017 году.
https://singularityhub.com/2023/07/02/heres-why-google-deepminds-gemini-algorithm-could-be-next-level-ai/
Singularity Hub
Here’s Why Google DeepMind’s Gemini Algorithm Could Be Next-Level AI
Google DeepMind's CEO, Demis Hassabis, says their Gemini algorithm will use reinforcement learning to take AI beyond GPT-4.
Forwarded from Точка сингулярности💥
🧬 "Проект Гильгамеш", или "Смерть, как малая техническая проблема".
Проект "Гильгамеш" представляет собой исследование, в рамках которого ученые стремятся решить техническую проблему смерти человека к 2050 году. Ученые полагают, что благодаря прогрессу научных знаний о человеческом организме, это возможно.
Ученые утверждают, что уже к 2050 году появятся первые бессмертные люди. Они все равно смогут умереть от травм или болезней, но в противном случае смогут жить бесконечно. Здравствуй, #Сингулярность!
🧩 #AINews
Проект "Гильгамеш" представляет собой исследование, в рамках которого ученые стремятся решить техническую проблему смерти человека к 2050 году. Ученые полагают, что благодаря прогрессу научных знаний о человеческом организме, это возможно.
Ученые утверждают, что уже к 2050 году появятся первые бессмертные люди. Они все равно смогут умереть от травм или болезней, но в противном случае смогут жить бесконечно. Здравствуй, #Сингулярность!
🧩 #AINews
Искусственный интеллект прогнозирует экспрессию генов в отдельной клетке
ScGPT может предсказать эффекты манипуляций с определенными генами и объединять различные партии данных вместе, чтобы раскрыть иначе неразличимые типы клеток.
https://www.the-scientist.com/news/a-new-ai-tool-predicts-gene-expression-in-a-single-cell-71295
ScGPT может предсказать эффекты манипуляций с определенными генами и объединять различные партии данных вместе, чтобы раскрыть иначе неразличимые типы клеток.
https://www.the-scientist.com/news/a-new-ai-tool-predicts-gene-expression-in-a-single-cell-71295
The Scientist Magazine®
A New AI Tool Predicts Gene Expression in a Single Cell
An artificial intelligence tool, scGPT, can identify cell types, predict the effects of disrupting genes, and pinpoint which genes interact with each other.
Changan Automobile и Baidu открыли центр обработки данных с ИИ
Китайский автопроизводитель Changan Automobile совместно с Baidu запустил центр данных с искусственным интеллектом.
Новый центр данных будет служить для сбора и обработки данных для разработки технологии беспилотных автомобилей.
Благодаря этому проекту компании планируют установить 100 автомобилей с различной степенью автономности на дорогах Китая к 2025 году.
Объём данных, который необходим для обучения беспилотных автомобилей, является огромным, и новый центр поможет управлять этим объёмом информации.
В дальнейшем центр также планирует использовать для разработки системы умной мобильности в коммерческих автомобилях Changan.
https://www.datacenterdynamics.com/en/news/changan-automobile-and-baidu-inaugurate-ai-data-center/
Китайский автопроизводитель Changan Automobile совместно с Baidu запустил центр данных с искусственным интеллектом.
Новый центр данных будет служить для сбора и обработки данных для разработки технологии беспилотных автомобилей.
Благодаря этому проекту компании планируют установить 100 автомобилей с различной степенью автономности на дорогах Китая к 2025 году.
Объём данных, который необходим для обучения беспилотных автомобилей, является огромным, и новый центр поможет управлять этим объёмом информации.
В дальнейшем центр также планирует использовать для разработки системы умной мобильности в коммерческих автомобилях Changan.
https://www.datacenterdynamics.com/en/news/changan-automobile-and-baidu-inaugurate-ai-data-center/
DCD
Changan Automobile and Baidu inaugurate AI data center
Chinese companies also to partner on cloud computing technologies, big data, and IoT
Graph of Thoughts Framework.
структура, которая расширяет возможности подсказок в больших языковых моделях (LLM) по сравнению с теми, которые предлагаются парадигмами, такими как цепочка мыслей или дерево мыслей (ToT). Ключевой идеей и основным преимуществом GoT является возможность моделировать информацию, генерируемую LLM, в виде произвольного графа, где единицами информации («мысли LLM») являются вершины, а ребра соответствуют зависимостям между этими вершинами. Этот подход позволяет комбинировать произвольные мысли LLM в синергетические результаты, извлекать суть целых сетей мыслей или улучшать мысли, используя петли обратной связи.
https://arxiv.org/abs/2308.09687
https://github.com/spcl/graph-of-thoughts
структура, которая расширяет возможности подсказок в больших языковых моделях (LLM) по сравнению с теми, которые предлагаются парадигмами, такими как цепочка мыслей или дерево мыслей (ToT). Ключевой идеей и основным преимуществом GoT является возможность моделировать информацию, генерируемую LLM, в виде произвольного графа, где единицами информации («мысли LLM») являются вершины, а ребра соответствуют зависимостям между этими вершинами. Этот подход позволяет комбинировать произвольные мысли LLM в синергетические результаты, извлекать суть целых сетей мыслей или улучшать мысли, используя петли обратной связи.
https://arxiv.org/abs/2308.09687
https://github.com/spcl/graph-of-thoughts
Forwarded from Deleted Account
🔥 23 модели mGPT 🌐 MIT License
Наша команда SberDevices выложила в open source 23 модели для малых языков России и стран СНГ. Модели обучены на основе mGPT 1.3B с использованием доступных открытых датасетов.
🌟 От армянского до якутского, максимально качественные моноязычные модели, теперь готовы к интеграции в ваши проекты!
👉 Статья на Хабр (поддержите плюсиком) | Huggingface
Мы открыты для коллаборации и готовы продолжать исследования в данной области и дообучение модели и на других языках. Если у вас есть идея, на каком языке еще стоит дообучить mGPT, есть данные для её дообучения, и желание с нами коллаборировать, пишите!
Делаем технологии доступными для всех, независимо от языка! 🌍🤖
Наша команда SberDevices выложила в open source 23 модели для малых языков России и стран СНГ. Модели обучены на основе mGPT 1.3B с использованием доступных открытых датасетов.
🌟 От армянского до якутского, максимально качественные моноязычные модели, теперь готовы к интеграции в ваши проекты!
👉 Статья на Хабр (поддержите плюсиком) | Huggingface
Мы открыты для коллаборации и готовы продолжать исследования в данной области и дообучение модели и на других языках. Если у вас есть идея, на каком языке еще стоит дообучить mGPT, есть данные для её дообучения, и желание с нами коллаборировать, пишите!
Делаем технологии доступными для всех, независимо от языка! 🌍
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from ml4se
OWASP Top 10 for LLM
The OWASP Top 10 for Large Language Model Applications project aims to educate developers, designers, architects, managers, and organizations about the potential security risks when deploying and managing Large Language Models (LLMs). The project provides a list of the top 10 most critical vulnerabilities often seen in LLM applications, highlighting their potential impact, ease of exploitation, and prevalence in real-world applications. Examples of vulnerabilities include prompt injections, data leakage, inadequate sandboxing, and unauthorized code execution, among others. The goal is to raise awareness of these vulnerabilities, suggest remediation strategies, and ultimately improve the security posture of LLM applications.
1 Prompt Injection
2 Insecure Output Handling
3 Training Data Poisoning
4 Model Denial of Service
5 Supply Chain Vulnerabilities
6 Sensitive Information Disclosure
7 Insecure Plugin Design
8 Excessive Agency
9 Overreliance
10 Model Theft
PDF
The OWASP Top 10 for Large Language Model Applications project aims to educate developers, designers, architects, managers, and organizations about the potential security risks when deploying and managing Large Language Models (LLMs). The project provides a list of the top 10 most critical vulnerabilities often seen in LLM applications, highlighting their potential impact, ease of exploitation, and prevalence in real-world applications. Examples of vulnerabilities include prompt injections, data leakage, inadequate sandboxing, and unauthorized code execution, among others. The goal is to raise awareness of these vulnerabilities, suggest remediation strategies, and ultimately improve the security posture of LLM applications.
1 Prompt Injection
2 Insecure Output Handling
3 Training Data Poisoning
4 Model Denial of Service
5 Supply Chain Vulnerabilities
6 Sensitive Information Disclosure
7 Insecure Plugin Design
8 Excessive Agency
9 Overreliance
10 Model Theft