Новый тип должности: Chief AI Officer
https://www.presidentialprayerteam.org/2023/09/20/homeland-security-appoints-chief-ai-officer/
https://www.presidentialprayerteam.org/2023/09/20/homeland-security-appoints-chief-ai-officer/
Forwarded from 42 секунды
Forbes: Just AI создала собственную большую языковую модель JustGPT
– Также Just AI запустила новый инструмент Jay CoPilot
– Инструмент нужен для взаимодействия с нейросетями
– Все сервисы в нем представлены в виде приложений
– Jay CoPilot пилотируют два частных российских банка
– Сам Jay CoPilot работает с разными модальностями
– Например, с речью, текстом, аудио и изображениями
– Он также умеет искать информацию прямо в интернете
– Jay CoPilot обладает API для сторонних интеграций
– В инфраструктуру, разработку и R&D вложено 90 млн руб.
– При регистрации пользователь получит несколько токенов
– Дальше можно приобрести подписку или отдельно токены
– Jay CoPilot работает на баще JustGPT (основана на LLaMA-2)
– Модель обучена на 70 млрд параметров, обучали 12 дней
@ftsec
– Также Just AI запустила новый инструмент Jay CoPilot
– Инструмент нужен для взаимодействия с нейросетями
– Все сервисы в нем представлены в виде приложений
– Jay CoPilot пилотируют два частных российских банка
– Сам Jay CoPilot работает с разными модальностями
– Например, с речью, текстом, аудио и изображениями
– Он также умеет искать информацию прямо в интернете
– Jay CoPilot обладает API для сторонних интеграций
– В инфраструктуру, разработку и R&D вложено 90 млн руб.
– При регистрации пользователь получит несколько токенов
– Дальше можно приобрести подписку или отдельно токены
– Jay CoPilot работает на баще JustGPT (основана на LLaMA-2)
– Модель обучена на 70 млрд параметров, обучали 12 дней
@ftsec
Обновления в Google Bard поддерживают более эффективное взаимодействие с сервисами Google
Новая функция Bard Extensions позволяет AI Bard находить релевантную информацию в сервисах Google (например, Gmail, Docs, Drive и т.д.)
Функция "Google it" теперь доступна для проверки ответов Bard
Беседу с Bard теперь можно продолжить, используя общедоступные ссылки
Google расширила доступ к функциям Bard на 40 языках
Bard активно работает над защитой личных данных пользователей
Функция Bard Extensions, пока что, доступна на английском языке.
https://blog.google/products/bard/google-bard-new-features-update-sept-2023/
Новая функция Bard Extensions позволяет AI Bard находить релевантную информацию в сервисах Google (например, Gmail, Docs, Drive и т.д.)
Функция "Google it" теперь доступна для проверки ответов Bard
Беседу с Bard теперь можно продолжить, используя общедоступные ссылки
Google расширила доступ к функциям Bard на 40 языках
Bard активно работает над защитой личных данных пользователей
Функция Bard Extensions, пока что, доступна на английском языке.
https://blog.google/products/bard/google-bard-new-features-update-sept-2023/
Google
Bard can now connect to your Google apps and services
Bard gets its most capable model yet, along with new and expanded features.
В Китае создано не менее 130 крупных языковых моделей (LLM).
Некоторые компании также анонсировали десятки "отраслевых LLM".
Однако большинство из них еще не нашли жизнеспособного бизнес-применения, они слишком схожи друг с другом и сейчас борются с возрастающими затратами.
https://www.reuters.com/technology/chinas-ai-war-hundred-models-heads-shakeout-2023-09-21/
Некоторые компании также анонсировали десятки "отраслевых LLM".
Однако большинство из них еще не нашли жизнеспособного бизнес-применения, они слишком схожи друг с другом и сейчас борются с возрастающими затратами.
https://www.reuters.com/technology/chinas-ai-war-hundred-models-heads-shakeout-2023-09-21/
Reuters
China's AI 'war of a hundred models' heads for a shakeout
China's craze over generative artificial intelligence has triggered a flurry of product announcements from startups and tech giants on an almost daily basis, but investors are warning a shakeout is imminent as cost and profit pressures grow.
Huawei объявил AI целью и фокусом на следующее десятилетие, планируя применять ИИ во всех отраслях и разработках.
https://edition.cnn.com/2023/09/21/tech/huawei-ai-strategy-us-china-intl-hnk/index.html
https://edition.cnn.com/2023/09/21/tech/huawei-ai-strategy-us-china-intl-hnk/index.html
CNN
Huawei wants to go all in on AI for the next decade | CNN Business
Huawei has joined the list of companies that want to be all about artificial intelligence.
Forwarded from GPT/ChatGPT/AI Central Александра Горного
В Windows 11 появится генеративный ИИ
Microsoft объединит инструменты на основе генеративного ИИ в систему Copilot и добавит их в Windows 11 в следующем обновлении.
Copilot позволит быстрее управлять задачами в Windows и будет доступен по нажатию клавиш Win+C. Функции генеративного ИИ также получат приложения Microsoft 365, Paint, Photos, Clipchamp, Ножницы и другие. Обновление будет бесплатным и выйдет 26 сентября.
Кроме того, Microsoft добавит в Bing поддержку последней версии генератора изображений DALL-E 3 от OpenAI.
https://blogs.microsoft.com/blog/2023/09/21/announcing-microsoft-copilot-your-everyday-ai-companion/
—
@aioftheday — новости вокруг искусственного интеллекта
Microsoft объединит инструменты на основе генеративного ИИ в систему Copilot и добавит их в Windows 11 в следующем обновлении.
Copilot позволит быстрее управлять задачами в Windows и будет доступен по нажатию клавиш Win+C. Функции генеративного ИИ также получат приложения Microsoft 365, Paint, Photos, Clipchamp, Ножницы и другие. Обновление будет бесплатным и выйдет 26 сентября.
Кроме того, Microsoft добавит в Bing поддержку последней версии генератора изображений DALL-E 3 от OpenAI.
https://blogs.microsoft.com/blog/2023/09/21/announcing-microsoft-copilot-your-everyday-ai-companion/
—
@aioftheday — новости вокруг искусственного интеллекта
Forwarded from Точка сингулярности💥
🧬 Опять #РоботыВокругНас или размышления перед выходными...☕️
Toyota в сотрудничестве с MIT (Массачусетский технологический институт) и Columbia Engineering (Школа инженерных и прикладных наук Колумбийского университета) продемонстрировали весьма впечатляющие результаты в области обучения роботов с использованием нового метода, который значительно ускоряет процесс освоения машинами новых навыков. Методика представляет собой прорыв, напоминающий по своей значимости появление #ChatGPT в сфере искусственного интеллекта, и "открывает новую эпоху в робототехнике". Ждём подробностей.
🧩 #AINews
Toyota в сотрудничестве с MIT (Массачусетский технологический институт) и Columbia Engineering (Школа инженерных и прикладных наук Колумбийского университета) продемонстрировали весьма впечатляющие результаты в области обучения роботов с использованием нового метода, который значительно ускоряет процесс освоения машинами новых навыков. Методика представляет собой прорыв, напоминающий по своей значимости появление #ChatGPT в сфере искусственного интеллекта, и "открывает новую эпоху в робототехнике". Ждём подробностей.
🧩 #AINews
Forwarded from 42 секунды
vc: «Сбер» представил GigaChat API для бизнеса и добавил ИИ-помощника в свой сервис SaluteBot
– Бизнес сможет использовать сервис для своих решений
– Помимо GigaChat API банк представил GigaChain (SDK)
– Это версия библиотеки LangChain для русского языка
– Адаптированная библиотека поддерживает GigaChat API
– Для доступа к GigaChat API нужно заключить договор
– Библиотека GigaChain (SDK) уже опубликована на Github
– Но для начала работы потребуется доступ к GigaChat API
– Также GigaChat можно подключить в сервисе SaluteBot
– Там опция доступна клиентам SaluteBot без доп. платы
@ftsec
– Бизнес сможет использовать сервис для своих решений
– Помимо GigaChat API банк представил GigaChain (SDK)
– Это версия библиотеки LangChain для русского языка
– Адаптированная библиотека поддерживает GigaChat API
– Для доступа к GigaChat API нужно заключить договор
– Библиотека GigaChain (SDK) уже опубликована на Github
– Но для начала работы потребуется доступ к GigaChat API
– Также GigaChat можно подключить в сервисе SaluteBot
– Там опция доступна клиентам SaluteBot без доп. платы
@ftsec
Forwarded from Венчур в картинках
Топ-50 веб-приложений с генеративным ИИ по посещаемости
На ChatGPT приходится 60% от общего трафика.
—
@ventureinpics — инфографики о стартапах и инвестициях
На ChatGPT приходится 60% от общего трафика.
—
@ventureinpics — инфографики о стартапах и инвестициях
Япония создает версию чат-бота, основанную на искусственном интеллекте
Японская правительство и крупные технологические компании, включая NEC, Fujitsu и SoftBank, инвестируют сотни миллионов долларов в создание систем искусственного интеллекта, основанных на технологии больших языковых моделей (LLM), которые используют японский язык.
Общепринятые LLM, такие как GPT от OpenAI, хорошо работают на английском языке, но они часто мало эффективны на японском из-за различий в алфавите и ограниченных данных.
Одним из крупных проектов по созданию японской LLM является использование одного из самых быстрых в мире суперкомпьютеров Fugaku для обучения на в основном японском языке. Ожидается, что результаты этого проекта, поддерживаемого Токийским институтом технологии, Университетом Тохоку, Fujitsu и государственной группой исследовательских центров RIKEN, будут представлены в следующем году.
https://www.nature.com/articles/d41586-023-02868-z
Японская правительство и крупные технологические компании, включая NEC, Fujitsu и SoftBank, инвестируют сотни миллионов долларов в создание систем искусственного интеллекта, основанных на технологии больших языковых моделей (LLM), которые используют японский язык.
Общепринятые LLM, такие как GPT от OpenAI, хорошо работают на английском языке, но они часто мало эффективны на японском из-за различий в алфавите и ограниченных данных.
Одним из крупных проектов по созданию японской LLM является использование одного из самых быстрых в мире суперкомпьютеров Fugaku для обучения на в основном японском языке. Ожидается, что результаты этого проекта, поддерживаемого Токийским институтом технологии, Университетом Тохоку, Fujitsu и государственной группой исследовательских центров RIKEN, будут представлены в следующем году.
https://www.nature.com/articles/d41586-023-02868-z
Nature
Why Japan is building its own version of ChatGPT
Nature - Some Japanese researchers feel that AI systems trained on foreign languages cannot grasp the intricacies of Japanese language and culture.
Forwarded from эйай ньюз
This media is not supported in your browser
VIEW IN TELEGRAM
Никто: мы опасно близки к AGI. Пора бомбить датацентры!!1!1
Tesla Optimus: ловко и спокойно сортирует кубики лего по цвету.
--
Кроме шуток, не часто увидишь full-body робота, который так плавно манипулирует мелкими объектами, основываясь чисто на зрении. Причем, заявляют что робот управляется одной нейронкой end2end: на вход видеопоток, на выход сигналы для контроля актуаторов. И это тоже довольно круто.
Подозреваю, что гоняют огромный мультимодальный трансформер. Возможно, архитектура отдаленно похожа на Google RT-2 или PaLM-E.
@ai_newz
Tesla Optimus: ловко и спокойно сортирует кубики лего по цвету.
--
Кроме шуток, не часто увидишь full-body робота, который так плавно манипулирует мелкими объектами, основываясь чисто на зрении. Причем, заявляют что робот управляется одной нейронкой end2end: на вход видеопоток, на выход сигналы для контроля актуаторов. И это тоже довольно круто.
Подозреваю, что гоняют огромный мультимодальный трансформер. Возможно, архитектура отдаленно похожа на Google RT-2 или PaLM-E.
@ai_newz
Microsoft анонсирует Copilot, ваш спутник на каждый день с ИИ
Microsoft объявил о запуске Copilot, общего ИИ помощника для повседневных задач.
Copilot будет смарт-ассистентом, доступным в Windows 11, Microsoft 365 и веб-браузере Edge и Bing.
Он интегрирует интеллект веба, ваших рабочих данных и то, что вы делаете на ПК, учитывая конфиденциальность и безопасность.
Copilot станет доступен в начале в виде бесплатного обновления Windows 11 с 26 сентября.
Способности и возможности Copilot будут постепенно расширяться.
https://blogs.microsoft.com/blog/2023/09/21/announcing-microsoft-copilot-your-everyday-ai-companion/
Microsoft объявил о запуске Copilot, общего ИИ помощника для повседневных задач.
Copilot будет смарт-ассистентом, доступным в Windows 11, Microsoft 365 и веб-браузере Edge и Bing.
Он интегрирует интеллект веба, ваших рабочих данных и то, что вы делаете на ПК, учитывая конфиденциальность и безопасность.
Copilot станет доступен в начале в виде бесплатного обновления Windows 11 с 26 сентября.
Способности и возможности Copilot будут постепенно расширяться.
https://blogs.microsoft.com/blog/2023/09/21/announcing-microsoft-copilot-your-everyday-ai-companion/
The Official Microsoft Blog
Announcing Microsoft Copilot, your everyday AI companion
Updated November 15, 2023: To simplify the user experience and make Copilot more accessible to everyone, Bing Chat and Bing Chat Enterprise will now simply become Microsoft Copilot. For more information: https://aka.ms/BingIgnite We are entering a new era…
Древнегреческие философы "оживлены" с помощью AI
Используя искусственный интеллект, учёные создали образы древнегреческих философов. Эти изображения были созданы на основе описаний их внешности. Представления включают в себя "воскрешенных" Платона, Эпикура и других. Цель проекта - дать людям возможность "увидеть" великих мыслителей прошлого.
https://greekreporter.com/2023/09/24/ancient-greek-philosophers-brought-to-life-ai/
Используя искусственный интеллект, учёные создали образы древнегреческих философов. Эти изображения были созданы на основе описаний их внешности. Представления включают в себя "воскрешенных" Платона, Эпикура и других. Цель проекта - дать людям возможность "увидеть" великих мыслителей прошлого.
https://greekreporter.com/2023/09/24/ancient-greek-philosophers-brought-to-life-ai/
GreekReporter.com
Ancient Greek Philosophers Brought to Life by AI
Ancient Greek scientists and philosophers are brought back to life and tell their stories in this video produced through AI
Microsoft покроет юридические издержки за контент, созданный искусственным интеллектом
Microsoft обещает покрыть судебные издержки для своих клиентов, которые используют их продукты на базе ИИ для создания контента, если они столкнутся с исками о нарушении авторских прав.
Эта новая инициатива называется "Обязательство по авторским правам на Copilot".
Пользователи должны использовать фильтры контента и другие системы безопасности, предусмотренные компанией в своих продуктах, и не должны пытаться генерировать материалы, нарушающие авторские права.
Сослагаясь на экстенсивность поддержки в отношении интеллектуальной собственности, Microsoft конкретизировала, что при условии соблюдения правил и ограничений, она обеспечит защиту клиентов от любых возникающих вопросов об авторских правах.
https://interestingengineering.com/culture/microsoft-to-cover-legal-costs-for-ai-generated-content
Microsoft обещает покрыть судебные издержки для своих клиентов, которые используют их продукты на базе ИИ для создания контента, если они столкнутся с исками о нарушении авторских прав.
Эта новая инициатива называется "Обязательство по авторским правам на Copilot".
Пользователи должны использовать фильтры контента и другие системы безопасности, предусмотренные компанией в своих продуктах, и не должны пытаться генерировать материалы, нарушающие авторские права.
Сослагаясь на экстенсивность поддержки в отношении интеллектуальной собственности, Microsoft конкретизировала, что при условии соблюдения правил и ограничений, она обеспечит защиту клиентов от любых возникающих вопросов об авторских правах.
https://interestingengineering.com/culture/microsoft-to-cover-legal-costs-for-ai-generated-content
Interestingengineering
Microsoft to cover legal costs for AI-generated content
Microsoft said that this commitment is an extension of its existing intellectual property indemnity support to commercial Copilot services.
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Amazon инвестирует до $4 миллиардов в Anthropic
Первоначальные инвестиции составят $1,25 миллиарда с возможностью увеличения до $4 миллиардов. В рамках соглашения Anthropic будет использовать облако и чипы AWS для работы и обучения своих моделей искусственного интеллекта.
Ранее в сентябре Anthropic запустила платную подписку на свой чат-бот Claude 2.
https://techcrunch.com/2023/09/25/amazon-to-invest-up-to-4-billion-in-ai-startup-anthropic/
—
@aioftheday — новости вокруг искусственного интеллекта
Первоначальные инвестиции составят $1,25 миллиарда с возможностью увеличения до $4 миллиардов. В рамках соглашения Anthropic будет использовать облако и чипы AWS для работы и обучения своих моделей искусственного интеллекта.
Ранее в сентябре Anthropic запустила платную подписку на свой чат-бот Claude 2.
https://techcrunch.com/2023/09/25/amazon-to-invest-up-to-4-billion-in-ai-startup-anthropic/
—
@aioftheday — новости вокруг искусственного интеллекта
Forwarded from GPT/ChatGPT/AI Central Александра Горного
ChatGPT скоро сможет говорить и распознавать изображения
OpenAI добавит для ChatGPT возможность говорить пятью разными голосами. Чат-бот будет отвечать на устные команды и озвучивать свои ответы. Функция появится в мобильном приложении ChatGPT в течение двух следующих недель. Она будет доступна только подписчикам ChatGPT Plus и корпоративным пользователям.
Также, модель GPT-4 в ближайшее время сможет распознавать изображения. Например, можно будет загрузить в ChatGPT изображение солнцезащитных очков и попросить его подобрать подходящий к ним наряд, или отправить изображение математической задачи и попросить помощи в ее решении.
https://www.bloomberg.com/news/articles/2023-09-25/openai-gives-chatgpt-the-ability-to-speak-in-five-different-voices
—
@aioftheday — новости вокруг искусственного интеллекта
OpenAI добавит для ChatGPT возможность говорить пятью разными голосами. Чат-бот будет отвечать на устные команды и озвучивать свои ответы. Функция появится в мобильном приложении ChatGPT в течение двух следующих недель. Она будет доступна только подписчикам ChatGPT Plus и корпоративным пользователям.
Также, модель GPT-4 в ближайшее время сможет распознавать изображения. Например, можно будет загрузить в ChatGPT изображение солнцезащитных очков и попросить его подобрать подходящий к ним наряд, или отправить изображение математической задачи и попросить помощи в ее решении.
https://www.bloomberg.com/news/articles/2023-09-25/openai-gives-chatgpt-the-ability-to-speak-in-five-different-voices
—
@aioftheday — новости вокруг искусственного интеллекта
AutoGen: новый фреймворк для работы с большими языковыми моделями
AutoGen - это фреймворк, призванный упростить организацию, оптимизацию и автоматизацию рабочих процессов больших языковых моделей (LLM).
Он предлагает настраиваемые и коммуникабельные агенты, которые используют сильные стороны самых передовых LLM, например, GPT-4, при этом преодолевая их ограничения за счет интеграции с людьми и инструментами, а также ведения диалогов между несколькими агентами через автоматизированный чат.
https://arxiv.org/abs/2308.08155
https://www.microsoft.com/en-us/research/blog/autogen-enabling-next-generation-large-language-model-applications/
AutoGen - это фреймворк, призванный упростить организацию, оптимизацию и автоматизацию рабочих процессов больших языковых моделей (LLM).
Он предлагает настраиваемые и коммуникабельные агенты, которые используют сильные стороны самых передовых LLM, например, GPT-4, при этом преодолевая их ограничения за счет интеграции с людьми и инструментами, а также ведения диалогов между несколькими агентами через автоматизированный чат.
https://arxiv.org/abs/2308.08155
https://www.microsoft.com/en-us/research/blog/autogen-enabling-next-generation-large-language-model-applications/
🔥1
Forwarded from Сиолошная
Всего неделю назад писал про лик информации о будущих планах OpenAI — там говорилось про модель Gobi.
Но оказывается в Твиттере есть человек, который предсказал это ещё 28го Апреля. Твит удалён, однако сохранилась архивная ссылка: тык. Этот же аккаунт за полторы недели до релиза GPT-4 (14го марта) писал 5го марта, что GPT-4 уже используется в Bing, а анонс будет через неделю или около того. И в тот же день назвал точную дату вместе с указанием на тот факт, что GPT-4 будет обрабатывать картинки.
В общем, пускаемся на территорию слухов и догадок. Этот же аккаунт написал 18го сентября, что — готовы? вдохните поглубже😆 — "AGI has been achieved internally." Якобы в одной из лабораторий (Видимо, OpenAI?) достигли уровня технологии, который можно назвать AGI (хотя бы каким-то определением). Лично я в это не верю, скорее какая-то из компонент на каком-то бенчмарке показала себя сильно лучше, чем ожидалось — такое может быть.
Также этот аккаунт утверждает, что у OpenAI с весны идёт разработка модели под кодовым названием Arrakis (как планета со спайсом во вселенной Dune). Целевая дата релиза — 2025й год, но может быть из-за ускорения рисерча она будет релизнута где-то в 2024м.
——————
Помимо этого на Reddit есть аккаунт, который пишет в целом схожие вещи в похожем стиле, и как будто бы даже из той же страны (не понял, как узнали). Увидел вот тут, оригинал поста на LessWrong здесь. Что говорят:
— Arrakis уже существенно превосходит GPT-4 с точки зрения reasoning (рассуждение и логический вывод);
— это мультимодальная модель, которая умеет не только принимать, но и выдавать разные типы данных. В том числе умеет генерировать видео (лучше, чем Gen-2);
— Модель имеет около-экспертный уровень в большом наборе топиков, но пока не превосходит людей;
— Галлюцинации встречаются куда реже, чем у GPT-4, но всё еще не побеждены;
— Половина тренировочных данных — синтетические (то есть сгенерированные другими моделями);
— модель является очень хорошим автономным агентом, то есть ей можно поставить задачу, дать инструменты и ждать, пока задача выполнится.
В общем, такие вот слухи. Сам я не верю даже в 30% того, что описано, но чёрт его знает что там в этом вашем Deep Learning происходит. Поживём - увидим!
UPD: забыл добавить, что в истории с предсказаниями по GPT-4 много пробелов, много твитов удалено, странные вещи, так что этот пост скорее просто даёт помечтать. Ну и через годик вернуться-посмотреть :)
Но оказывается в Твиттере есть человек, который предсказал это ещё 28го Апреля. Твит удалён, однако сохранилась архивная ссылка: тык. Этот же аккаунт за полторы недели до релиза GPT-4 (14го марта) писал 5го марта, что GPT-4 уже используется в Bing, а анонс будет через неделю или около того. И в тот же день назвал точную дату вместе с указанием на тот факт, что GPT-4 будет обрабатывать картинки.
В общем, пускаемся на территорию слухов и догадок. Этот же аккаунт написал 18го сентября, что — готовы? вдохните поглубже
Также этот аккаунт утверждает, что у OpenAI с весны идёт разработка модели под кодовым названием Arrakis (как планета со спайсом во вселенной Dune). Целевая дата релиза — 2025й год, но может быть из-за ускорения рисерча она будет релизнута где-то в 2024м.
——————
Помимо этого на Reddit есть аккаунт, который пишет в целом схожие вещи в похожем стиле, и как будто бы даже из той же страны (не понял, как узнали). Увидел вот тут, оригинал поста на LessWrong здесь. Что говорят:
— Arrakis уже существенно превосходит GPT-4 с точки зрения reasoning (рассуждение и логический вывод);
— это мультимодальная модель, которая умеет не только принимать, но и выдавать разные типы данных. В том числе умеет генерировать видео (лучше, чем Gen-2);
— Модель имеет около-экспертный уровень в большом наборе топиков, но пока не превосходит людей;
— Галлюцинации встречаются куда реже, чем у GPT-4, но всё еще не побеждены;
— Половина тренировочных данных — синтетические (то есть сгенерированные другими моделями);
— модель является очень хорошим автономным агентом, то есть ей можно поставить задачу, дать инструменты и ждать, пока задача выполнится.
В общем, такие вот слухи. Сам я не верю даже в 30% того, что описано, но чёрт его знает что там в этом вашем Deep Learning происходит. Поживём - увидим!
UPD: забыл добавить, что в истории с предсказаниями по GPT-4 много пробелов, много твитов удалено, странные вещи, так что этот пост скорее просто даёт помечтать. Ну и через годик вернуться-посмотреть :)
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Точка сингулярности💥
🧬 Как всему человечеству не подорваться на всевозможных ИИ-рисках?
Компания Anthropic – одна из главных лидеров гонки генеративных ИИ, опубликовала свою «Политику ответственного масштабирования ИИ», в которой расписаны 4 уровня безопасности:
1 уровень относится к системам, не представляющим значимого риска: например, LLM 2018 года или ИИ, играющая только в шахматы;
2 уровень относится к системам, типа GPT-4 и Claude, которые проявляют ранние признаки опасных возможностей (например, способность давать инструкции по созданию биологического оружия), но их информация пока относительно бесполезна из-за ненадежности или недостоверности;
3 уровень относится к системам, которые существенно увеличивают риск катастрофического неправильного использования по сравнению с базовыми системами, не связанными с ИИ (например, с поисковыми системами), или же которые демонстрируют автономные возможности низкого уровня;
Уровень 4 еще не определён, поскольку он слишком далек от нынешних систем, но, вероятно, повлечет за собой качественное увеличение потенциала катастрофического злоупотребления и автономии.
🧩 #AINews
Компания Anthropic – одна из главных лидеров гонки генеративных ИИ, опубликовала свою «Политику ответственного масштабирования ИИ», в которой расписаны 4 уровня безопасности:
1 уровень относится к системам, не представляющим значимого риска: например, LLM 2018 года или ИИ, играющая только в шахматы;
2 уровень относится к системам, типа GPT-4 и Claude, которые проявляют ранние признаки опасных возможностей (например, способность давать инструкции по созданию биологического оружия), но их информация пока относительно бесполезна из-за ненадежности или недостоверности;
3 уровень относится к системам, которые существенно увеличивают риск катастрофического неправильного использования по сравнению с базовыми системами, не связанными с ИИ (например, с поисковыми системами), или же которые демонстрируют автономные возможности низкого уровня;
Уровень 4 еще не определён, поскольку он слишком далек от нынешних систем, но, вероятно, повлечет за собой качественное увеличение потенциала катастрофического злоупотребления и автономии.
🧩 #AINews
Anthropic
Anthropic's Responsible Scaling Policy \ Anthropic
Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.
Forwarded from Анализ данных (Data analysis)
This media is not supported in your browser
VIEW IN TELEGRAM
Если вы хотите использовать drag-and-drop UI для создания своего LLM потока, попробуйте Flowise.
UI с открытым исходным кодом для построения LLM модели с использованием
LangchainJS, написанный на Node Typescript/Javascriptgit clone https://github.com/FlowiseAI/Flowise.git• Github
• Примеры
@data_analysis_ml
Please open Telegram to view this post
VIEW IN TELEGRAM