Stack Overflow, the world’s largest question-and-answer website for programmers, just announced OverflowAI.

Following the release of ChatGPT, Stack Overflow has seen a 50% drop in traffic.

This shift toward embracing AI is probably necessary, in order to save the company.

Лучший плагин для Photoshop

Вбивайете нужный промт и делаете набросок, ИИ дорисует его до уровня полноценной картины.

Также мод умеет дорисовывать и добавлять детали.

Пробуем по ссылке.

ChatGPT | #Useful

WSJ: ChatGPT стал хуже выполнять некоторые базовые математические операции

– Ухудшение стало примером явления под названием «drift»
– Попытки улучшить одну из частей ухудшили работу других
– Исследователи протестировали версии ChatGPT 3.5 и 4.0
– Они должны были определить: является ли число простым
– Например, является ли число «17077» или «17947» простым
– Исследователи скормили ChatGPT 1000 различных чисел
– В марте GPT-4 давал 84% правильных ответа, в июне 52%
– При этом модель GPT-4 стала хуже в 6 из 8 разных задач
– GPT-3.5 стала лучше в 6 задачах, но все же хуже GPT-4
– Исследователи также задали 1,5 тыс. вопросов про мнение
– В марте ChatGPT давал мнение на 98% таких вопросов
– В июне было 23%, в остальных случаях он воздержался

@ftsec

ChatGPT Android is now supported in all countries.

A few days after the initial release of the ChatGPT Android app in the US, India, Brazil, and Bangladesh, OpenAI has expanded the availability of the app to all countries that support ChatGPT.

NVIDIA и Hugging Face объявили о партнерстве, которое позволит миллионам разработчиков получить доступ к суперкомпьютеризации генеративного искусственного интеллекта. Сотрудничество позволит разработчикам использовать платформу Hugging Face для обучения и настройки сложных моделей искусственного интеллекта с использованием облачных вычислений NVIDIA DGX. Это ускорит принятие на рынке генеративного искусственного интеллекта для создания индустриальных приложений, таких как интеллектуальные чат-боты и системы поиска и подводки итогов. Hugging Face также предложит новую услугу под названием Training Cluster as a Service, которая облегчит создание новых моделей искусственного интеллекта для предприятий. Разработчики смогут использовать уникальные данные и быстро создавать эффективные модели с использованием инфраструктуры DGX Cloud. Согласно сотрудничеству, Hugging Face представит интеграцию с DGX Cloud и ожидается, что она станет доступной в ближайшие месяцы.

https://nvidianews.nvidia.com/news/nvidia-and-hugging-face-to-connect-millions-of-developers-to-generative-ai-supercomputing

Ну что, господа программисты, там Stability AI (это которые делали хайповый Stable Diffusion) выкатили в свет свое новое детище — StableCode.

Умеет: писать стабильный код, чинить баги в коде и объяснять, что за хрень написал тот работяга до вас. На выбор предлагают три модельки: базовую, инструкций и с расширенным окном ответов (до 16к токенов).

Бета уже ждет на Hugging Face.

Злоумышленники эксплуатируют ИИ для создания собственных версий ChatGPT

Быстрое развитие генеративного искусственного интеллекта ChatGPT активно меняет текущий ландшафт угроз по мере того, как хакеры используют его для различных незаконных целей. Вскоре после того, как ChatGPT начал нарушать работу стартапов, хакеры быстро разработали свои версии технологии генерации текста на основе ChatGPT от OpenAI. Все эти продвинутые ИИ-системы могут быть использованы угрозовыми актерами для создания сложного вредоносного ПО и фишинговых писем с целью украсть учетные данные жертв. В последнее время дарк вебе было обнаружено несколько постов, в которых злоумышленники осуществляли пропаганду своих собственных моделей на основе больших языковых моделей (LLM).
Кроме того, исследователи безопасности активно тренируют несколько чат-ботов на данных с темных веб-сайтов, используя большие языковые модели в борьбе против киберпреступности и создании эффективных защитных механизмов.

https://cybersecuritynews.com/creating-chatgpt-clones/

👾 Ученые из Tinkoff Research увеличили скорость обучения ИИ в 20 раз

При этом ИИ также обучается на 10% качественнее. А значит, он безопаснее для беспилотных автомобилей, эффективнее для логистических цепочек и быстрее для доставки или работы на складе.
Этот способ обучения учёные из Tinkoff Research назвали SAC-RND — он приближает научное сообщество к созданию универсального робота, способного в одиночку выполнять любые задачи.

⤷ Читать статью на сайте

4PDA Community | #AI

UniversalNER: Революционное усовершенствование в области распознавания именованных сущностей

Недавно была представлена UniversalNER - революционное инновационное решение в области больших языковых моделей (LLM), основанное на методе целевой искусственной дистилляции, усилённой настройкой на конкретные задачи. Исследователи смогли перелить ChatGPT в более экономичные модели UniversalNER без ущерба для качества распознавания именованных сущностей (NER). В ходе исследования на 43 наборах данных в 9 различных областях было продемонстрировано, как UniversalNER превосходит другие модели, такие как Alpaca и Vicuna, более чем на 30 абсолютных пунктов F1 в среднем.

Отличительной особенностью UniversalNER является способность наследовать возможности ChatGPT, имея при этом всего лишь долю его параметров. Он не только умеет распознавать произвольные типы сущностей, но и превосходит точность ChatGPT в задаче NER на 7-9 абсолютных пунктов F1. Самое удивительное в том, что без прямого технического надзора данная модель справляется с задачей лучше, чем передовые многозадачные системы вроде InstructUIE. Это достижение имеет все шансы стать знаковым в области обработки естественного языка, предлагая мощное сочетание эффективности и точности.

Ссылка на статью: https://arxiv.org/abs/2308.03279
Ссылка на проект: https://universal-ner.github.io/


https://andlukyane.com/blog/paper-review-universalner

Рекоменду отложить все дела и посмотреть все видео из этого списка. Это прошедшая пару недель назад конференция на тему использования LLM в научных исследованиях и образовании организованная факультетом физики MIT.

Ведущие физики и инжнеры делятся опытом того как они используют GPT и другие похожие генеративные нейронки в своей работе: https://www.youtube.com/playlist?list=PLKemzYMx2_Ot1MZ_er2vFiINdJEgDO8Hg

Я пока посмотрел только пару лекций, но если вы хотите прям шарить, то, конечно, придется посмотреть всё.

AGI появится через 2-3 года
Откровение «великого осознания» одного из трёх самых осведомленных практиков развития ИИ
Среди сотни наиболее осведомленных о состоянии и перспективах развития ИИ мировых экспертов, особняком стоят ТОП-3: Сэм Альтман, Демис Хассабис и Дарио Амодей. Уникальность понимания ими текущей ситуации в области ИИ, а также их видения наиболее вероятного развития событий в этой области на ближайшие годы, определяются двумя ключевыми моментами.
1. Под их руководством уже созданы три самые мощные в мире ИИ на основе наиболее совершенных и перспективных больших языковых моделей.
2. Они являются руководителями, соответственно, OpenAI, Google DeepMind и Anthropic: трёх компаний – абсолютных мировых лидеров в области ИИ, собравших у себя уникальные созвездия ученых и инженеров, а также располагающих колоссальными научно-техническими и финансовыми ресурсами.

Дарио Амадеи – самый закрытый и непубличный их трёх, - исповедует принцип «знающий не говорит, говорящий не знает».
• В отличие от Альтмана и Хассабиса, Амадеи не публикует посты в Twitter, не раздает множество интервью и не ходит периодически на подкасты и Ютуб-каналы. И поэтому 2-х часовое интервью Дарио Амадеи Дваркешу Патель представляет колоссальный интерес.
• Тем более, что в этом интервью Амадеи приоткрыл дверцу во внутреннюю кухню и планы Anthropic, что ни Хассабис, ни Альтман не позволяют себе сделать из-за груза ответственности перед корпоративными монстрами, контролирующими их деятельность (Google и Microsoft, финансирующий OpenAI).

Сказано за 2 часа много весьма интересного и, местами, сенсационного.
Но самым захватывающим дух для меня стало вот что.

1) Абсолютная уверенность Дарио Амадеи, что дальнейшее масштабирование моделей еще на пару порядков (как по числу параметров и объему данных, так и по стоимости обучения) приведет за 2-3 года к достижению моделями интеллектуального уровня хорошо образованного человека. Амадеи называет это «великим осознанием» того, что для достижения интеллекта человеческого уровня не потребуется ничего, кроме очень больших денег на то, чтобы купить очень большие вычислительные ресурсы и собрать очень большие объемы данных.

2) Мало кому известные факты, отражающие колоссальную «глубину бурения» ключевых проблем развития ИИ уникальной командой из почти сорока физиков-теоретиков, собравшихся под крышей Anthropic (напр., соучредитель и главный научный сотрудник компании Джаред Каплан, копающий решение проблем плавной масштабируемости с использованием аппарата фрактального многообразия).

3) Принципиальный подход Anthropic (а также OpenAI) к обучению моделей, сформулированный сооснователем и главным научным сотрудником OpenAI Ильей Суцкевером (когда Амадеи работал с ним в OpenAI) так:
«Модели просто хотят учиться. А вы лишь убираете препятствия с их пути. Вы предоставляете им хорошие данные, вы даете им достаточно вычислительных ресурсов для работы и не делаете ничего глупого. А учатся они сами, потому что хотят учиться.»

#LLM #AGI

🧬 Microsoft и Meta расширяют партнерство в области ИИ с Llama 2 в Azure и Windows.

Совсем недавно в Microsoft Inspire компании Meta и Microsoft объявили о поддержке семейства больших языковых моделей (LLM) Llama 2 в Azure и Windows. Llama 2 предназначена для того, чтобы позволить разработчикам и организациям создавать генеративные инструменты и опыт на базе искусственного интеллекта.

Теперь клиенты Azure могут легко и безопасно настраивать и развертывать модели Llama 2 с параметрами 7B, 13B и 70B на Azure, платформе для наиболее широко распространенных моделей frontier и open. Кроме того, Llama будет оптимизирована для локальной работы в Windows. Разработчики Windows смогут использовать Llama, ориентируясь на поставщика выполнения DirectML через среду выполнения ONNX, обеспечивая бесперебойный рабочий процесс, поскольку они привносят в свои приложения возможности искусственного интеллекта.

Meta и Microsoft являются давними партнерами в области искусственного интеллекта, начиная с совместной работы по интеграции ONNX Runtime с PyTorch для создания отличного интерфейса разработчика PyTorch в Azure, и заканчивая выбором Meta Azure в качестве стратегического облачного провайдера. Именно поэтому, нынешнее совместное объявление о партнерстве по ускорению инноваций в эпоху ИИ не вызывает вопросов и еще больше расширяет экосистемы компаний и их  позиции в качестве мировых суперкомпьютерных платформ для искусственного интеллекта.

🧩 #AINews

"Амазон активно внедряет генеративный AI во все свои бизнесы"

Вопреки недавним отчетам о снижении интереса к генеративному AI и использованию ChatGPT, Амазон продолжает активно его развивать. Согласно словам генерального директора компании Энди Джесси, "каждый бизнес" компании в настоящее время реализует "несколько инициатив в области генеративного АИ". Джесси уточнил, что проекты могут коснуться оптимизации расходов и улучшения эффективности работы, вплоть до внедрения в "самое сердце каждого клиентского опыта". Джесси также упомянул работу над интеграцией генеративного AI в Алексу. Другие крупные технологические компании, включая Meta и Google, также активно работают над генеративным AI. Apple, по слухам, работает над собственной версией ChatGPT, которую называют AppleGPT.

https://www.techspot.com/news/99672-amazon-embracing-generative-ai-across-every-one-businesses.html

Generative AI ускоряет изменения на рынке труда в США.

Отчет McKinsey Global Institute отмечает преобразование рабочих мест и переориентацию специалистов на новые профессии из-за внедрения generative AI.
- С 2019 по 2022 год произошло около 8.6 миллионов профессиональных изменений в США, предположительно, к 2030 году таких изменений будет на 12 миллионов больше.
- Момент изменений сопровождает рост сфер здравоохранения, науки, технологий, инженерии и математики (STEM), при уменьшении ролей, связанных с обслуживанием клиентов и офисной работой.
- Спрос на разные профессии формируется не только автоматизацией и generative AI, но и федеральными инвестициями в инфраструктуру, переходом к нулевым выбросам, а также долгосрочными структурными тенденциями.
- Несмотря на изменение карьерного пути многих работников, исследования показывают, что generative AI не уничтожает рабочие места, а, в долгосрочной перспективе, способствует экономическому росту и расширению типов занятости.

https://www.mckinsey.com/mgi/our-research/generative-ai-and-the-future-of-work-in-america

Обучение ruGPT от Сбера на домашнем компе:

https://dzen.ru/a/ZHTfs9pggmVlGC79

GPT-LLM-Trainer полностью автономный fine-tuning LLAMA2

GPT-LLM-Trainer – новый проект, целью которого является упрощение процесса обучения машинного обучения.
Один из уникальных аспектов проекта - автоматическая генерация наборов данных с помощью GPT-4.
Пользователь просто вводит описание своей задачи, а система создает набор данных с нуля, преобразует его в подходящий формат и настраивает модель LLaMA 2. После того, как набор данных создан, система автоматически разделяет его на обучающую и валидационную выборки, дообучает модель и готовит ее к выводу.
Проект помогает подготовить собственную модель от этапа генерации данных до настройки модели и к выводу в работу.

https://github.com/mshumer/gpt-llm-trainer

Злоумышленники выпустили генеративный AI чат-бот "Evil-GPT"

В последнее время стала наблюдаться тенденция к росту использования генеративных моделей AI, которые активно меняют современные технологические сценарии. Однако вместе с позитивными сторонами они предоставляют злоумышленникам новые возможности. Хакер под именем "Amlo" рекламирует вредоносный генеративный AI чат-бот "Evil-GPT" на форумах, позиционируя его как замену "Worm GPT". Продажа таких вредоносных AI инструментов вызывает озабоченность в сообществе по кибербезопасности. Еще с июля наблюдается всплеск постов на темных веб-сайтах, пропагандирующих различные вредоносные модели. Данные инструменты позволяют злоумышленникам автоматизировать процесс отправки ложных писем, усиливая атаки BEC. Пользователь продающий "Evil-GPT" утверждает, что новый AI чат-бот, как и "Worm GPT", написан полностью на Python. Цена "Evil-GPT" составляет всего 10 долларов, что заявитель описывает как "непобедимую" цену.

https://cybersecuritynews-com.cdn.ampproject.org/c/s/cybersecuritynews.com/hackers-released-evil-gpt/?amp

Южнокорейский SK Telecom вложил 100 миллионов долларов в AI-стартап Anthropic

Mобильный оператор Южной Кореи SK Telecom (SKT) инвестировал 100 миллионов долларов в стартап в области искусственного интеллекта Anthropic. SKT планирует сотрудничать с Anthropic для разработки мультиязычной модели большого языка (LLM), адаптированной для мировых телекоммуникационных компаний.

- Учредителями Anthropic стали бывшие лидеры OpenAI.
- С этой стратегической инвестицией SKT входит в конкурентную область генеративного AI.
- Совместно разработанная большая языковая модель будет поддерживать несколько языков, включая английский, корейский, немецкий, японский, арабский и испанский.
- Возможные применения AI в телеком-отрасли включают отраслевое обслуживание клиентов, маркетинг, продажи и интерактивные потребительские приложения.

https://gillettnews.com/news/south-koreas-sk-telecom-invests-100-million-in-ai-startup-anthropic/62795/

Dell представляет новые AI-решения для современных предприятий

Компания Dell Technologies представила новую линейку решений и сервисов, разработанных для помощи предприятиям в интеграции и использовании искусственного интеллекта и машинного обучения.

- Благодаря новым функциям, предприятия смогут легче осуществлять цифровую трансформацию и улучшать бизнес-процессы.
- Новые решения включают алгоритмы искусственного интеллекта, созданные для ускорения интеллектуального анализа данных.
- Компания также предлагает консультационные услуги по стратегии использования данных и искусственного интеллекта.

https://www.jumpstartmag.com/dell-unveils-new-generative-ai-solutions-for-modern-enterprises/

Nvidia представляет новый ИИ-чип GH200

Nvidia анонсировала новый чип GH200, предназначенный для значительного снижения стоимости запуска больших языковых моделей.
GH200, который ускорит масштабирование мировых центров обработки данных, сочетает в себе графический процессор с 141 гигабайтом самой современной памяти и 72-ядерный центральный процессор ARM.
Доступный у дистрибьюторов Nvidia во втором квартале следующего года, GH200 будет иметь больший объем памяти для логических выводов, что позволит разместить более крупные модели ИИ в одной системе.


https://www.cnbc.com/2023/08/08/nvidia-reveals-new-ai-chip-says-cost-of-running-large-language-models-will-drop-significantly-.html