How Effective Are Neural Networks for Fixing Security Vulnerabilities

Security vulnerability repair is a difficult task that is in dire need of automation. Two groups of techniques have shown promise:
- large code language models (LLMs) that have been pre-trained on source code for tasks such as code completion, and
- automated program repair (APR) techniques that use deep learning (DL) models to automatically fix software bugs.

Findings:
- Existing LLMs and APR models fix very few Java vulnerabilities. Codex fixes 10.2 (20.4%), the most number of vulnerabilities.
- Fine-tuning with general APR data improves LLMs' vulnerability-fixing capabilities.
- New VJBench reveals that LLMs and APR models fail to fix many CWE types, such as CWE-325 Missing cryptographic step and CWE-444 HTTP request smuggling.
- Codex still fixes 8.3 transformed vulnerabilities, outperforming all the other LLMs and APR models on transformed vulnerabilities.

в MidJourney 5.2 появился Zoomout

⌨️ Реддитор создал идеальный запрос для ChatGPT, который превращает ИИ в гениального промт-инженера.

Отправляете нейронке промт и начинаете отвечать на вопросы, которые ChatGPT задаёт вам. В этот момент он анализирует вашу задачу и одновременно формирует идеальный промт для решения.

Ссылка на промт — тут. Пользуйтесь!

4PDA Community | #AI

🧬 Aria Оперы теперь на Android

Opera Software только что объявила о доступности своего нового веб-браузера с искусственным интеллектом, основанном на #ChatGPT от OpenAI, на Android.

Бесплатный неограниченный доступ к чат-боту Aria в новой Opera могут получить абсолютно все.

🧩 #AINews

Следующим этапом после того как мы отойдем от шока языковых моделей будут "always-on" агенты.

В особняке за $100M в Сан Матео прошел хакатон от AGI House на тему автономных агентов. Мы выжали из него самый сок, специально для вас.

От скептиков вы услышите: "я потратил 10 часов на этот ваш Auto-GPT и ничего, кроме внятно звучащей простыни текста, там нет". Причина такого искажения — в том, что люди смотрят на прошлые эксперименты (в основном, не сильно удачные), но игнорируют то, что строится уже сегодня или будет построено завтра.

Вот что кажется неизбежным в течении ближайших месяцев:

1. Плеяда крайне специализированных агентов со своим собственным инстурментарием. Вместо генерации текста по любому поводу и без — смесь вызова API, детерменированных функций и кода, написания кода и продвинутого промтинга (про это будем говорить на следующем вебинаре в пятницу).

2. Скамота и вчерашние криптотрейдеры, конечно, будут пытаться выжать из вас деньги под соусом агентов. Особенно, если вы хомяк или фонд. Но это не может позитивно или негативно влиять на мощь технологии.

3. Команда из NVIDIA показала Майнкрафт-агента, который прошел игру используя только диалог нескольких агентов (GPT-4 пишет код для автоматизации действий персонажа, GPT-3.5 критикует, в виде Embedding'ов хранится библиотека уже выученных навыков агента). Они называют это agent lifelong learning. Звучит как очень верная архитектура для еще более полезных агентов.

4. Создание агентов часто даже не требует программистов. Один промт для того, чтобы сгенерировать код агента. Второй, третий и вплоть до миллионного — чтобы задать его поведение. У вас не просто будут тысячи агентов, не уступающих человеку-ассистенту в телефоне, вы будете создавать таких сами по необходимости и бесплатно. "Создай мне агента, который напишет всем моим друзьям по поводу планов на выходные, проанализирует ответы, согласует время, забронирует время. А еще — обнови свой код, если кто-то из друзей придумает для тебя новый функционал".

5. Самые популярный кейсы, которые все пилят: медицина (консультация, сбор информации, расшифровка диагноза), юриспруденция (обучение агента на нормах права, корпоративных документах, стандартных процессах), наука (агенты для формулирования и проверки научных гипотез). Ну, не считая, прикладных ассистентов типа "найди инфу в интернете, сравни, купи, напиши текст".

Можно пойти у хомяка рейзить или инфобизнес корпоратам втюхать (кстати, сделаю для вашей компании индивидуальный курс), но можно и вместе пилить/рассуждать/тестировать как будет выглядеть мир, где у каждого в кармане тысяча агентов. Для этого и хотелось сделать codex.town

Unity представила две новые ИИ-платформы: Unity Muse и Unity Sentis.
Unity Muse позволяет разработчикам создавать контент быстрее и без прерывания рабочего процесса.
Unity Sentis позволяет интегрировать нейронные сети в игры на любой платформе.
Unity Muse Chat - функция, позволяющая разработчикам решать проблемы с помощью чата.
Дополнительные функции Unity Muse будут представлены в ближайшие недели.
Unity также запускает новый ИИ-маркетплейс, который станет частью Unity Asset Store.
На ИИ-маркетплейсе будут представлены инструменты от сторонних компаний, включая Leonardo Ai, Modl.ai и Replica Studios.
Unity ожидает, что ИИ-инструменты революционизируют разработку видеоигр, подобно 3D, мобильным технологиям и интернету.

https://www.gamedeveloper.com/business/unity-rolls-out-ai-tools-and-marketplace-for-game-developers

LLM Powered Autonomous Agents

Building agents with LLM as its core controller is a cool concept. Several proof-of-concepts demos, such as AutoGPT, GPT-Engineer and BabyAGI, serve as inspiring examples. The potentiality of LLM extends beyond generating well-written copies, stories, essays and programs; it can be framed as a powerful general problem solver.

- Agent System Overview
- Component One: Planning
Task Decomposition
Self-Reflection
- Component Two: Memory
Types of Memory
Maximum Inner Product Search (MIPS)
- Component Three: Tool Use
- Case Studies
Scientific Discovery Agent
Generative Agents Simulation
Proof-of-Concept Examples
- Challenges
- Citation
- References

Пара свежих GPT поисковиков

https://www.perplexity.ai/
https://www.phind.com/

Sherpa RPA: Как создать робота-продавца на базе ChatGPT

Коллеги, мы продолжаем серию мастер-классов о разработке роботов с применением ChatGPT, промт-инжиниринга, эмбеддингов и других современных умных технологий.

В этом мастер-классе мы подробно покажем процесс создания робота, который умеет общаться с клиентом через Telegram и отвечать на вопросы и по структурированным, и по неструктурированным данным компании. Вебинар будет интересен как представителям бизнеса, так и разработчикам.

В качестве примера сделаем бота-продавца для интернет-магазина смартфонов, который знает ассортимент магазина (включая характеристики и цены товаров) и правила доставки, гарантии, возврата, умеет давать рекомендации по выбору, а также подбирать наилучшие модели смартфонов по совокупности критериев и пожеланий клиента.

Информацию по доставке, возврату, гарантии, а также советы по выбору он будет брать из текстовой базы знаний компании, запрос к которой будет производиться через эмбеддинги, а информацию по характеристикам и ценам товаров он будет добывать из базы данных интернет-магазина, на лету переводя вопросы клиента в SQL-запросы. Также в этом примере мы покажем использование популярного подхода промп-инжиниринга, который называется ReAct, и который является основой такой популярной библиотеки как LangChain. При этом мы не будем пользоваться никакими библиотеками, а сделаем всё сами, и проект получится даже компактнее и понятнее.

https://www.youtube.com/watch?v=H0wtm3zQMC4

Вот ещё вам пачка нейронок для создания контента.

Это и Reels, и тиктоки, видео, музыка, текст и многое другое.

Сохраняй, чтобы не потерять.

GPT-4 ▶️ #Useful

🧬 Про крутейший Adobe Firefly мы уже с вами достаточно знаем. Сейчас я вам расскажу про новую, не менее крутую альтернативу.

Новый ИИ-редактор изображений помимо человеческого интерфейса и встроенной нейронки может:

🟠 Накладывать 3D-модель на фон и делать из этого одну фотку.
🟠 Смешивать два изображения в одно;
🟠 Раскрашивать черно-белые картинки указанным цветом;
🟠 Конвертировать видео в гифки;
🟠 Генерить задний фон как в новом фотошопе;
🟠 Улучшать качество до 2К и 4К.

Found доступен программой на Windows и расширением в Google Chrome, что весьма удобно. Не благодарите.🤷

🧩 #КаталогНейросетей

🧬 Прикольный браузерный #ИскусственныйИнтеллект

Нейросеть Сsm.ai, в отличие от подобных себе, очень проста для понимания пользователем.

На вход загружаем картинку и прописываем промт, а на выходе играемся с полученной 3D-моделью. Дерзайте!

🧩#КаталогНейросетей

Google объявил, что его новый ИИ «затмит» ChatGPT

Сооснователь и генеральный директор принадлежащей бигтеху DeepMind Демис Хассабис (Demis Hassabis) объявил, что его команда разрабатывает новый алгоритм, который превзойдет GPT-4 в скорости обучения, решении проблем и других задачах.

Новинка — модель Gemini — так же, как и GPT-4 представляет собой большую языковую модель, однако в ней будут использованы те же методики, которые применялись в системе DeepMind AlphaGo — ИИ, который обыграл действующего чемпиона мира в настольной игре го.

AlphaGo использует разработанную DeepMind методику reinforced learning: программа учится решать сложные проблемы, которые требуют принимать решения и получать обратную связь об их последствиях.

Она также использует методику «древовидного поиска» для исследования и запоминания возможных ходов, например, на доске для игры в го.

Reinforced learning ранее не применялся для языковых моделей. Ожидается, что такой подход позволит удешевить обучение модели.

Gemini находится на стадии разработки и будет готова через несколько месяцев. По словам Хассабиса, ее стоимость составит от нескольких десятков до сотен миллионов долларов.

#Google #чатботы #ИИ

https://www.wired.com/story/google-deepmind-demis-hassabis-chatgpt/
 

🧬 #ИскусственныйИнтеллект создает (о, ужас!) себе подобных.

Китайские исследователи рассказали, как нейронка делает центральный процессор образца 90-х годов. Менее чем за 5 часов он был готов. Что бы вы понимали: это большой шаг к "Скайнету" саморазвивающимся машинам.
Ученые решили проверить, сможет ли нейронка завершить процесс самостоятельно, ведь на это нужны десятки часов ручного программирования. 🤷 #РоботыВокругНас

🧩 #БудущееУжеНастоящее

AI can now construct 3D scenes based on reflections from the human eye.

The potential implications are both incredible and scary at the same time.

🧬 "Это цунами, заставшее человечество врасплох" - так
легендарный ученый и самый известный скептик ИИ описал, как страшно он ошибался.💥 (Лонгрид)

Дуглас Хофштадтер – именитый физик, автор вычислительных моделей высокоуровневого восприятия и познания, чьим именем названа «петля Хофштадтера-Мебиуса» в продолжении романа Артура Кларка «2001: Космическая одиссея» - «2010: Одиссея 2», чьи книги стали мега-бестселлерами и чьими аспирантами были десятки ставших потом всемирно известными ученых.

А кроме того, он последние 20 лет был самым известным в мире ИИ скептиком, еще в 2006 на первом «саммите по сингулярности» заявившим, что достижение ИИ человеческого уровня вряд ли может произойти в обозримом будущем.

Тем более значимо кардинальное переосмысление Дугласом Хофштадтером перспектив развития ИИ и его влияния на человечество в свете «революции #ChatGPT».

Если не хотите слушать его 37-минутное интервью, прочтите хотя бы несколько ужасающих цитат:

- Прогресс ИИ - это довольно страшно, потому что говорит о том, что всё, во что я раньше верил, отменяется. Я думал, что пройдут сотни лет, прежде чем появится что-то хотя бы отдаленно похожее на человеческий разум;

- Такое ощущение, что вся человеческая раса вот-вот будет превзойдена и оставлена в пыли;

- Ускоряющийся прогресс оказался настолько неожиданным, что застал врасплох не только меня, но и многих людей - возникает некий ужас перед надвигающимся цунами, которое застанет врасплох все человечество;

- #ИскусственныйИнтеллект превращает человечество в очень маленькое явление по сравнению с чем-то гораздо более разумным, чем мы, и ИИ станет для нас непостижимым, как мы для тараканов;

- Очень скоро эти сущности ИИ могут стать более разумными, чем мы, и тогда мы отойдем на второй план. Если бы это происходило в течение длительного времени, например, сотен лет, это было бы нормально, но это происходит в течение нескольких лет.🤷

✨🌙 Вот такая, друзья мои, вам страшилка перед сном. Желаю спокойной ночи и жду комментов!

🧩 #БудущееУжеНастоящее #AINews

Ежемесячный трафик чат-бота ChatGPT впервые с момента запуска сократился, сообщила аналитическая компания Similarweb. Кроме того, снизилось число уникальных пользователей, посещающих сайт сервиса.

В июне мировой трафик сайта ChatGPT упал на 9,7% в сравнении с показателями за май. Число уникальных пользователей уменьшилось на 5,7%. Количество времени, проведённого посетителями на сайте, сократилось на 8,5%.

По мнению аналитиков, снижение трафика свидетельствует о том, что новизна чат-бота иссякает

Inflection AI just created a $880,000,000 AI supercomputer.

The supercomputer is equipped with 22,000 NVIDIA H100 AI GPUs (currently worth ~$40,000 each).

Details:
-Inflection AI has raised $1.5 billion ($4 billion valuation) and anticipates that its new supercomputer will significantly enhance the capabilities of its Inflection-1 model

-The supercomputer will contain 700 four-node racks of Intel Xeon CPUs

-Despite the high demand and scarcity of H100 GPUs, Inflection AI was able to acquire 22,000 units

-NVIDIA, a potential investor in Inflection AI, possibly facilitated the company's access to such a large number of GPUs

-Inflection AI recently raised $1.3B a week ago

Inflection anticipates that through this supercomputer, the AI model "Inflection 1" is expected to improve significantly, especially in coding.

Забавно как меняются прогнозы в зависимости от релизов новых продуктов. То, что эксперты McKinsey предсказывали возможным к концу 2040-х (написание текста не хуже чем человек, эмоциональный интеллект, креативность) в ИИ после выхода GPT-3 вдруг резко стало возможным к 2024-му.