Попробуйте лучшие на сегодня многоязычные модели. Aya Expanse — семейство моделей с открытым весом для многоязычных возможностей; выпускает модель параметров 8B и 32B, включая одну из крупнейших на сегодняшний день коллекций многоязычных наборов данных. Aya Expanse 32B превосходит Gemma 2 27B, Mistral 8x22B и Llama 3.1 70B, модель в 2 раза больше ее. (статья | твит). Русский язык поддерживается.

29го октября вышел пост с итогами третьего квартала 2024го от Сундара Пичаи (CEO Google и Alphabet).

«Today, more than a quarter of all new code at Google is generated by AI, then reviewed and accepted by engineers. This helps our engineers do more and move faster.» Сегодня более четверти нового кода в Google создается искусственным интеллектом, затем проходит code review и принимается инженерами. Судя по информации, которая публиковалась ранее, для генерации кода в Google используют внутреннее решение, созданное посредством дообучения (fine tuning) Gemini на собственном репозитории кода.

Просим обратной связи

Как вы знаете, доктор технических наук В. В. Крылов каждый месяц читает лекции о развитии и применении ИИ на нашем YouTube-канале. Сейчас выбираем тему для следующей, ноябрьской, лекции. Пожалуйста, напишите в комментариях, о чём вы хотели бы узнать, и/или проголосуйте за самую интересную тему ниже.

Владимир Владимирович и вся команда AI4Dev будут рады услышать ваше мнение!

GitHub Next анонсировали запуск AI агента создающего веб приложения - Spark. Подобные заявления мы, конечно, уже слышали десятки раз, но не от таких уважаемых компаний. Заявление гораздо более скромное чем все предыдущие Devinы, Devikи и прочие SWE агенты и в то же время кажется достаточно перспективное. Речь идет не об универсальном агенте, а скорее о платформе для создания мини приложений, которые выполняют буквально одну функцию, например "Карточки для заучивания иностранных слов". В основе концепции 4 главных идеи:

• Встроенный хостинг
• Готовые темы для дизайна
• Наличие хранилища данных
• Возможность встраивать LLM в приложение

Вы набрасываете в чате идею вашего приложения, уточняете в несколько итераций, подстраиваете дизайн и делитесь с друзьями. Залезать в код руками тоже можно, но акцент не на этом.

Те кто застал интернет до социальных сетей возможно вспомнят эпоху так называемых «хомяков» - homepage, т.е. домашних страниц пользователей на проектах типа narod.ru. Кажется, GitHub изобрел что-то подобное, только в 2024м и на новый лад, теперь это HomeApp. Мы, конечно, записались в вейтлист!

Microsoft представляет Magentic-One, новую универсальную многоагентную систему, предназначенную для обработки сложных веб- и файловых задач.

Она использует агент Orchestrator, который управляет четырьмя специализированными агентами: WebSurfer для операций браузера, FileSurfer для управления файлами, Coder для задач программирования и ComputerTerminal для консольных операций.

Magentic-One достигает конкурентоспособной производительности в нескольких тестах, включая GAIA, AssistantBench и WebArena, без необходимости внесения изменений в свою базовую архитектуру.

Созданная на основе фреймворка AutoGen от Microsoft, Magentic-One использует уникальную двухконтурную архитектуру, в которой Orchestrator управляет как задачами, так и регистрами прогресса.

Система имеет открытый исходный код, как и AutoGenBench, новый инструмент оценки для тестирования систем на основе агентов.

Пока еще может рано, но это новое движение по созданию универсальных агентных систем — то, за чем стоит следить. Кроме того, другие текущие приложения на основе LLM, такие как RAG, также выиграют от этого типа системы, которая строится поверх нескольких специализированных агентов.

https://www.microsoft.com/en-us/research/articles/magentic-one-a-generalist-multi-agent-system-for-solving-complex-tasks/

Хорошая новость для тех, кто любит кодить на вершине горы Эверест, в Марианской впадине или из пасти дикого льва в африканской саванне (там, где качество доступа в интернет оставляет желать лучшего). Qwen 2.5.1 Coder 7B!

На днях в сеть (похоже случайно) утекла новая версия модели для программирования от Alibaba, а сегодня ее уже выложили официально. Эта модель весом в 7 миллиардов параметров демонстрирует очень достойные результаты на бенчмарке редактирования кода Aider: всего на несколько процентов отстает от GPT-4-1106-preview (модель от 6 ноября 2023), но работает полностью оффлайн! Находка для тех, кто хочет иметь под рукой мощную языковую модель без необходимости постоянного подключения к сети. Официальная версия тут (там вся линейка новых моделей и полные и 7B в том числе). Утекшая версия тут, но т.к. вышла официальная то смысла в ней особенно нет.

Месяц назад (мы писали) команда Chatbot Arena (ранее LMSYS - платформа соревнований LLM в виде чатов) выпустила плагин copilot для VSCode (один из известных редакторов кода от Microsoft). Внутри плагина встроена арена оценки различных LLM как копайлотов для программирования. Работает это так:

• Пользователь в IDE вызывает плагин чтобы дополнить какой-то кусок кода
• Плагин передает запрос паре случайно выбранных LLM и возвращает два обезличенных ответа
• Затем пользователь “вслепую” выбирают из двух вариантов какой ответ ему больше подходит
• Пользователь получает нужный код (copilot работает бесплатно), а команда LMSYS статистику ответы каких моделей предпочитают разработчики.

Вчера команда Copilot Arena опубликовали первые результаты исследования. Как водится в современном мире ИИ вчерашние результаты уже немного устарели т.к. вчера же вышли новые версии моделей QWEN которые явно претендуют на высокие места в рейтинге написания кода, но по очевидным причинам еще не успели в нем поучаствовать. Тем не менее результаты любопытные, кажется это первое исследование моделей (именно в режиме копайлотов) с более-менее уверенными статистическими показателями и на настоящем коде.

На основе 10000+ запросов к копайлотам (200-250 постоянных пользователей в день в течение месяца) появилась вот такая таблица топ-9ти соревнующихся моделей.

Из интересных подробностей: Чаще всего плагином пользовались питонисты, сильно меньше JS, потом все остальные. Медианный размер запросов с кодом в пять раз больше, чем текстовые запросы на обычной арене - 530 токенов против 100. Остальное в блоге создателей.

https://llmresourceshub.vercel.app/

Здесь есть все, ну почти...

Новые возможности разработки с использованием LLM от Anthropic: Сегодня мы открываем исходный код Model Context Protocol (MCP), нового стандарта для подключения помощников ИИ к системам, где находятся данные, включая репозитории контента, бизнес-инструменты и среды разработки. Его цель — помочь передовым моделям выдавать более качественные и релевантные ответы.

История из жизни для тех, кто ближе к бизнесу, чем к нейропсихологии LLM. Кейс как человек пытается применить LLM с точки зрения развития своего проекта:
Автор небольшого проекта Percentagescalculator " Я немного погуглил и обнаружил, что от 100 000 до 1 миллиона человек ищут Percentage Calculator каждый день. Ссылка номер 1 — это очень простой одностраничный веб-сайт с едва ли каким-либо SEO. У него просто хорошие обратные ссылки.

Так что я немного пообщался с Клодом, мы создали этот веб-сайт за несколько минут (буквально за 10 минут), затем я поискал URL-адреса сайтов с рейтингом номер 1 в Google в кавычках, чтобы найти, где он появляется на других сайтах, и я начал собирать адреса электронной почты владельцев сайтов везде, где он появлялся, и заставлял chatGPT писать убедительные письма, сообщая им о преимуществах моего процентного калькулятора. Я также нашел форумы, где люди обсуждали его, поэтому также рассказал им об этом инструменте. Где бы ни была их ссылка, там будет и моя ссылка.

Клод помог мне создать калькулятор расширений Chrome, который даст мне обратную ссылку на домен Google за 5 долларов (стоимость регистрации разработчика), чего у них нет.

Если я смогу получить хотя бы 10% от этого объема поиска, это будет чертовски много трафика."

Вышло обновление IDE Cursor в котором появились агенты. На приложенном видео агент ловко создает приложение тайм-трекер c бэкендом на Node.js, фронтэндом на чистом JS и даже запускает приложение. Пора пробовать на собственных задачах. На Реддите впрочем, есть жалобы что Composer (мощная фича Cursor, которая позволяет редактировать код сразу в нескольких файлах) в новой версии стал сильно тормозить, разработчики недовольны.

Появился еще один весьма полный ресурс https://github.com/SylphAI-Inc/LLM-engineer-handbook полезных материалов по разработкам с использованием LLM. - Справочник инженера LLM
Обзор
Библиотеки, фреймворки и инструменты
Приложения
Предварительная подготовка
Тонкая настройка
Обслуживание
Оперативное управление
Наборы данных
Показатели
Учебные ресурсы для LLM
Приложения
Агент
Моделирование
Обучение
Тонкая настройка
Основы
Книги
Информационные бюллетени
Автооптимизация
Понимание LLM
Социальные аккаунты и сообщества
Социальные аккаунты
Сообщество