Появился еще один весьма полный ресурс https://github.com/SylphAI-Inc/LLM-engineer-handbook полезных материалов по разработкам с использованием LLM. - Справочник инженера LLM
Обзор
Библиотеки, фреймворки и инструменты
Приложения
Предварительная подготовка
Тонкая настройка
Обслуживание
Оперативное управление
Наборы данных
Показатели
Учебные ресурсы для LLM
Приложения
Агент
Моделирование
Обучение
Тонкая настройка
Основы
Книги
Информационные бюллетени
Автооптимизация
Понимание LLM
Социальные аккаунты и сообщества
Социальные аккаунты
Сообщество

Open AI запустили серию из 12 ежедневных трансляций, в которых в камерном формате планируют рассказывать о… не очень понятно точно о чем, но вероятно об обновлениях и планах на будущее. Вчера был анонсирован выход модели o1 (полной, а не preview), работает быстрее и умнее, работает с картинками (с аудио файлами не работает), уже доступна из Штатов, а скоро по всему миру для платных подписчиков. Также запустили еще более усиленный режим работы - o1 pro (длиннее рассуждения), который доступен по отдельной подписке в $200. Следить можно вот тут или на youtube, впрочем мы все посмотрим и напишем о самом важном и итересном.

Canvas ChatGPT в помощь аналитику: ТЗ по ГОСТу на примере игры «про караваны»

Вчера Open AI презентовали обновленный инструмент Canvas (холст) в ChatGPT, как обещали следим за самым интересным. В Canvas можно писать, редактировать и даже запускать код, и что особенно привлекло наше внимание - редактировать документы. Попробовали новый Canvas как инструмент в помощь системным и бизнес аналитикам для написания технического задания и прочей документации. Обзор с подробностями в этом видео, а основные выводы ниже:

1. Подход особенно полезен на ранней стадии, дает существенное ускорение от фазы у нас есть несколько pdfок и нерасшифрованное интервью с заказчиком до фазы у нас есть черновик ТЗ в работе.
2. Минусы – нет возможности импортировать экспортировать документ, т.е. GPT его предобрабатывает перед тем как поместить на Canvas, а значит по пути мы можем что-то потерять. Т.е. при доработке документов все же придется работать с отдельными разделами и копипастить в финальный документ.
3. Не работают картинки, т.е. вы в режиме работы с Canvas не можете вставить схему в документ. Думаю это временно, но неудобно
4. Пока почему-то не работает голосовой ввод, GPT говорит, что вносит обновления, но на самом деле документ в Canvas не обновляется. Наверное баг, вообще мне очень понравилось обновлять документ голосом

Помните, в начале года было много разговоров про AI агентов-программистов: анонсировали Devin, а потом вслед за ним как грибы стали появляться Devika, ChatDev, SWE-Agent? Хороший пост по первым впечатлениям от релиза Devin у коллеги в канале:

После релиза подписки от OpenAI за $200 баксов, сразу нашлись желающие сделать подписку за $500. Столько берут за Devin - ИИ агента, который должен быть "ещё одним джуном в команде, на которого можно скидывать мелкие задачи". Взаимодействие идёт прямо через Slack или Github, причём за одну подписку доступ даётся сразу всей тиме.

За эти $500, в месяц дают 250 ACU - в лучшем случае это чуть больше 60 часов работы агента. Съесть их можно довольно быстро - Devin может делать несколько задач одновременно, а на отдельную задачу может спокойно уйти 3-5 часов (без гарантии успеха). После того как кредиты закончились, их, разумеется, можно докупать.

Отзывы пользователей так себе - хоть какие-то простые задачи он может делать, но кроме того что на задачи уходит куча времени, у него есть ещё и привычка застревать на середине. Есть и юзеры у которых за $500 Devin смог сделать лишь два изменения в документации.

За неполную неделю после релиза, Devin попал и в небольшой скандал с кибербезопасностью - прямо на стриме популярнейшего стримера Primagen, в Devin нашли неприятную уязвимость. При использовании одной из фич, в ссылке, которую видно в адресной строке браузере, был ключ, позволяющий получить доступ ко всему к чему имеет доступ Devin. То есть, кто угодно кому вы демонстрируете экран мог случайно получить доступ к куче приватной инфы. Вроде мелочь, но сама манера такого обращения с секретами настораживает. Интересно, виноват ли в ошибке сам Devin, или накосячил кто-то из кожаных мешков.

С такими результатами, вопрос, выйдет ли у Cognition, авторов Devin, оправдать свою оценку в два лярда пока у них не закончатся деньги. А ведь конкуренты не спят - Cursor недавно выпустили своего агента - он, конечно, попроще, но и стоит $20 в месяц, плюс это IDE, в которой с AI проще работать совместно. Google на днях тоже запустил превью кодинг агента Jules, основанного на Gemini 2.0. В недрах других бигтех компаний работы тоже явно ведутся.

Несмотря на огромный прогресс в LLM и агентах за последние пару лет, AI всё ещё не может полностью заменить программиста, даже джуна.

@ai_newz

Завтра в 12:00 Михаил Коротеев, заведующий кафедрой искусственного интеллекта в Финансовом университете, прочитает лекцию "Питоном ли единым? Технологический ландшафт ИИ".

Принято считать, что язык программирования Python — главный инструмент машинного обучения и анализа данных. Но так ли это на самом деле? Почему именно он занял такое доминирующее положение в Data Science? И можно ли реализовывать системы ИИ на другом стеке технологий?

Поговорим об инструментальных средствах реализации систем ИИ, их разнообразии и перспективах. Подключайтесь!

Вспомнили старую практику «Парное программирование» и попробовали ее на новый лад с LLM. Раз моделям от OpenAI и Google теперь можно подавать на вход потоковое видео и демонстрировать экран, пусть ломают глаза вместе с нами! «Парное программирование» - это когда два разработчика пишут код вместе смотря на один экран, в идеале сидя рядом перед одним монитором (да-да, что-то доковидное, когда люди ходили в офисы, точнее даже из 20го века). Итак, в этом видео берем задачку с LeetCode, шерим экран и решаем вместе Gemini 2.0 обсуждая голосом. Да, так можно было!

Мои выводы по итогам теста:

1. Прикольно, работает! Можно реально обсуждать свой код и задачу голосом в реальном времени и получить советы и идеи от LLM
2. Задавать вопросы можно на русском, но отвечает Gemini 2.0 только по-английски. После обрыва связи вообще стала отвечать на каком-то сатанинском незнакомом языке, впрочем это я думаю быстро исправят
3. Немного подслеповата, с конкретными ошибками быстрее и надежнее в текстовом режиме закинуть код и ошибку в чат, чем 5 минут что-то уточнять голосом
4. Бесит как модель произносит спец символы «квадратная скобка открывается, кавычка, имя переменной, кавычка, скобка закрывается». Gemini, мы теряем время!

GitHub запустил бесплатный Copilot Free!
Теперь все разработчики могут пользоваться им прямо в VS Code:
• До 2000 автодополнений кода и 50 сообщений в чате в месяц
• Выбор между Claude 3.5 Sonnet и GPT-4o
Чат доступен прямо с дашборда GitHub, а бесплатный доступ для студентов и open-source контрибьюторов остаётся в силе.
Хороший апгрейд для комьюнити в 150+ миллионов разработчиков!
Новость в официальном блоге