Попытался восстановить промпт Gemini, а если точнее, её рассуждений перед финальным ответом.

Не сказал бы, что рассуждения идеальны, но вектор точно верный.

Как же хочется выжать хоть из какого-то решения максимум для своих задач.

На днях вышла Qwen3-Embedding-0.6B,
Весит 1.2 Гб

Решил сравнить её с топовой моделью для русского языка: FRIDA
Весит 3 Гб

Сравнивал на своем датасете из юридический, банковских, законодательных статьях.

Результат интересен, хоть и выборка не очень большая.

Единственное ограничение - Qwen показывает хорошие результаты только с flash_attention_2, а его не на каждую машину получится поставить

Правильно говорят, чем больше данных, тем точнее ответ.
FRIDA всё же ТОП для своего размера в RU сегменте.

Зря хайпанул)

https://www.youtube.com/live/0_DjDdfqtUE
Трансляция APPLE по своим продуктам. Потенциально должны представить собственную LLM.
Может быть интересно.

Ставлю на то, что бесполезно)

А вот это интересно. Чего, а вот настолько "open Source" от Apple никто не ожидал.

Моя, в определенном смысле гордость.
Скрипт для выгрузки проекта в единый markdown файл.
Чем это полезно?

- Ты можешь собрать весь свой проект и грузануть в любую LLM которая поможет тебе в нем разобраться и завайбкодиться по самые уши.

Так же можно использовать и для других проектов, в которых нужно разобраться.

Вряд ли это из "Simple", но это безумно полезно

https://github.com/nikitaCodeSave/save_project_for_vibe/blob/main/create_all_repo_md.py

В продолжение к исходному Двухступенчатому RAG,
Который рассмотрели в прошлый раз, написал чуть обновленную версию уже с полноценной логикой гибридного поиска.
Разница в том, что результаты векторного и полнотекстового поиска определяются параллельно, на выбор по двум логикам:
RRF фокус на ранги(места в топе) по двум подходам и определяет итоговый top_k чанков.

Взвешенное суммирование расстояний(преобразованных) - суммируются Скоры по каждому поиску и ранжируется уже исходя из финального скора.

Всё так же много комментариев, пояснений.
Размещен в соседней ветке, так что можно прыгать от базовой версии к гибриду.

GitHub

Сегодня выйдет o3 pro.

Будем тыкать с удовольствием.
Нужно только придумать под какие задачи)

Очередное обновление промпта для агентов в IDE, попытка найти тот самый, чтоб агент помогал решать проблемы, а не создавал новые)

Новый подход с отсылками на топовые модели и общие, но важные правила.
В целом, выглядит, как плакат в опенспейсе)

GitHub

Пу-пу-пу, Приятности)

Сегодня завершились все круги ада по повышению Грейда на работе.
Вроде бы я рад, но утверждение данного повышения, внимание(!!!), 3 месяца.

Эх бюрократия бюрократичная)

Надеюсь, что в канале есть весомая часть действительно далеких от глубин AI и со стороны наблюдающих.

Есть популярное в медиа мнение, что AI могут заменить работников, перестроить экономику и избавиться от слоев профессий.

Я понимаю из-за чего появляются такие новости, и как влияют кликбейтные новости на людей.
Но задница моя горит и ничего с этим не поделать.

Система мульти-агентов, которые совершают взаимодействие между моделями и совершают рабочие сценарии в роли каких-либо работников - по факту, в данный момент миф.
Огромное количество компаний автоматизирует бизнес процессы, но основная цель этой автоматизации - повысить производительность отделов, но никак не заменить.
Всё, что пытается заменить человека в b2b сфере идет в ногу с потерей стабильности и качества. Люди всё так же нужны и будут нужны в любой профессии, только лишь появляются новые инструменты для повышения КПД деятельности.

Такое развитие технологий усложняет ли поиск работы ?
Вероятно - да. Нужно набираться навыков взаимодействия с этой технологией и изучить на базовом уровне, как работать и увеличивать свою продуктивность.
Но не более того.
Из любопытного:
Разработка автоматизации решений конкретного бизнеса под замену отделов сотрудников будет стоить многих годовых расходов на "людей" и не со 100% вероятностью будет успех.
Да и такие попытки могут себе позволить только мировые гиганты.
Как правило, мы не работаем в таких компаниях, хоть и очень хочется)

То, с какими проблемами встречаются разработчики, пытаясь применить новые технологии - это кринж и смех, так что делите на 100 всё, что читаете в новостях.

Очень часто в локальных моделях возникают проблемы при генерации. Модель может переключиться на другой язык, как правило китайский.

Данная проблема кажется логичной, так как в обучающем датасете китайских моделей действительно много локальных данных.

Но подобной подставы от GPT o3-pro Я точно не ожидал)

#meme
Будьте осторожны)

Я бы хотел поделиться мнением о инструменте Codex от OpenAI, который доступен по подписке 200$.

Предупреждаю, что это только моё мнение.

К сожалению это абсолютно сырой инструмент, ровно как и Operator
Основные проблемы:

Абсолютно тупорылая система по работе с кодовой базой.
В общем то этим страдают все "полного" цикла агенты, Replit. Claude, Codex и остальные.
Если у вас проект уже хотя бы на несколько файлов и вы понимаете, что вам нужно, это чуть больше, чем однозадачник с бесполезным функционалом - вы провалитесь и утонете в дебагинге.

Недавно появилась возможность решать задачу в 4 потока и импрувить то, что больше похоже на решение.
НО - это создает в 4 раза больше бесполезного кода и, как правило, не решающего основную задачу.

Как уже обсуждалось в некоторых чатах - Сейчас эпоха, когда мы за деньги от подписок выступаем в роли тестеров продуктов.
В данном случае - за 200$ в месяц.

Так же в подписке есть модель o3-pro, которая долго ( 6-20 минут) размышляет над вашей задачей и дает ответ.
Я не знаю, каким нужно быть гуру промптинга( а себя я считаю вполне в теме), чтоб он ответил лучше, чем та же модель o3 без минутных рассуждений.
Ты тупо ждешь и потом сожалеешь о потраченом времени.

Либо я искренне не понимаю, как результативно использовать этот функционал за 200 баксов эффективно, либо это действительно безумно сыро.

Я трачу 40 долларов на VSCode Copilot и он отрабатывает эти деньги,
ДА, много проблем и отклонений от инструкций.
ДА, бывает откровенно мусорный код, каким бы не был промт,
НО за 40 долларов - это окей, так как есть крайне полезные решения и мои навыка аппаются в соизмеримом размере.

Собственно мой отзыв о подписке OpenAI за 200 баксов в месяц таков.

Я не могу понять, за что я отдал уже 600 американских денег. И не знаю, ждать апдейта или вернуться на старый тариф за 20.

Ребят, У вас есть успешные кейсы с использованием Codex?