Всем привет! Я сегодня с материалом, который мне было очень радостно составлять, и, который, как я надеюсь, окажется кому-то полезным. В нём собраны не иначе как выстраданные мной методы кодинга с нейросетями, он же вайб-кодинг, он же AI-assisted кодинг (хотя в нашем случае AI, конечно, не ассистент, а ломовая лошадь).
Постаралась описать подход, которого я НЕ придерживалась когда делала бота, но стала придерживаться сейчас и видеть, насколько проще и радостнее удаётся что-то сделать. Сделать что-то, очень похожее на полноценные продукты.

Интересно, что у Валентина Микляева вчера вышел пост прямо в руку — Валентин рассуждал о том, что вайб-кодинг не убьёт толково организованную продуктовую разработку, потому что для создания продуктов нужно решать много дополнительных «бизнесовых» задач. Подход, который я предлагаю в этой материале, в принципе воспринял бизнесовые практики: при создании даже самой простой программы нужно следовать этапам жизненного цикла продукта. Это эффективнее, сильно упрощает жизнь и застрахует от выгорания и отвращения ко всему этому кодингу с нейронками.
Моё мнение в целом таково, что вайб-кодинг не должен быть про заработок в прямом смысле (навайбкодил штуку — коммерциализирую его). Он про что-то другое, про помощь себе, сообществу или для pet-проектов для души с не очень высокой степенью ответственности за результат. Что-то серьёзное нужно делать с нормальными девелоперами либо, если вы достаточно амбициозны, придётся преодолевать гораздо больше препятствий, чем просто «я устал дебажить» (и Валентин в посте даёт очень хорошие подсказки, о чём нужно подумать в первую очередь, если вы вайб-кодинге увидели золотую жилу).

Возвращаясь к этой моей методичке-мануалу-or whatever you call it: я буду рада вашей обратной связи, как и о ваших идеях, как можно еще улучшить предлагаемый метод, или рассказам, как вы, возможно, интегрировали в свои практики то, что я предлагаю, и что у вас поэтому получилось. Отличных выходных!)

Софья Смирнова опубликовала на своём канале хороший обзорный материал об ограничениях применения нейросетей в юридической работе. Мне очень нравится такой формат: во-первых, многобукав, которые телеграмная сокращалка не сократит, с одной стороны написано очень доступно для новичков в ИИ — тех, кто уже что-то попробовал и, возможно, очаровался или разочаровался, но не понимает почему. Информированность об ограничениях технологии очень помогает правильно её использовать. С другой стороны, текст достаточно детальный, фактически точный и аргументированный, с разных углов comprehensively рассматривает проблематику — то есть опытным пользователям тоже может помочь всё собрать в голове.

Короче, материал я похвалила и читать советую, но добавлю свои 15 копеек про RAG. Ему в материале достаточно много внимания уделяется именно с ракурса «почему это не панацея». Я была и продолжаю быть убежденной в том, что это перспективная технология для юристов, особенно вписанная в агентские архитектуры, но вокруг неё складываются всякие мисконцепции и недооценки масштаба работы, которые нужно вести для поддержания эффективности системы. То есть буквально можно услышать «да почему они просто не сделают RAG по всему российскому законодательству???»

Работа там нужна и инженерно-архитектурная, но в первую очередь — работа с данными. Нормальный RAG — это очень много работы с данными. И предварительной (тактика чанкинга, структурирования и иерархирования, суммаризация, метадатирование), и последующий полноценный knowledge management.
Можно за всё вышеперечисленное не заморачиваться и быстро собрать себе свой персональный RAG из того, что было под рукой или выкачалось из К+ средствами типа гугловского File Search. Но из такого подхода получается так называемый «наивный» RAG (это не я придумала его так обзывать). О его проблемах я много писала в #rise_of_RAG, и в конечном счете это не устойчивая и не работающая на вас «вдолгую» система. Со временем начнёт разочаровывать, и через любой значимый промежуток времени будет тяжело разбираться, какой именно кусок данных устарел и как его выкорчевать и заменить.
И есть ещё всякие слабые стороны даже в моменте — сложно простраивать длинные ресечерские цепочки, так как ретриверы не знают контекста предыдущих итераций (а юридический анализ именно итеративный: что-то нашли, обдумали, пошли копать глубже / шире, ещё обдумали — покопали на другом участке и так далее). В общем с беспорядочной структурой инпута получается если и не ерунда, то и ничего особенно ценного в аутпуте.

Мне здесь видятся три стратегии развития:
1) community supported databases — энтузиасты на понятном им кусочке разрабатывают и поддерживают open-source базы, которыми делятся друг с другом (мой датасет задуман как таковая);
2) рынок: провайдеры и компании работают над такими базами, держат их как свой актив, зашитый внутри своих ИИ-сервисов для юристов или реализуемый по лицензиям другим сервисам (этим могли бы заниматься СПС);
3) государство: при официальной публикации любых НПА формируется пакет машиночитаемых данных о новом акте или об отменяемых им актах, которые можно было бы легко интегрировать в любые векторные базы и системы. Уполномоченные институты ведут работу по формированию баз актуального законодательства и правоприменительной практики. Sounds like a dream.
Впрочем и первый сценарий тоже — если и будет, то очень точечно и для тех, кто любит позаморачиваться. А второй сценарий уже реализуется, в общем, рыночек и ресурсность уже порешали!

Итого! Спасибо Софье за повод высказаться о том, о чём давно думаю и говорю по разным углам, но не соберу в одном месте. Видите, как серьёзно всё, ни одного эмодзи на пост.
И за материал, конечно, тоже спасибо — читайте и делитесь с коллегами, pdfку приложила.