Думаю джунишкам и начинающим пост будет куда полезнее и тем, кто познает азы нейросетевого программирования 😡

Принёс годный пост по ускорению работы и оптимизации самой вашей работы за счёт цепочки запросов к LLM-моделям (неважно, какие модельки: ChatGPT, Claude, Gemini или же LLM-модель компании для определённых нужд).

Как говорил Альтман и Маск, что нейросети теперь наши друзья и с ними надо уживаться и чтобы они были нашими помощниками. Человек, который не интересуется ИИ, в будущем хапнет охапку проблем с работой.

Я кратко расскажу об этом способе ведения проектов, как это помогает конкретно в нашем проекте (у нас две LLM модели, одна наша, другая модель уже сторонняя, и мы платим денежки за нее). Одна модель суммирует все сообщения у команды поддержки, другая модель отвечает за коммуникацию между бэкендом и клиентом, без использования стороннего человека для информирования. Поскольку мне нельзя палить мой проект, то я расскажу на примере «Такси», как это устроено.

Пример №1:

LLM модель получает от юзера вопрос: «Машина опаздывает, что делать?», если проект грамотный и имеет свою модель или же грамотно построенное взаимодействие со сторонней LLM, то будет взаимодействие с цепочкой.

1. LLM определяет проблему
- Суть проблемы из запроса: "Моя машина опаздывает, что делать?."

{ "проблема": "опоздание машины у клиента", "действие": "уточнить статус заказика" }

2. Далее LLM обращается к API бэкенда с запросом
- LLM, на основе проблемки, генерирует запрос к API для получения текущего статуса заказа:

{ "номер_заказа": "212121", "действие": "получить статус" }

Как бы это выглядело на нормальном примере:

GET /api/v1/orders/status?order_id=12345

3. Бэкенд вернёт данные о статусе заказа, а именно ЕТА до клиента:

{ "статус": "Водитель задерживается", "ETA": "10 минут", "водитель": "Иван Иванов" }

4. Далее по цепочке LLM должна верно сформировать ответ для клиента по заданному промту, либо же для поддержки, которая будет видеть сразу готовый ответ

Уважаемый клиент, ваш водитель NAME_DRIVER задерживается. Ожидаемое время прибытия: ETA. Приносим извинения за неудобства.

Это по сути корректная и конечная цепочка первичного взаимодействия LLM to Clients, но можно разработать кучу цепей, которые могут дать быструю инфо для клиента от API
1. LLM может дать альтернативные решения для сотрудника поддержки или же клиента, т.к. цепи настраиваемые и масштабируемые.
— Связаться с водителем, если ЕТА > 10% задержки по заданному ЕТА.
— Сообщить клиенту, если ЕТА > 15% задержки по заданному ЕТА, что он может отменить заказ или подождать.

Конечно же на цепи нельзя кидать все взаимодействия, ибо цепи это конкретные инструкции для модели, а не рекомендации. Если сделана цепь, то LLM модель придерживается строго этой цепи.

ЧО это вообще за Цепочки такие 🐈‍⬛ — это метод, который позволяет разбивать сложные задачи для ИИ на несколько этапов.

С помощью цепей можно строить целые проекты, как я это делаю, разбивая задачи на цепочки конкретных подзадач (я так написал несколько ботов на Python, API для парсинга картинок из чатов и отображение на Фронте). Мне, конечно же, проще, ибо если знаешь один язык программирования, то другие будешь знать поверхностно, но разбираться приходится в 80% случаев самому, путём гуглежки, что пока очень геморно.

Джунам вообще данный метод - это кладезь знаний. Катюша поднимала тему пет-проектов в этом паблике, что они помогли трудоустроится и в целом я тоже придерживаюсь такого мнения, ибо у меня много знакомых, которые благодаря пет-проектам нашли работу. Цепи могут структурировать сложные задачи, сильно ускоряют разработОчку пет-проектов ©

#StudyPost

Готовишься к Frontend или Backend собеседованию?

Разбираем для тебя самые актуальные вопросы для подготовки

Выбирай свое направление:

👩‍💻 Frontend
👩‍💻 Python
👩‍💻 Go
👩‍💻 Java
👩‍💻 C/C++
👩‍💻 C#
👩‍💻 PHP

А ну все бегом на завод!!!😎
©

Устал от монотонной работы и хочешь взбодриться? Мы знаем, что тебе нужно и готовы поделиться своей энергией с тобой!

Подписывайся на лучшие IT-каналы и получай порцию отличного настроения каждый день:

🦥 @Lazy_Programmer_channel
💻 @our_computer
🐧 @Linux_Club_nomer_1
📓 @Programmirovanie_1
🎬 @videos_it
🖥 @codebase_frontend
🐞 @LazyTester777
🖼️ @LazyDevOps777
🔒 @LazySecurity777

У нас ты найдешь мощную дозу юмора и креативных шуток!
P.S. Ну, а если ты не устал, то для тебя у нас найдутся:

✅ Видеоуроки, книги и курсы
✅ Статьи и лекции от экспертов в IT
✅ Секретные шпаргалки и полезные советы

✍️ Делитесь с коллегами и друзьями. Сохраняйте себе, чтобы не потерять!