Разобрался, наконец, с декораторами в питоне! Предыдущие подходы к снаряду заканчивались полным фиаско, спотыкался об эту идею: «Изменяет поведение функции, не меняя ее кода». В итоге попросил у чата gpt самый примитивный пример и все встало на места.
Декоратор просто конструирует некую новую функцию, внутри которой можно что-то сделать, потом вызвать исполнение нашей базовой функции и вдогонку выполнить что-то еще.
В результате, если декорировать функцию, то потом при ее вызове будет выполняться не она сама, а вся эта конструкция, описанная выше.
Декоратор просто конструирует некую новую функцию, внутри которой можно что-то сделать, потом вызвать исполнение нашей базовой функции и вдогонку выполнить что-то еще.
В результате, если декорировать функцию, то потом при ее вызове будет выполняться не она сама, а вся эта конструкция, описанная выше.
😁3👨💻3😱1
Нашел бесплатный аналог GPT-4 Vision у mistral.ai, модель называется Pixtral 12B, доступна по API.
На вход подаем картинку (через url или в base64) и промт, работать удобно через питонячью библиотеку mistralai, на сайте есть хорошие туториалы с анализом диаграмм, парсингом чеков и распознанием рукописи (интересно, рецепт врача осилит?)).
Вытаскивать инфу с изображения можно сразу в json через параметр:
И лучше в промте явно указать какие поля мы в этом джейсоне хотим увидеть.
Но самый кайф, что при регистрации на сайте мистраля проверочная смска отлично пришла на мой российский МТС. Пользуемся)
На вход подаем картинку (через url или в base64) и промт, работать удобно через питонячью библиотеку mistralai, на сайте есть хорошие туториалы с анализом диаграмм, парсингом чеков и распознанием рукописи (интересно, рецепт врача осилит?)).
Вытаскивать инфу с изображения можно сразу в json через параметр:
response_format = {
"type": "json_object"
}
И лучше в промте явно указать какие поля мы в этом джейсоне хотим увидеть.
Но самый кайф, что при регистрации на сайте мистраля проверочная смска отлично пришла на мой российский МТС. Пользуемся)
😁3
Наткнулся на либу slowapi для настройки рэйт лимита в приложении на FastAPI, подключается под декоратором с адресом пути:
Можно ставить сразу несколько лимитов, например 1/секунду и 60/минуту, чтобы в последний момент минуты не прилетело 60 запросов.
Заодно классное видео про рейт лимитеры как таковые и эту либу в частности.
@app.get("/home")
@limiter.limit("5/minute")
Можно ставить сразу несколько лимитов, например 1/секунду и 60/минуту, чтобы в последний момент минуты не прилетело 60 запросов.
Заодно классное видео про рейт лимитеры как таковые и эту либу в частности.
🔥3❤🔥2😍1
Понадобилось генерить QR-коды, узнал любопытную штуку — в них заложена фича коррекции ошибок при считывании. Код можно испачкать, частично заклеить, но он останется читаемым благодаря избыточным данным, добавленным при генерации (код Рида-Соломона).
Технологию придумали для борьбы с помехами в спутниковой связи, потом использовали для чтения поцарапанных CD-дисков, а теперь применили в QR-кодах. Алгоритм добавляет к данным «страховку» — символы, которые помогают восстановить недостающую информацию. Это как заполнение пропущенных слов в предложении, если есть понятный контекст.
В QR-кодах можно настроить уровень устойчивости к повреждениям — 7, 15, 25 или 35%. Выше защита — больше размер картинки.
Технологию придумали для борьбы с помехами в спутниковой связи, потом использовали для чтения поцарапанных CD-дисков, а теперь применили в QR-кодах. Алгоритм добавляет к данным «страховку» — символы, которые помогают восстановить недостающую информацию. Это как заполнение пропущенных слов в предложении, если есть понятный контекст.
В QR-кодах можно настроить уровень устойчивости к повреждениям — 7, 15, 25 или 35%. Выше защита — больше размер картинки.
👍5
Кирилл Буряков, основатель Doczilla, рассказывал как его поразила девушка из администрации крошечного сельского поселения, которая фигачит локальную нормативку через чатгпт.
Грузит туда региональные и федеральные законы по теме, просит написать регламент по землепользованию для своего села.
Потом, понятно, правит, просит гпт проверить на противоречия. И с первого раза проходит согласование в прокуратуре))
А на снимке слайд из его выступления, топ юзкейсов для LLM в бизнесе по данным Докзиллы.
Если кто в поиске идей — обратите внимание. Подчеркнул то, что мне больше понравилось.
Грузит туда региональные и федеральные законы по теме, просит написать регламент по землепользованию для своего села.
Потом, понятно, правит, просит гпт проверить на противоречия. И с первого раза проходит согласование в прокуратуре))
А на снимке слайд из его выступления, топ юзкейсов для LLM в бизнесе по данным Докзиллы.
Если кто в поиске идей — обратите внимание. Подчеркнул то, что мне больше понравилось.
👍7
На together.ai можно бесплатно дергать по API Flux Shnell (реально быстро генерит картинки всего за 1-4 шага) и Llama 3.2-Vision (понимает картинки на вход). С регистрацией, но без смс 😆
👍4
Как я 750 тысяч сэкономил
Используя связку из поста выше, перезапустил свой канал про изучение английских слов через картинки @words_and_pics
Взял 1,5 тысячи слов уровня В1 и В2, через апишку Лламы нагенерил карточки с примерами использования, а Flux нарисовал мне картинки.
Единственное, пришлось заниматься черри-пикингом, настроил бота, который шлет мне картинку, слово и две кнопки — Ок и Переделай. Удачные попадания в нужный образ примерно 1:10, с некоторыми понятиями пришлось попотеть 😆
Чуть позже поделюсь кодом, вдруг кому тоже пригодится в фоновом режиме так себе контент подбирать. А 750 тысяч это если руками рисовать, рублей по 500 за иллюстрацию, такое себе, конечно 😎
UPD: и применил на аватарке канала читерство с яркой точкой, привлекающей внимание в списке каналов, посмотрю на результат
Используя связку из поста выше, перезапустил свой канал про изучение английских слов через картинки @words_and_pics
Взял 1,5 тысячи слов уровня В1 и В2, через апишку Лламы нагенерил карточки с примерами использования, а Flux нарисовал мне картинки.
Единственное, пришлось заниматься черри-пикингом, настроил бота, который шлет мне картинку, слово и две кнопки — Ок и Переделай. Удачные попадания в нужный образ примерно 1:10, с некоторыми понятиями пришлось попотеть 😆
Чуть позже поделюсь кодом, вдруг кому тоже пригодится в фоновом режиме так себе контент подбирать. А 750 тысяч это если руками рисовать, рублей по 500 за иллюстрацию, такое себе, конечно 😎
UPD: и применил на аватарке канала читерство с яркой точкой, привлекающей внимание в списке каналов, посмотрю на результат
👍1
Наткнулся на два прикольных API-сервиса:
- https://proxyapi.ru/ - прокси-API к моделям от Open AI, Anthropic и Gemini с оплатой в рублях
- https://api-cloud.ru/ - всякое полезное для автоматизации бизнес-задач, апишки к базам налоговой, ГИБДД, Федресурса, Росреестра и т.п.
- https://proxyapi.ru/ - прокси-API к моделям от Open AI, Anthropic и Gemini с оплатой в рублях
- https://api-cloud.ru/ - всякое полезное для автоматизации бизнес-задач, апишки к базам налоговой, ГИБДД, Федресурса, Росреестра и т.п.
👍1
Прикольный способ продвижения: делаешь пяток ботов с одинаковым функционалом и постишь везде SEO-статьи типа «ТОП-10 ботов на тему Х», в котором половина — твои собственные.
👍3
Написал небольшого тг-бота для удобного ведения канала с картинками.
Админы произвольно кидают боту фоточки (можно с подписью), он сохраняет их на диск и постит в случайном порядке в канал по расписанию. Если контент закончился - сигналит об этом админам.
Код на гитхабе, можно забирать в свои проекты: https://github.com/maxbobkov/content-flow-bot
Админы произвольно кидают боту фоточки (можно с подписью), он сохраняет их на диск и постит в случайном порядке в канал по расписанию. Если контент закончился - сигналит об этом админам.
Код на гитхабе, можно забирать в свои проекты: https://github.com/maxbobkov/content-flow-bot
👍1
Про внезапные интерфейсные решения.
Нашел в своем офисе тусу единомышленников, которые любят прогать (днём мы просто банковские клерки). Пилим теперь ботов для корп. мессенджера на базе vk teams.
Встала задача автоматизировать бронирование залов для мероприятий в нашем здании. Прикинул структуру данных и понял, что надо задать юзеру вопросов 15 подряд 😳
В итоге родил такую накликивалку из inline-кнопок, чтобы за один шаг решить пять вопросов, посмотрим как зайдет.
Нашел в своем офисе тусу единомышленников, которые любят прогать (днём мы просто банковские клерки). Пилим теперь ботов для корп. мессенджера на базе vk teams.
Встала задача автоматизировать бронирование залов для мероприятий в нашем здании. Прикинул структуру данных и понял, что надо задать юзеру вопросов 15 подряд 😳
В итоге родил такую накликивалку из inline-кнопок, чтобы за один шаг решить пять вопросов, посмотрим как зайдет.
👍5
QR в куар-кодах это:
Anonymous Quiz
33%
Quick read
5%
Quality recognition
29%
Quick redirect
10%
Query result
24%
Quick response
Прочел статью Стива Йегге о вайб-кодинге и будущем разработки в принципе.
Год назад все восхищались автодополнениями в IDE, это уже древнее прошлое. Как и кодинг через чат. На повестке агенты. Сами читают тикеты, пишут код, тесты, прогоняют написанное, правят баги и все это в цикле до посинения.
Стив считает, что все это шанс для джунов (и инди-разработчиков, возможно?). Пока сеньоры бухтят, что нейронка льет тонны кода, в котором потом не разобраться, джуны осваивают Cursor и Claude Code. Учитывая рост производительности раз в 5 (один разраб может одновременно пасти несколько агентов), для компаний дешевый джун с агентами вполне может представлять интерес. Плюс будут агенты, присматривающие за агентами))
Компаниям нужно срочно закладывать бюджеты на токены ($50-100k на разработчика в год), переквалифицировать команды под управление нейронками и готовиться к миграции разработки в облако (локально сотни агентов параллельно не запустишь).
В целом его прогноз позитивный - движухи и рабочих мест будет больше, написание кода по старинке отомрет из-за медлительности, будем пить кофе и присматривать за зашедшими в тупик ботами)
https://sourcegraph.com/blog/revenge-of-the-junior-developer
Год назад все восхищались автодополнениями в IDE, это уже древнее прошлое. Как и кодинг через чат. На повестке агенты. Сами читают тикеты, пишут код, тесты, прогоняют написанное, правят баги и все это в цикле до посинения.
Стив считает, что все это шанс для джунов (и инди-разработчиков, возможно?). Пока сеньоры бухтят, что нейронка льет тонны кода, в котором потом не разобраться, джуны осваивают Cursor и Claude Code. Учитывая рост производительности раз в 5 (один разраб может одновременно пасти несколько агентов), для компаний дешевый джун с агентами вполне может представлять интерес. Плюс будут агенты, присматривающие за агентами))
Компаниям нужно срочно закладывать бюджеты на токены ($50-100k на разработчика в год), переквалифицировать команды под управление нейронками и готовиться к миграции разработки в облако (локально сотни агентов параллельно не запустишь).
В целом его прогноз позитивный - движухи и рабочих мест будет больше, написание кода по старинке отомрет из-за медлительности, будем пить кофе и присматривать за зашедшими в тупик ботами)
https://sourcegraph.com/blog/revenge-of-the-junior-developer
👍1
Как лечь спать попозже
Загрузку сервака смотрю через прикольную прогу ServerCat, вчера провалился куда-то поглубже в свойства и увидел кроме своих контейнеров еще пяток каких-то странных с названиями вроде angry_babbige и lovely_waves. Причем через
Пошел советоваться с Клодом, тот меня накрутил, что это несанкционированная активность, а через ps я их не вижу, потому что злодеи все так специально настроили))
Океей, делаю бэкап исходников, переустанавливаю сервак, запрещаю вход с паролем, генерю новые ssh-ключи, начинаю билдить заново свои контейнеры и странная хрень появляется с новыми именами.
Плюс не хотят запускаться несколько старых проектов, где я еще не делал requirements.txt, а в докерфайле было написано максимально тупо RUN pip install [библиотека без указания версии], начались конфликты разных либ между собой. Все проклял пока даунгрейдился до подходящих версий.
А потом я вдруг спросил Клода, а не может ли эти левые контейнеры запускать мой traefik, который на одном из проектов стоит вместо nginx? Ну конечно, обрадовался Клод, эти временные контейнеры нужны traefik'у в процессе получения сертификатов от Let's encrypt.
Мораль: requirements.txt - маст хэв)) И надо правильно формулировать вопросы ллмкам)
Загрузку сервака смотрю через прикольную прогу ServerCat, вчера провалился куда-то поглубже в свойства и увидел кроме своих контейнеров еще пяток каких-то странных с названиями вроде angry_babbige и lovely_waves. Причем через
docker ps -a их не видно. Пошел советоваться с Клодом, тот меня накрутил, что это несанкционированная активность, а через ps я их не вижу, потому что злодеи все так специально настроили))
Океей, делаю бэкап исходников, переустанавливаю сервак, запрещаю вход с паролем, генерю новые ssh-ключи, начинаю билдить заново свои контейнеры и странная хрень появляется с новыми именами.
Плюс не хотят запускаться несколько старых проектов, где я еще не делал requirements.txt, а в докерфайле было написано максимально тупо RUN pip install [библиотека без указания версии], начались конфликты разных либ между собой. Все проклял пока даунгрейдился до подходящих версий.
А потом я вдруг спросил Клода, а не может ли эти левые контейнеры запускать мой traefik, который на одном из проектов стоит вместо nginx? Ну конечно, обрадовался Клод, эти временные контейнеры нужны traefik'у в процессе получения сертификатов от Let's encrypt.
Мораль: requirements.txt - маст хэв)) И надо правильно формулировать вопросы ллмкам)
👍5
«Кто не хакал в молодости язык ассемблера, у того нет сердца. Кто делает это взрослым, у того нет мозгов» Джон Мур
👍3
Прочитал свежий гайд от СБЕРа по разработке мультиагентных систем в корпоративной среде и сделал небольшой конспект для широкой публики без глубокого погружения в технические детали (но они есть на страницах 39-64).
Оригинал гайда: https://giga.chat/help/articles/multi-agent-system
Конспект: https://telegra.ph/Razrabotka-i-primenenie-multiagentnyh-sistem-v-korporativnoj-srede-SBER-06-03
Оригинал гайда: https://giga.chat/help/articles/multi-agent-system
Конспект: https://telegra.ph/Razrabotka-i-primenenie-multiagentnyh-sistem-v-korporativnoj-srede-SBER-06-03
1
AI и грабли
* Дело именно в структурированном вводе – если ввод очень похож на файлы конфигурации по сути и по форме (XML, JSON, YAML), то LLM и принимает их за конфигурацию – настройки ее работы.
* Очень любопытно, что этот паттерн-матчинг оказывается сильнее чем специальное обучение на различие system_prompt/user_prompt.
* Тот факт, что это работает для разных моделей – говорит о том, что это не какой-то особенный способ, а скорее общая проблема в текущих методах обучения LLM.
* Очень любопытно, что этот паттерн-матчинг оказывается сильнее чем специальное обучение на различие system_prompt/user_prompt.
* Тот факт, что это работает для разных моделей – говорит о том, что это не какой-то особенный способ, а скорее общая проблема в текущих методах обучения LLM.
Если ваш AI-продукт это обертка над LLM, проверьтесь этим атакующим промптом, в большинстве случаев он успешно вытаскивает системный промпт.
См. первый коммент к оригинальному посту.
См. первый коммент к оригинальному посту.
Был сегодня на выступлении зампреда Совкомбанка, они там ЛЛМки прям в хвост и в гриву! И для них это уже не техническая, а управленческая история.
Купили много мощного железа, накатили опенсорсные дипсик с квеном в полных версиях, прикрутили раг и довольны.
Разработали 5 уровней обучения для сотрудников, условно, в колл-центре достаточно изучить первый из них, другим надо двигаться выше по ступенькам знаний. Мотивируют аналогиями с 90-ми годами, когда не освоил ПК = безнадежно отстал.
Приучают всех юзать ллм для работы с документами по принципу: никто не имеет права поручить задачу человеку, если это может сделать нейронка. Главная инвестиция не в GPU, а в изменение стиля мышления.
Считают по всему банку метрику "ИИ-доход" как добавочный эффект от внедрения в виде фонда оплаты труда, если кодер стал писать в 1.5 раза больше кода с копайлотом, то ИИ-доход это 0,5 от его з/п. Каждое подразделение постоянно генерит и фиксирует идеи как еще можно поднять этот доход в их бизнес-процессах.
Понравился один из кейсов - генерится шпаргался для b2b-продажника о контрагенте, к которому он едет на переговоры: последние события в компании, ситуация в отрасли и т.п., чтобы продажник был в теме и на одном языке говорил.
Прям умнички, звучало очень вдохновляюще.
Купили много мощного железа, накатили опенсорсные дипсик с квеном в полных версиях, прикрутили раг и довольны.
Разработали 5 уровней обучения для сотрудников, условно, в колл-центре достаточно изучить первый из них, другим надо двигаться выше по ступенькам знаний. Мотивируют аналогиями с 90-ми годами, когда не освоил ПК = безнадежно отстал.
Приучают всех юзать ллм для работы с документами по принципу: никто не имеет права поручить задачу человеку, если это может сделать нейронка. Главная инвестиция не в GPU, а в изменение стиля мышления.
Считают по всему банку метрику "ИИ-доход" как добавочный эффект от внедрения в виде фонда оплаты труда, если кодер стал писать в 1.5 раза больше кода с копайлотом, то ИИ-доход это 0,5 от его з/п. Каждое подразделение постоянно генерит и фиксирует идеи как еще можно поднять этот доход в их бизнес-процессах.
Понравился один из кейсов - генерится шпаргался для b2b-продажника о контрагенте, к которому он едет на переговоры: последние события в компании, ситуация в отрасли и т.п., чтобы продажник был в теме и на одном языке говорил.
Прям умнички, звучало очень вдохновляюще.
2👍12