Прикольная мысль, что запросы и ответы больших языковых моделей — это суть универсальный API, разные модельки смогут общаться между собой на естественном языке.

Интересная хрень, я люблю прогать и читать код, но терпеть не могу писать и читать нормативные документы, хотя это одно и то же, по сути.

Отличная статья от Додо про грамотные названия переменных. Особенно понравилось про нарезание предметной области на понятия и составление словарика: https://habr.com/ru/companies/dododev/articles/714512/

Хорошая шутка про то, что OpenAI перестало хватать вычислительных мощностей: product-market overfit

Оч быстрый и универсальный линтер/форматтер для питона: https://astral.sh/ruff

Случайно набрел на потрясную тулзу для мака.

У меня за годы накопилось много книжек в pdf, разобраться в том складе было уже нереально.

Этой штуке можно скормить папку, она за какое-то время просканирует pdf-ки и будет готова интеллектуально искать по ним (использует эмбеддинги, подозреваю). И pdf в виде картинок тоже распознала на ура.

Из сорцов sqlite

Чувак на длинном рейсе написал прогу, позволяющую получить бесплатный доступ в интернет из самолета, используя уязвимость на сайте программы лояльности.

Она отправляет http-запросы через поле имени учетки пассажира, передавая их на наземный компьютер, который уже непосредственно работает с инетом и шлет ответы обратно по тому же каналу: https://robertheaton.com/pyskywifi/

Прикольная стата от Яндекса про потребности юзеров нейросетей, кто что генерит: https://ya.ru/ai/stat

Конечные автоматы

Недавно разбирался с машиной состояний в библиотеке для тг-ботов aiogram (см. FSM) и ушел читать дальше про концепцию конечных автоматов. Математическое определение довольно занудное, но по сути — это способ разбить любой процесс на понятные шаги (состояния) с чёткими правилами переходов от одного к другому.

Например корзина на сайте: сначала она пуста, затем юзер добавляет товары, переходит к оформлению заказа, подтверждает оплату и корзина очищается. Всё это можно описать как последовательные состояния с переходами между ними — так проще управлять логикой приложения и избегать неопределенных ситуаций.

Потрогать руками эту штуку на питоне можно с библиотекой transitions. С ее помощью легко описать все нужные состояния, переходы, триггеры, провоцирующие переход и действия, которые при этом надо совершить.

У них шикарный совершенно quickstart на примере Бэтмена с его состояниями: ['спит', 'тусуется', 'голоден', 'вспотел', 'спасает мир']: https://github.com/pytransitions/transitions?tab=readme-ov-file#quickstart

Разобрался, наконец, с декораторами в питоне! Предыдущие подходы к снаряду заканчивались полным фиаско, спотыкался об эту идею: «Изменяет поведение функции, не меняя ее кода». В итоге попросил у чата gpt самый примитивный пример и все встало на места.

Декоратор просто конструирует некую новую функцию, внутри которой можно что-то сделать, потом вызвать исполнение нашей базовой функции и вдогонку выполнить что-то еще.

В результате, если декорировать функцию, то потом при ее вызове будет выполняться не она сама, а вся эта конструкция, описанная выше.

Нашел бесплатный аналог GPT-4 Vision у mistral.ai, модель называется Pixtral 12B, доступна по API.

На вход подаем картинку (через url или в base64) и промт, работать удобно через питонячью библиотеку mistralai, на сайте есть хорошие туториалы с анализом диаграмм, парсингом чеков и распознанием рукописи (интересно, рецепт врача осилит?)).

Вытаскивать инфу с изображения можно сразу в json через параметр:

response_format = {
"type": "json_object"
}

И лучше в промте явно указать какие поля мы в этом джейсоне хотим увидеть.

Но самый кайф, что при регистрации на сайте мистраля проверочная смска отлично пришла на мой российский МТС. Пользуемся)

Наткнулся на либу slowapi для настройки рэйт лимита в приложении на FastAPI, подключается под декоратором с адресом пути:

@app.get("/home")
@limiter.limit("5/minute")

Можно ставить сразу несколько лимитов, например 1/секунду и 60/минуту, чтобы в последний момент минуты не прилетело 60 запросов.

Заодно классное видео про рейт лимитеры как таковые и эту либу в частности.

Понадобилось генерить QR-коды, узнал любопытную штуку — в них заложена фича коррекции ошибок при считывании. Код можно испачкать, частично заклеить, но он останется читаемым благодаря избыточным данным, добавленным при генерации (код Рида-Соломона).

Технологию придумали для борьбы с помехами в спутниковой связи, потом использовали для чтения поцарапанных CD-дисков, а теперь применили в QR-кодах. Алгоритм добавляет к данным «страховку» — символы, которые помогают восстановить недостающую информацию. Это как заполнение пропущенных слов в предложении, если есть понятный контекст.

В QR-кодах можно настроить уровень устойчивости к повреждениям — 7, 15, 25 или 35%. Выше защита — больше размер картинки.

Кирилл Буряков, основатель Doczilla, рассказывал как его поразила девушка из администрации крошечного сельского поселения, которая фигачит локальную нормативку через чатгпт.

Грузит туда региональные и федеральные законы по теме, просит написать регламент по землепользованию для своего села.

Потом, понятно, правит, просит гпт проверить на противоречия. И с первого раза проходит согласование в прокуратуре))

А на снимке слайд из его выступления, топ юзкейсов для LLM в бизнесе по данным Докзиллы.

Если кто в поиске идей — обратите внимание. Подчеркнул то, что мне больше понравилось.

Заметил паттерн — некоторые боты досыпают тебе внутренней валюты когда шлют какой-то полурекламный пуш.

Анестезия при спаме))

На together.ai можно бесплатно дергать по API Flux Shnell (реально быстро генерит картинки всего за 1-4 шага) и Llama 3.2-Vision (понимает картинки на вход). С регистрацией, но без смс 😆

Как я 750 тысяч сэкономил

Используя связку из поста выше, перезапустил свой канал про изучение английских слов через картинки @words_and_pics

Взял 1,5 тысячи слов уровня В1 и В2, через апишку Лламы нагенерил карточки с примерами использования, а Flux нарисовал мне картинки.

Единственное, пришлось заниматься черри-пикингом, настроил бота, который шлет мне картинку, слово и две кнопки — Ок и Переделай. Удачные попадания в нужный образ примерно 1:10, с некоторыми понятиями пришлось попотеть 😆

Чуть позже поделюсь кодом, вдруг кому тоже пригодится в фоновом режиме так себе контент подбирать. А 750 тысяч это если руками рисовать, рублей по 500 за иллюстрацию, такое себе, конечно 😎

UPD: и применил на аватарке канала читерство с яркой точкой, привлекающей внимание в списке каналов, посмотрю на результат

Наткнулся на два прикольных API-сервиса:
- https://proxyapi.ru/ - прокси-API к моделям от Open AI, Anthropic и Gemini с оплатой в рублях
- https://api-cloud.ru/ - всякое полезное для автоматизации бизнес-задач, апишки к базам налоговой, ГИБДД, Федресурса, Росреестра и т.п.

Прикольный способ продвижения: делаешь пяток ботов с одинаковым функционалом и постишь везде SEO-статьи типа «ТОП-10 ботов на тему Х», в котором половина — твои собственные.

Написал небольшого тг-бота для удобного ведения канала с картинками.

Админы произвольно кидают боту фоточки (можно с подписью), он сохраняет их на диск и постит в случайном порядке в канал по расписанию. Если контент закончился - сигналит об этом админам.

Код на гитхабе, можно забирать в свои проекты: https://github.com/maxbobkov/content-flow-bot