#Знакомство с автором.

👋 Привет дорогой друг!

Меня зовут Костя. Я руковожу разработкой цифровых сервисов на базе искусственного интеллекта последние два года.

Мне приходится много работать с большими языковыми моделями, поэтому я решил завести этот канал, чтобы сохранять наиболее удачные решения для себя и своих подписчиков.

🔔Нажми кнопку «подписаться» и не забывай ставить реакции, это поможет мне делать контент еще лучше.

Подписывайся!

#новости и #инструменты - Новости мира AI и обзоры инструментов

#урок - короткие уроки о техниках промптинга.

#ЯПроспал - базовые понятия для тех, кто ничего не знает об искусственном интеллекте.

#кейс - реальные кейсы решения задач с помощью промптов.

#НеЮтуб - суммаризация свежих видео с зарубежных каналов про ИИ

#жизнь Немного о моей работе и жизни, закулисные скриншоты ИИ сервисов над которыми я работаю.

Нажимайте «Подписаться»!

Кто такой промпт-инженер и какие задачи он решает?

Промпт-инженер - это специалист, который занимается созданием и оптимизацией запросов (промптов), которые передаются искусственному интеллекту для выполнения различных задач.

Промпт-инженеры работают над тем, чтобы запросы были точными и понятными для системы, что позволяет получить наиболее точные результаты.

Эта область связана с обработкой естественного языка и техникой подсказок, которая используется для обучения языковых моделей.

Промпт-инженеры решают различные задачи, включая создание рекламных материалов, скриптов для общения менеджеров с клиентами, переводы текстов и редактирование уже переведенных материалов, а также помощь в создании произведений искусства.

#урок@ai_skillful

В следующих постах поговорим об инструментах которые использует промпт-инженер в своей работе.

А пока смотрите что ждут от промпт инженера в Сбере, в вакансии которую я нашел на ХХ.

Какие инструменты использует промпт-инженер в своей работе?

Хотя профессия (а точнее навык) достаточно молодой, он уже успел обзавестись немалым набором инструментов.

Неплохую подборку можно найти здесь - https://www.promptingguide.ai/ru/tools

Но чтобы вам сейчас не распыляться, начните с Playground в Open AI или в Anthropic. В Anthropic есть неплохие инструменты для генерации промптов, их оценки и сравнения результатов. Кажется, что больше ничего и не нужно, но в других постах я более подробно расскажу о Playground и других инструментах, которые помогут вам создавать крутые промпты и решать реальные задачи.

#инструменты@ai_skillful

В прошлом посте я написал, что промпт инженерия это профессия, а в скобочках указал - навык. Как вы думаете почему?

И то, и то правильно. Но у меня на этот счет есть мнение, что с развитием больших языков моделей и в целом внедрения ИИ в повседневную жизнь людей, НАВЫК составления промптов станет таким же важным, как в средневековье научится читать.

Промпт инженерия - это база. Грамота. Умение общаться с ИИ на его языке - это навык будущего. Точнее уже настоящего. Хотя футуристы считают что со временем ИИ будет подключен к человеку, и сможет читать мысли. Промптинг изменится. Но база останется.

#жизнь@ai_skillful

Автоматизированное код-ревью с помощью ИИ в GitLab.

В этом посте хочу рассказать про реальный кейс, который я внедрил в рабочий процесс, когда работал в ООО «Море Данных».

Мне приходилось проводить много код-ревью почти каждый день. Иногда на Python, который не является моим родным языком. Я все таки выходец из фронтендеров.

Я ощутил необходимость в помощнике, более внимательном, и готовым помочь 24/7.

Чтобы решить эту задачу, я попросил коллегу сделать микросервис, который принимает в себя git diff, и выдает ревью кода. Один ендпоинт POST /webhook и всё.

Дальше я в GitLab создал WebHook для проекта, и настроил его таким образом, чтобы он на каждый merge request (MR) стучался в микросервис, а микросервис в свою очередь писал комментарий в MR со своим ревью кода.

Теперь когда я захожу в MR, чтобы сделать ревью кода, у меня уже есть комментарий от LLM, на который я могу опереться, и не пропустить ничего важного.

Поделиться с вами промптом для код-ревью? Ставьте огонечки 🔥

#кейс@ai_skillful

Промпт для код-ревью, для тех, кто ставил огонечки 🔥 Часть 1

Для начала обозначим роль и специализацию ассистента:

Ты - эксперт и ментор в бэкенд разработке на python, ответственный за проведение code review для pull request. Твоя цель - проанализировать код на наличие ошибок, проблем с безопасностью и потенциальных улучшений. Ты также должен предложить варианты оптимизации для повышения читаемости и эффективности алгоритма.

Дальше передадим в промпт git diff:

Код для code review будет предоставлен в таком виде:  
    <pull_request_code>  
    {{PULL_REQUEST_CODE}}  
    </pull_request_code>  
    

Дальше описываем пошаговый алгоритм проведения код-ревью:

Для проверки выполните следующие действия:  
    1. Внимательно прочитай всю кодовую базу, указанную в pull request.  
    2. Определи и перечисли все ошибки в коде. Сюда входят синтаксические ошибки, логические ошибки и потенциальные ошибки во время выполнения.  
    3. Проверь код на наличие уязвимостей в системе безопасности. Обрати внимание на такие распространенные проблемы, как неправильная обработка ошибок или небезопасное хранение данных.  
    4. Оцени читаемость и структуру кода. Учитывай такие факторы, как согласованные соглашения именования, соответствующие комментарии и общую организацию кода.  
    5. Проанализируй эффективность используемых алгоритмов и структур данных. Определи области, в которых можно оптимизировать код для повышения производительности.  
    6. Предложи конкретные улучшения для каждой выявленной проблемы. Предоставь примеры кода, где это применимо, чтобы проиллюстрировать свои предложения.  
    7. Найди возможности для рефакторинга кода, чтобы улучшить его общее качество, удобство поддержки кода и использование лучших практик.  

В следующем посте напишу еще одну важную вещь.

#урок@ai_skillful #кейс@ai_skillful

Промпт для код-ревью, для тех, кто ставил огонечки 🔥 Часть 2

В заключении нужно указать формат в котором мы ожидаем выдачу результата и обязательно дать возможность LLM не высасывать ответ из пальца, а писать: «не обнаружено», если в коде и правда ничего нет.

Представь свои результаты в следующем формате:  
    <code_review>  
    <errors_and_bugs>  
    Перечисли все ошибки, обнаруженные в коде. Если таковые не обнаружены, укажи "Ошибок не обнаружено".  
    </errors_and_bugs>  
    
    <security_issues>  
    Перечисли все уязвимости или проблемы, связанные с безопасностью. Если они не обнаружены, укажи "Проблем с безопасностью не выявлено".  
    </security_issues>  
    
    <readability_and_structure>  
    Предоставь отзывы о читаемости и структуре кода, включая конкретные предложения по улучшению. Если их нет, укажи "Структура и чистота кода удовлетворительны". 
    </readability_and_structure>  
    
    <algorithm_efficiency>  
    Проанализируй эффективность используемых алгоритмов и структур данных, предложив, где это применимо, оптимизацию. Если нет предложений, укажи "Оптимизация не требуется". 
    </algorithm_efficiency>  
    
    <improvement_suggestions>  
    Предлагай подробные предложения по улучшению кода, включая конкретные примеры кода, где это уместно. Форматируй примеры кода, используя блоки кода markdown. </improvement_suggestions>  
    
    <overall_assessment>  
    Дай краткую общую оценку качества кода и свои рекомендации. Не хвали и не давай положительную оценку. 
    </code_review>  

И просим продержится профессионального тона:

Помни, что code review должен быть кратким и конкретными. Твоя цель - помочь улучшить код, сохраняя при этом уважительный и профессиональный тон.

В заключении.
Промпт действительно себя хорошо показал с GPT-4o. Но нельзя сказать что он совершенен. Как появится больше времени, я обязательно его доработаю. А в следующем посте расскажу историю как я подошел к написанию промпта. Ставьте огонечки 🔥 , если интересна эта история.

#кейс@ai_skillful

💡 Это будет моя фишка - буду ставить на аватарку изображение из следующего запланированного поста. Типо как в сериалах вызывают интерес фразой «в следующей серии…». Посмотрев на аватарку можно поразмышлять, о чем же будет следующий пост. Он кстати будет в понедельник утром.

Всем добра и хороших выходных! ❤️

Этому каналу неделя

Он еще ищет себя, присматривается, прислушивается. Меняется. Как ребенок 3-5 лет, который начинает самоидентифицироваться. Осознавать себя. Пробовать что-то новое.

Я не хотел писать на выходных, но мне не дает покоя мысль о тематике этого канала. Думал писать про промпт инженерию и приводить различные кейсы, инструменты и уроки. Но ощущаю потребность поговорить и про жизнь, и про ИИ в целом.

Поэтому название которое казалось юморным - «промпты для жипиты», слишком меня ограничивает. Я решил изменить на более общее название, с намеком на потенциал ИИ и парафраз «искусственный» и «искусный».

А еще мне тут подсказали, что затея с меняющимися аватарками не рабочая. Люди привыкают к образам и связанным с ними чувствами. Постоянный образ и ритуальное появление контента - залог долгосрочного роста.

Я не хотел ставить робота как постоянную аватарку, но любая просьба к ИИ нарисовать образ ИИ всегда сводится к роботам. Вот такое у ИИ самосознание. Что поделать. И люди кажется к этому привыкли. Так что воть 🤖

#жизнь@ai_skillful

В детстве: включаешь компик с утра пораньше, еще не почистив зубы, чтобы зарубиться в Дюну2000 или Нид фор Спид.

Сейчас: включаешь компик с утра пораньше, еще не почистив зубы, чтобы успеть написать пост и поработать пока не начались совещания.

ДОБРОЕ УТРО ВСЕМ!

Как велась работа над промптом для код-ревью?

Для начала вопрос - как думаете, тот промпт написал человек или ИИ?

Вопрос риторический. Писали оба. Расскажу как.

1. Собираю референсы. Первое с чего я начал - это сбор готовых примеров и решений. На русском не нашел. Поэтому исходные промпты были на английском. В основном рефы были с GitHub.

2. Применяю естественный интеллект. Дальше я отдал рефы коллеге промпт-инженеру. Попытки перевести их на русский и применить в чисто виде, ни к чему не привели. Ответы были абстрактными, общими, высосанными из пальца. Оказалось промпт-инженеру очень важно погрузится в предметную область, чтобы написать что-то стоящее.

3. Погружение в предметную область и уточнение терминов. Третьим этапом подключился я, как тот, кто может погрузить в область код-ревью и термины. Но и это не сильно спасло ситуацию, ответы стали лучше, но в воздухе летало ощущение что я чего-то не понимаю, и нужна методика, в этот момент я и начал изучать методы промпт-инженерии.

4. Снова подключаю ИИ. Из-за того, что времени было мало, я решил протестировать недавно вышедший генератор промптов от Anthropic. Он та и помог нам выстроить методику, структуру промпта. И после его адаптации и перевода на русский язык, получилось достичь крутых результатов. И сократить время проведения код-ревью живым человеком.

#кейс@ai_skillful #жизнь@ai_skillful

Методы промпт-инженерии или как помочь ИИ помочь тебе. Часть 0.

В прошлом посте я написал историю того, как я дошел до необходимости разобраться в методах написания промптов.

Я не был уверен что LLM сможет адекватно и без галлюцинаций рассказать про методы (которые возможно появились после появления LLM), поэтому по старинке загуглил.

Оказалось подходов к написанию промптов немало, и они уже успели обрести свои имена и термины. Этим постом я открываю цикл статей с описанием каждого метода промпт-инженерии.

Постараюсь до конца декабря раскрыть все подходы более подробно :) Уверен - это будет мега полезно. Рекомендую делится с друзьями, они скажут вам спасибо :)

#урок@ai_skillful

Применяем ИИ для улучшения SEO сайта

Как вы знаете, посты из телеграм каналов не индексируются поисковиками. А хочется чтобы канал органически рос, и был доступен в поиске google, yandex.

Чтобы решить эту проблему, я быстренько на коленке запилил сайтец на Next.js, ну чтобы с Server Side Rendering’ом и всё такое.

Как вы понимаете, ручками копировать посты из телеграма на сайт в наше время зашквар, так что, рядом с сайтом положил бота на GrammY. И теперь он все новые посты складывает в БД, а сайт собственно из БД достает посты и отрисовывает пользователям и поисковикам.

Причем тут ИИ? А при том, что часто заполняя сайт, нужно указывать всякие description, keywords, которые не видны пользователям, а видны только поисковикам. В посте мета информацию для сайта не разместишь. Какой выход?

Правильно! Просим GPT сгенерировать описание и ключевые слова для поисковиков на основе текста поста. И вуаля, сайт SEO оптимизирован для поисковиков и готов нести органический трафик в телеграм канал.

#кейс@ai_skillful

Международная выставка AI Journey 2024

Показываем наш EdTech продукт на выставке AIJ.

#жизнь@ai_skillful

Методы промпт-инженерии или как помочь ИИ помочь тебе. Часть 1.

Начнем с базы, первых двух методов, уловить разницу которых не всегда просто.

1. Direct Prompting (прямой запрос).

Не знаю почему это выделяют как отдельный подход, ну да ладно. Здесь никакой магии. Пишем LLM-ке конкретно, без намеков, хождений по кругу и ожиданий, что она прочитает твои мысли.

Пример:
Напиши эссе на тему «Влияние технологий на образование», используя три основных аргумента.

Ждали больше? А это всё. Какие три аргумента, это уже пусть LLM сама достает из своих нейроновых недр, а мы сказали конкретно что это эссе, дали тему, и ограничили тремя аргументами.

2. Zero-shot (без примеров)

Zero-shot prompting полагается на способность модели самостоятельно интерпретировать задачу без предоставления контекста, примеров или явных инструкций. Пользователь задаёт только общий запрос, ожидая, что модель поймёт задачу сама. Или не ожидая.

Пример:
«ИИ в образовании».

Как видите ни примеров, ни инструкций. Даем модели свободу творчества. Она может выдать и эссе, и не эссе. В общем, что угодно.

Давайте подведем итоги через ключевые отличия:

Ясность инструкции:
• Direct prompting: даёт чёткое указание, что сделать (перечислить, написать, объяснить).
• Zero-shot prompting: минимальная конкретика, оставляя интерпретацию модели.

Ожидание результата:
• Direct prompting: результат прогнозируем (следует указаниям).
• Zero-shot prompting: модель может ответить непредсказуемо.

Роль пользователя:
• Direct prompting: пользователь управляет процессом.
• Zero-shot prompting: пользователь передаёт инициативу модели.