Перевод курса “AI-грамотность” от Anthropic с дополнениями - часть 3

На очереди у нас следующая тема курса от Anthropic - “Делегирование”. Тема интересная и учит не только тому, как именно нам нужно подступиться к решению той или иной задачи с помощью ИИ, но и как понять, нужно ли нам это!

Делегирование включает в себя 3 аспекта: осведомленность о проблеме (что надо сделать), осведомленность о платформе (что может делать ИИ), само делегирование (как именно мы выполняем задачу). Для двух последних аспектов я собрал для вас кучу полезных постов от себя и других авторов, которые пишут про ИИ.

Там есть обзоры сервисов, их сильные и слабые стороны, бест практис, а также кейсы того, как мы с ребятами применяем ИИ для тех или иных задач. Если вам понравился чей-то материал - поддержите автора подпиской!

А этот пост и посты с предыдущими лекциями отправляйте друзьям, сохраняйте себе, публикуйте в своих каналах (если они у вас есть). ИИ-грамотность должна быть доступна каждому 🙂

👉🏻 Содержание лекции с моими дополнениями
🎧 Подкаст в NotebookLM
🔗 Ссылка на подкаст для тех, у кого не работает NotebookLM
✍️ Тетрадка NotebookLM
📄 Переведенные материалы и упражнения

📌 Предыдущие лекции курса:
1. Лекция 1 - Введение в ИИ-грамотность и фреймворк 4D
2. Лекция 2 - “Погружение в генеративный ИИ и LLM”.

#обучающиематериалы@NGI_ru

@NGI_ru

Есть ли альтернатива ElevenLabs в клонировании голоса?

Сегодня поделюсь интересным кейсом, который сейчас находится у меня в работе. Перед нами стояла задача обеспечить для клиента качественное решение по клонированию голоса в рамках его продукта. Первое, что приходит на ум - ElevenLabs. Однако, при ближайшем рассмотрении всплыли две проблемы: высокая цена и не самые щедрые лимиты на использование, которые не вписывались в планируемые объемы.

Это навело на мысль: “А вдруг для данного проекта может быть выгоднее развернуть OpenSource модель со старта?”. Мы начали ресерч!

Open Source: ожидания vs реальность
В процессе мы протестировали следующие модели:

1. Zonos-v0.1-transformer: Модель показала себя лучше всех. Качество и натуральность голоса были на высоте. Несмотря на то, что генерация происходит 30-секундными фрагментами, собрать из них 15-минутный аудиофайл можно было достаточно оперативно.

2. Dia (nari-labs/Dia-1.6B): Довольно свежая модель, разработанная группой студентов :) Интересная особенность - неплохо передает эмоциональные оттенки голоса. Однако, по общему качеству и стабильности до Zonos не дотянула.

3. Spark TTS: У этой модели были проблемы с качеством клонируемого голоса - оно оказалось довольно низким, плюс периодически возникали артефакты в виде дублирования фраз, а скорость генерации оставляла желать лучшего.

4. Openvoice: Эта модель генерировала голос очень быстро, но качество сильно уступало. Возможно, ее можно было бы рассматривать в связке с другими инструментами для последующего улучшения качества, но "из коробки" результат был не тот, что мы искали.

5. Также мы протестировали Orpheus, Kokoro, MegaTTS3, F5TTS, однако они либо не могли клонировать голос “из коробки” либо имели ограничения в лицензии, либо вообще не запустились.

В целом, основные вызовы при работе с OpenSource для клонирования голоса были следующие: нестабильное качество, наличие артефактов, невысокая скорость генерации для некоторых моделей и, конечно, необходимость дополнительных ресурсов для развертывания и поддержки. Полный ресерч моделей тут.

Вендоры почти пришли на помощь
Параллельно с исследованием OpenSouce мы, разумеется, искали и коммерческие альтернативы. И здесь нашим фаворитом стал сервис Speechify. Он продемонстрировал хорошее качество как клонирования голоса, так и самой генерации речи, что для нас было критично. Но, как ни странно, нам он показался хуже Zonos.

Если говорить о стоимости, то для наших задач (условно, генерация 30 аудиофрагментов в месяц на пользователя), Speechify оказался значительно выгоднее: примерно в 8 раз дешевле, чем селф-хост опенсорсной модели и в 9 раз дешевле, чем ElevenLabs.

Что мы выбрали?
ElevenLabs - круто, но дорого и лимиты, Zonos - хорош, но возможно оверкилл на запуске, т.к. стоит почти как ElevenLabs, Speechify - норм по цене, но качество хуже двух предыдущих. В общем, технический ресерч не обещал легкой прогулки. Выбирать нужно между “дорого” и “не самый лучший UX”. Считайте как задачка про два стула :)

Мы выбрали третий. Стартовать продукт решили без функции клонирования голоса, а саму ее сделать в формате традиционной Fake Door - добавим кнопку функции в апку, повесив на нее аналитику по кликам.

Далее, при достижении нужных метрик у нас будет 3 варианта:
- полный селф-хост Zonos или другой модели при хорошем кол-ве платящих и неплохом проценте кликнувших на фичу;
- Speechify, если платящих не так много, но много кликнувших;
- модели по тарифам: например в базовом будет Speechify, а премиум на Elevenlabs, если очень много платящих и большой процент из них кликнули.

Пока готовил этот пост - вышла Chatterbox - я ее пощупал, очень крутая и, на мой взгляд, лучше Zonos!

Чему учит этот кейс?
1. Всегда делайте технический ресерч вашего продукта;
2. Обязательно смотрите на лицензии;
3. Не верьте карточкам с описанием моделей;
4. Все меняется очень быстро, наш ресерч уже устарел :)
5. Всегда работайте итеративно и проводите эксперименты (у нас это тесты моделей и Fake Door);
6. Ищите альтернативы, а не бейте в одну точку, наличие выбора лучше, чем его отсутствие

#кейсы

Что прочитать про вайб кодинг

Я заметил, что вам особенно заходят посты, где я делюсь практическим опытом разработки с помощью AI: посты про мою самописную LMS и про Stitch вы репостнули больше сотни раз! Это четкий сигнал, что тема вам интересна.

Но есть нюанс: мои проекты в этой области довольно большие, цикл разработка-тест-выход на рынок все равно не такой быстрый, а что-то вообще под NDA и делиться инсайтами так часто, как хотелось бы, просто не получается. К тому же, основная тема канала - это AI в целом и AI продакт-менеджмент, поэтому превращать его в блог о коде было бы неправильно.

К счастью, я не единственный, кто умеет писать что-то интересное и полезное 🙂 Я всегда говорю, что AI - это не та область, где есть единственное правильное решение. Здесь нужно постоянно пробовать самому и смотреть, что делают другие. Я и сам с интересом читаю коллег по цеху, которые ведут свои ТГ-каналы, а они читают меня 😄

В общем, мы с несколькими авторами объединились и собрали для вас тематическую подборку по вайб-кодингу. Это отличная возможность посмотреть на процесс с разных сторон и перенять опыт у других практиков.

Вот что можно почитать и на чем поучиться:
1. Vibe Cursor Coding
2. AI / Vibe coding - советы и best practices
3. Как получилось, что юристы используют среду для разработчиков?
4. Stitch: от вайб-кодинга к вайб-дизайну и обратно
5. Вайб-кодим Google Apps Script для офисных задач: как LLM превращает часы рутины в минуты магии
6. Context7 – один из лучших инструментов для AI-разработки
7. Топовый AI Coding Workflow: инструкция по использованию Cursor & AI Studio в разработке
8. Как Cursor AI превращает текст в готовые макеты Figma
9. Простое веб-приложение за 30 минут без навыков с помощью Lovable

У каждого автора в этой подборке свой уникальный опыт, свой взгляд и свой подход, и в этом главная ценность. Поэтому, если вам понравился чей-то материал - поддержите автора подпиской (и уведомления включите, никто из нас не занимается шитпостингом 😁)

Это, кстати, не все ребята, с которыми мы сотрудничаем. Позже будут подборки и по другим тематикам.

Зачем я трачу столько усилий на создание бесплатного контента?

После того, как я опубликовал первый перевод лекций Anthropic со своими дополнениями, мог возникнуть вопрос: зачем я это делаю, ведь у меня есть свои тренинги по ИИ, и такого рода контент будет их каннибализировать. Казалось бы, логичный аргумент, но нет 🙂

Во-первых, на мой взгляд, грош цена любому автору образовательных продуктов, если он боится, что информация из бесплатных источников, даже с его дополнениями, сканибализирует его продукт. Я не занимаюсь инфобизом, собирая "секретные знания". В тренингах я продаю свою экспертизу, опыт и обратную связь. Делиться знаниями - это скорее плюс: я могу показать свою экспертность и сказать: "Ребята, вот вам база, а если хотите больше - можете уже приобрести мои тренинги". Другой плюс - после освоения базы, на тренинги ко мне придет уже более подготовленная аудитория, с которой мы будем говорить на одном языке и сможем разбирать более глубокие вопросы.

Во-вторых, я не зарабатываю исключительно тренингами, есть еще и внедрение AI. И клиенты приходят ко мне в том числе и через канал. Если я делаю технологию более понятной потенциальному заказчику, то я повышаю вероятность того, что человек захочет внедрить ИИ в свои бизнес-процессы. А еще будет играть фактор личного доверия, потому что человек уже видит, что я в теме шарю, а не являюсь случайным пассажиром. Я могу потерять 10 продаж тренинга по эффективности, но на эти 10 потерь придется 1 клиент в агентство, а чеки там интереснее.

В-третьих, у меня есть позиция, что образование должно быть доступным. Особенно в плане AI. В России очень мало качественного образовательного контента по ИИ, а хороший — платный. В США дофига бесплатных курсов, включая этот, но люди могут не знать языка либо просто быть ограничены в доступе к инструментам из-за геополитики. Доступ к знаниям не должен быть ограничен поэтим причинам.

В-четвертых, я вижу вашу отдачу. Да, делать эти переводы для меня сложнее и дольше, чем писать обычные посты, но я получаю больший выхлоп. Вы чаще делитесь этим контентом, у меня растет аудитория. Если есть такая возможность - надо ее использовать 🙂

Да и, в конце концов, если кто-то захочет меня отблагодарить - всегда можно залететь на какой-то из моих тренингов.

P.S. Вечером следующая часть перевода лекций от Anthropic. У меня слетел текст, который я редактировал, переношу пост на завтра :(

Уроки, которые я извлек, работая над Teaching Pal

Завершающий пост из цикла про Teaching Pal. Кейс кейсом, но важнее всего то, какие уроки я извлек из всего этого. Ведь делюсь я этим в том числе и для того, чтобы вы не повторяли наших ошибок.

1. Стратегия компании > Крутость продукта
Каким бы крутым ни был ваш продукт, его ждет тяжелая судьба, если он идет вразрез с глобальной стратегией компании. Teaching Pal был слишком инновационным для Pearson: компания держалась за прошлое, а новое руководство выбрало фокус на стабильность. Где стабильность - там нет места инновациям.

2. Смена руководства = Потенциальный "черный лебедь"
У нас были согласованы бюджеты и команда была готова к запуску. Но пришел новый CEO - и все посыпалось: новая стратегия, пересмотр бюджетов, запрет на найм. Видение, работавшее со старым руководством, не сработало с новым.

3. Обещания без подписи - не более чем слова
“Контракт возобновим", "перейдешь в штат с индексацией ЗП", "бюджет вот-вот согласуем". Сколько раз я это слышал в Pearson! В итоге - четыре месяца ожидания без оплаты, отмененные договоренности и заморозка найма через неделю после того, как мой руководитель добился согласования позиций. Никогда не работайте и не проявляйте свою лояльность, если нет подписанного документа. Ни одна компания не будет важнее, чем вы сами. Нет бумаги - ищите новую работу. От оффера всегда можно отказаться.

4. Шкура на кону - никаких Shared Teams
Наличие работы специалиста должно зависеть от того, выживет ли его продукт. А когда у тебя в команде одни наемники - результат будет соответствующий. У нас был “арендованный” дизайнер, который сорвал дедлайн и ушел играть в футбол, а мне пришлось в 4 ночи будить другого, чтобы успеть к майлстоуну. Если у исполнителя нет “шкуры на кону”, он не будет впахивать.

5. Подбор команды с единым культурным и рабочим контекстом
Джейкоб (дизайнер), откровенно тянул команду на дно. Не потому что британец, а потому что рабочий и культурный вайб был совершенно разный. Он пропускал созвоны, продалбывал дедлайны, но я очень долго не мог его уволить. Ищите людей в команду либо со схожим бэкграундом либо из культурно близких друг к другу стран: когда есть общий подход к работе, взаимопонимание и нацеленность на результат, а не просто набор скиллов.

6. Нужно иметь план Б
Пока команда разрабатывает основную версию продукта, продакту стоит самому, с помощью AI-инструментов, делать и тестировать прототипы с отличающимся видением и функциями. Это можно использовать как дополнительный аргумент при защите продукта, как запасной вариант при смене курса или просто для проверки смелых гипотез без больших затрат ресурсов команды.

7. Не бояться защищать свое видение (и команду) от неэффективности
Мне приходилось бороться за бюджет, за нужных людей (и против ненужных), отстаивать решения, которые казались очевидными команде, но не менеджменту. Если вы не будете этого делать, никто не будет. Иногда это похоже на войну, но без этого инновационные проекты в больших структурах не выживают.

8. Диверсифицировать свою занятость
Из-за всей этой ситуации с Pearson и я, и моя команда лишились источника дохода. Для меня и еще пары ребят он был основным, для кого-то дополнительным. Это очень отрезвляет. Нельзя зависеть от одного работодателя или проекта, особенно в такой турбулентной сфере. Ищите подработки, развивайте личные проекты, создавайте финансовую подушку - как для себя, так и, по возможности, думайте о рисках для команды. Лучших ребят я всегда тащу за собой в новые проекты. Здесь плюс и для вас и для компании, потому что никому не нужно притираться друг к другу.

9. Уходить из компании, если процесс создания инноваций превращается в борьбу с ветряными мельницами
Ты не победишь, какой бы крутой продукт ни разрабатывал, если компания – это старая, обросшая бюрократией громадина. Если создание нового превращается в бесконечную и бессмысленную борьбу с системой, которая сопротивляется любым изменениям, – пора валить. Энергию и время лучше направить туда, где они принесут реальную пользу и удовлетворение.


#кейсы@NGI_ru

Перевод курса “AI-грамотность” от Anthropic с дополнениями - часть 4

Не получилось опубликовать вчера, так как я решил писать лекцию не в заметках, а в Telegraph и на финальной стадии он подвел меня и не сохранил почти весь текст 🥲

Сегодняшняя тема: “Описание и эффективный промптинг”. Anthropic дали очень качественный материал, который я уже по традиции дополнил полезным. Добавил для вас кучу промптинг-гайдов по отдельным ИИ-инструментам, можете задавать по ним вопросы прямо в тетрадке NotebookLM. Помимо этого, как и в прошлый раз, включил материалы от коллег с полезной информациeй. На выходе получился самый детальный из доступных бесплатно гайдов по промтингу в русскоязычном сегменте интернета.

Отдельно хочется отметить подкаст - в этот раз он получился максимально вкусным и аж на 20 минут. Можете смело слушать его вместо текстовой версии, там практически все и очень хорошие примеры.

С вас, как обычно, репост, а с меня - больше контента. Если хватит времени - опубликую оставшиеся лекции до конца текущей недели!

👉🏻 Содержание лекции с моими дополнениями
🎧 Подкаст в NotebookLM
🔗 Ссылка на подкаст для тех, у кого не работает NotebookLM
✍️ Тетрадка NotebookLM
📄 Переведенные материалы и упражнения

📌 Предыдущие лекции курса:
1. Лекция 1 - Введение в ИИ-грамотность и фреймворк 4D
2. Лекция 2 - Погружение в генеративный ИИ и LLM.
3. Лекция 3 - Делегирование

#обучающиематериалы@NGI_ru

@NGI_ru

Нас уже больше 1000!

Чуть больше года назад, когда я завел этот канал, у меня была цель сделать пространство, где я смогу говорить про ИИ без хайпа и обещаний магии, а по-настоящему, как его вижу я. Мне хотелось делиться своим опытом с другими, помогать людям разобраться как с самой технологией, так и с тем, как делать свои продукты на базе ее.

3 июня мы пробили первую важную для любого ТГ-канала отметку - в 1000 человек, которую я загонялся и пропустил, а активно расти канал начал только в январе этого года. Следующая большая цель - 5000, а до конца года хочется сделать 10000 🙂

Хочется поблагодарить каждого, за то, что вы меня читаете, делитесь постами, ставите реакции, задаете вопросы и выражаете свое мнение в комментариях. Для меня это очень ценно и мотивирует развивать канал дальше 😊

Как будет развиваться канал дальше:
- Больше эфиров, в том числе совместных: планирую проводить на разные тематики, готовим анонс в ближийшие дни.
- Больше образовательных материалов: вижу, что зашла история с Anthropic, буду периодически выкладывать сюда стоящие ресурсы.
- Новые кейсы: сейчас мы работаем над рядом интересных ИИ-проектов, и мне не терпится поделиться ими здесь, когда это будет возможно.
- Коммьюнити вокруг канала и плюшки для его членов: в коммьюнити будут отдельные эфиры, бонусные материалы, нетворкинг и много чего другого.
- Новые тренинги и бонусы для прошедших: сейчас в разработке 2 тренинга по вайбкодингу. Помимо этого, я договорился о партнерстве с крупной HR-платформой. Все мои выпускники будут включены в закрытый пул специалистов, у которых будет доступ к вакансиям по AI. В планах больше партнерств и, если получится, подписки на AI-тулы.

В завершение небольшой подарок для моих читателей 😁
Сегодня открылась закрытая бета на браузер с AI Dia. Вход туда только по инвайтам. Мне удалось раздобыть несколько и я оставлю инвайт-сссылку в комментариях. Важный момент: браузер доступен только на Mac OS, поэтому если у вас другая система - пожалуйста, оставьте инвайт другим.

Также призываю скидывать свои инвайт-ссылки в комментарии, чтобы другие читатели канала могли получить доступ, не жадничайте 🙂 Как я понял, каждому дается рандомное количество инвайтов, кому-то 3, кому-то 20.

Перевод курса “AI-грамотность” от Anthropic с дополнениями - часть 5

В этот раз у нас не такая длинная, но, тем не менее, важная тема - “Оценка и цикл оценка-описание при работе с ИИ”. Изначальный материал я дополнил своими примерами, а в конце привел ряд техник, которыми пользуюсь сам для того, чтобы оценивать результаты работы ИИ.

В тетрадку NotebookLM добавил несколько гайдов по техникам, которые могут быть полезны вам в оценке.

Мы движемся с вами к завершению курса. Следующая тема - последняя. Вместе с ней Anthropic дает возможность пройти викторину и получить сертификат (правда, не именной). Викторину я также переведу, чтобы у вас была возможность прикликать оригинальную в гугл форму и получить свой сертификат 🙂

👉🏻 Содержание лекции с моими дополнениями
🎧 Подкаст в NotebookLM
🔗 Ссылка на подкаст для тех, у кого не работает NotebookLM
✍️ Тетрадка NotebookLM
📄 Переведенные материалы и упражнения

📌 Предыдущие лекции курса:
1. Лекция 1 - Введение в ИИ-грамотность и фреймворк 4D
2. Лекция 2 - Погружение в генеративный ИИ и LLM.
3. Лекция 3 - Делегирование
4. Лекция 4 - Описание и эффективный промптинг

#обучающиематериалы@NGI_ru

@NGI_ru

Как использовать NotebookLM на полную на русском
Как вы могли заметить, при переводе курса Anthropic я активно кидаю вам ссылки на NotebookLM, при этом ранее я писал, что работа на русском языке оставляет желать лучшего: долгая скорость работы, в подкастах упускаются детали, а сами они короткие. И хоть мой основной режим работы там на английском, я таки разобрался, как заставить ее работать нормально на русском.

Вот мои советы:
1. Грузите первыми материалы на русском языке - я заметил, что если грузить сначала англоязычные материалы, оно почему-то работает хуже, видимо, первый попавший в тетрадку язык заставляет модель тянуться в его сторону, а не в сторону последующих материалов
2. Для настройки - десктоп, для работы - мобайл - недавно вышла апка на мобильные и планшеты. И хоть на первый взгляд она выглядит так же, но там отсутствуют важные функции: нельзя сделать контролируемую генерацию подкаста, нельзя выбрать язык взаимодействия. Все это доступно в десктопе, но отсутствует в мобилке
3. Не генерируйте подкасты в авторежиме - механизм Attention для русского языка какой-то сломанный в авторежиме. Неверно интерпретирует, скачет с темы на тему. Для того, чтобы сделать нормальный подкаст - используйте контролируемую генерацию

Как генерить нормальные подкасты:
Здесь у нас два сценария, когда у вас, как у меня, есть текст, на который надо опираться и когда текста нет, рассмотрим оба!

Шаг 0 - когда текста нет. Закидываем все тексты в NotebookLM, далее просим тетрадку сгенерить вам по ним урок. В промпте указывайте тему, какой из документов должен быть основным (ВАЖНО!), а также, какой вам нужен урок по формату. Все, у вас есть текст!

Шаг 1 - когда текст уже есть. Кидаем полученный текст в Gemini с таким промптом:

Как член команды NotebookLM напиши мне промпт, по которому я могу сгенерировать максимально качественный подкаст. Вот план подкаста [сюда пишем, что хотим узнать, на какие вопросы ответы получить]. Вот текст [сюда вставляем свой текст]. Дай только сценарий, без таймкодов.


В целом, этот промпт уже дает хорошие результаты, но если вы хотите сделать подкаст еще длинее, то делаем так:

Как член команды NotebookLM напиши мне промпт, по которому я могу сгенерировать максимально качественный подкаст.

Инструкции для генерации:
1. Запроси у меня пример промпта для генерации подкастов
2. После того, как получишь его - запроси у меня план и текст, по которому нужно осуществить генерацию.

Дай только сценарий, без таймкодов


Пример промпта берите по этой ссылке, за него благодарим @viktor_1820

Мы используем именно Gemini, потому что у моделей один токенизатор и работать оно будет лучше!

Шаг 3 - идем генерить кастомный подкаст. Копируем получившийся промпт, но не отправляем! Я рекомендую в нем еще ручками добавить, когда и к каким документам обращаться, если вы знаете примерное их содержание.

На выходе, если документов мало - получим подкаст длительностью 9-13 минут, который максимально покроет вашу тему, если документов больше - будет 20-30 минут, у меня пока рекорд 38.

#обучающиематериалы@NGI_ru

Про бизнес-обучение в России
Я уже как-то писал пост про то, где учиться AI, но в целом, вопрос “Где учиться” - довольно широкий. Сегодня пост про бизнес-образование. Как выпускник МГУ - я всегда буду топить за свой университет и эконом, но есть и другие места, где можно и нужно учиться бизнесу 😄

Лучшее сочетание - это когда у в универе дают хорошую академическую базу, есть преподы-практики, а программу проектировали при участии людей из бизнеса. Мне повезло, что на моей программе все это совпало, а сегодня я узнал еще про одну такую.

Кто знает Skyeng - знает имя Дениса Сметнёва, кофаундера компании. Когда я только пришел в компанию - я попал в бизнес-юнит, который был подотчетен как раз Денису. Мы делали много классных штук, пытались в международку, и делали в этом успехи. Подбор команды, руководителей, методы работы - скажу честно, это была лучшая версия Skyeng, в которой я работал, а сам Денис во все это очень сильно вовлекался.

Так вот, Денис недавно стал академическим директором в бизнес-школе МФТИ и теперь наводит интересную движуху и там. Сейчас они ведут набор в магистратуру с практической направленностью. Обучение по-классике длится 2 года и фокусируется на том, что студенты развивают свои проекты при поддержке бизнес-школы. Те, кто учится сейчас уже делают свои стартапы с реальными продажами на $1 mln в год. И я уверен, что с приходом Дениса программа станет еще круче.

В общем, очередная крутая инициатива, которую я всячески поддерживаю. И нет, это не реклама, ее у меня в канале нет и точно не будет в ближайшее время 🙂

Подать заявку множно в боте @bsmipt_bot до 27 июня.

Как получить себе бесплатный доступ практически к любому AI-инструменту
Заголовок не кликбейт, но есть нюанс 🙂 В общем, подавляющее большинство ИИ-сервисов сейчас - это обертки для LLM. Если инструмент обладает агентскими функциями, то LLM + Tool Caling, чтобы модель могла делать какие-то дополнительные операции. Сверху обычно лежит еще какой-то графический интерфейс, обычно чат + эмулятор и так далее.

То есть грубо говоря, Cursor, Bolt, Manus, Lovable и прочее - это просто запромптченые LLM-ки. А если это запромптченные LLM, значит у них есть системный промпт, который можно из них вытащить. Как бы авторы ни пытались защититься от этого, всегда есть какие-то бэкдоры и методы их извлечения. Либо целиком либо по частям. Для этого есть различные техники вроде инъекций, output2prompt и так далее.

Все это помогает вытащить системный промпт либо целиком либо по кусочкам. Сам промпт при этом будет необязательно 1 в 1 тот, что закладывали создатели. Чаще это семантически совпадающий с ним промпт, но так как модели работают на семантике - полученный промпт будет обладать 99% характеристик оригинала.

Лазая по github я наткнулся на интересный репозиторий, в котором лежат системные промпты Dia, Cursor, Lovable, Manus, Replit и других AI-тулов. На Reddit и в самом гитхаб пишут, что промпты настоящие. От авторов сервисов, естественно, никаких подтверждений или опровержений, иначе как им поднимать свои 900 млн инвестиций 🙂

Что это нам дает?
Довольно много! Мне, как продакту, интересно посмотреть на структуру промтов, какие стратегии там применяются, как, куда и зачем разработчики направляют модели, как организован тул-юз. Это один сценарий. Второй - берем любой системный промпт, идем в Google AI Studio, копируем его туда и получаем практические полный аналог всех инструментов из списка выше БЕСПЛАТНО.

Нюанс здесь в том, что у вас не будет графического интерфейса и инструментов, которые должны вызываться, будет только запромпченая LLM. Но если вы умеете вайбкодить, системно мыслить и хотите поупражняться в создании AI-продуктов, то и эту проблему можно решить 🙂 Берете Cursor, Stitch, системный промпт, например от Manus и пилите свой Манус.

Enjoy 😄

Открываю запись на индивидуальные консультации по AI

Одна из услуг, которую мы предлагаем в EAI - это стратегический консалтинг по внедрению AI. Параллельно с этим я периодически проводил собственные консультации за рамками агентства, где делился опытом по AI, продакт-менеджменту и внедрению AI в бизнес.

Канал растет и запросов на консультации становится все больше: «подсказать как собрать команду», «помочь с AI-стратегией», «накидать идей для AI-фичи». Последние месяцы я оставил только платный формат консультаций, и это дало отличный результат - люди приходят более подготовленными, мы глубже погружаемся в задачи и достигаем лучших результатов за время сессии.

Поэтому решил официально анонсировать возможность индивидуальных консультаций. Стоимость часовой сессии - $150.

📌 Чем я могу быть полезен

Запуск и стратегия AI-продуктов
Помогаю с полным циклом создания AI-продуктов: от поиска идеи и быстрой проверки гипотез до подготовки к выходу на рынок. За все время работы я запустил более 20 AI продуктов, как потребительских, так и внутренних. Подскажу, как формировать AI-стратегию для существующего бизнеса, выбирать подходящие решения под бизнес-задачи. Расскажу как собрать ваш MVP максимально дешево и быстро. В техническом плане поделюсь практическим опытом работы с GenAI: LLM (API, облачные решения, локальные модели), Text-to-Image (генерация изображений с нуля, генерация в стиле), Text-to-Speech (генерация и клонирование голоса), ASR (распознавание речи) и их интеграция в продукт или бизнес.

Управление AI-проектами и командами
Специализируюсь на практическом AI Product Management: как эффективно управлять AI-проектами, выстраивать процессы, проводить исследования, проектировать эксперименты, взаимодействовать с командой в специфике AI-разработки. Опыт в R&D и инновациях включает построение и лидирование R&D-команд (строил команды в Skyeng, Pearson, EAI), разработку R&D стратегий (Skyeng, клиенты EAI), построение и отладку процессов создания инноваций с нуля (Skyeng), переработку существующих процессов (Pearson) и многократное внедрение в рамках EAI.

Карьера и образовательные продукты по AI или с AI
Помогаю выстроить карьерный трек в AI PM, подготовиться к собеседованиям (успешно менторил ребят до офферов), развить навыки AI-продакта, поделюсь опытом консалтинга и спецификой работы в международных компаниях. Если вы хотите запустить свой курс или образовательный AI-инструмент, поделюсь опытом создания собственных тренингов и образовательных продуктов в рамках Skyeng и Pearson.

Что ожидать от сессии
За час мы глубоко погрузимся в вашу задачу, проанализируем ситуацию и вы получите конкретное понимание, что и как делать дальше. Это фокусированная экспертная сессия для получения четкого плана действий, а не полноценный проект, где и моя команда делаем что-то за вас.

Если задача объемная и требует более детальной проработки, можем договориться о нескольких сессиях.

Как мы будем работать:
1. Запрос: вы пишете мне в личку @vladkor97 с кратким описанием задачи.
2. Подготовка: если я понимаю, что могу быть полезен, вы присылаете мне необходимые материалы (презентации, документы, ссылки). Я изучаю их до нашей встречи, чтобы мы не тратили время на базовый контекст.
3. Сессия: Проводим часовую консультацию, где фокусируемся на решении вашей проблемы.

Уверен, будет продуктивно!

ИИ для собеседований: взгляд со стороны нанимающего и нанимаемого
Ни для кого не секрет, что одним из классных кейсов применения LLM является использование его для собеседований.

Причем делать это можно в разных сценариях (я пробовал все):
- когда ты нанимаешь и готовишь вопросы к кандидату
- когда ты хочешь подготовиться к собеседованию
- во время прохождения собеседования (для обоих)
- когда ты анализируешь результаты собеседования как нанимающий менеджер

Первые два кейса довольно прямолинейные
Даем модели как можно больше контекста о компании, позиции, резюме + обязательно указываем пожелания. Если нанимаем мы - просим модель добавить свои фирменные вопросы (они у всех есть) + кейсы. Если нанимают нас - просим кейсы, а также промптим модель быть максимально строгой и критичной. Самое главное в этом процессе сделать так, чтобы весь процесс был направлен на проверку релевантных навыков и командного фита.

Еще я рекомендую делать разные сценарии: когда интервьюер менеджер/HR/технический специалист, задавая модели роли. Классно работает управление контекстом: например, через добавление к промпту фразы:

“Представь, что у тебя уже есть человек, которого ты хочешь нанять, задавай такие вопросы, ответ на которые либо точно отсеет кандидата либо заставит тебя передумать в его пользу, если ответ корректен”.

Самый главный риск здесь - чрезмерно простые вопросы от AI из-за ограниченного контекста. Однако отмечу, что наниматель здесь находится в более выгодной позиции, так имеет больше информации. Однако и тем и другим поможет генерация фоллоу-ап вопросов, которые позволят копать глубже.

Во время интервью
Сторона нанимающего: на ключевые вопросы я заранее промпчу модель в разных окнах браузера и в момент ответа кандидата на них - включаю режим диктовки. Если я что-то упускаю сам - LLM помогает мне догнать кандидата доп вопросами или как-то скорректировать процесс интервью. А чтобы предотвратить использование кандидатом LLM для ответа на вопросы - я даю ему кейсы с ограниченным контекстом. Чем меньше мы даем контекста - тем лучше. Если передо мной опытный спец - он сразу это почувствует и задаст сначала более очевидные для его специальности вопросы для уточнения, а потом менее. Если человек использует LLM - моделька часто будет предлагать решение сразу, а если запромпчена задавать вопросы - глубоких будет не так много, ей будет достаточно ответов и на поверхностные. В процессе решения кейса кандидатом, я люблю добавлять ухудшающие и нестандартные условия, чтобы проверить кандидата на шаблонность мышления. Если человек полагается исключительно на LLM - у нее снова будет слишком мало контекста для ответа.

Сторона нанимаемого: самое важное - думать головой. Если вы не чувствуете контекста - LLM вам не поможет в тех условиях, что я описал. Никогда не отвечаем сразу, берем паузу. Не отправляем модели сразу промпт с кейсом. Задаем вопросы, добавляем их в контекст, просим покопать глубже. Модель советую использовать не для генерации ответов, а для генерации вопросов, которые натолкнут вас на решение. Очень поможет наличие второго экрана и режима диктовки. Определяем, для каких вопросов нужна модель, а на какие отвечать самим.

На этапе анализа
Мой метод - два окна с одинаковым контекстом. Но в одно я кидаю чисто транскрипт, который модель оценивает под ролью “сурового нанимающего менеджера”, а в другой - свою ОС и на что я обратил внимание, после чего - прошу вынести модель свой вердикт с учетом всех данных. В итоге помимо своего мнения я получаю два ответа модели: более нейтральный и предвзятый в мою сторону (из-за моих комментариев). После - взвешиваю все “за” и “против” и выношу решение.

А какой у вас опыт с обеих сторон? :)

Места в закрытом пуле AI-специалистов для выпускников моих тренингов

Друзья, небольшой анонс. Вы все знаете, что я много сил вкладываю в свои тренинги по AI для личной эффективности и AI продакт менеджменту.

Сотрудничество с Глебом позволило мне больше сосредоточиться на контенте и образовательном опыте и меньше думать о маркетинге. Но я не останавливаюсь и ищу новые сотрудничества. На этот раз - это партнерство с платформой Профессионалы 4.0.

Данная платформа - это маркетплейс проектов для специалистов, клиенты - крупные компании вроде Сибура, Росатома, EY, Газпрома и многие другие. Чек начинается по 500 000 рублей и доходит до нескольких миллионов. Проекты можно выполнять как соло, так и командой, если вы - ИП.

Так вот, ВСЕ выпускники любого из моих тренингов получают доступ к закрытому пулу специалистов с компетенциями в AI. На данную категорию большой спрос, а конкуренция довольно низкая, так как спецов мало. Так что, если вы - крутой специалист, вам хочется прокачать себя в AI и дальше работать в этой сфере, то данный бонус для вас.

Я продолжаю искать новые партнерства и делать свои тренинги полезными не только с точки зрения знаний, но и с точки зрения бонусов для выпускников.

Если вы хотите записаться на какой-то из них - это можно сделать по ссылке. Завтра стартует 4 поток по личной эффективности!

Годнота от моего коллеги, все как вы любите 🙂 Кстати, очередной повод подписаться на Рефата.

Собрал официальные гайды по промтоинжинирингу от OpenAI, Anthropic и Google в один NotebookLM

Можно чатиться с этой базой знаний, задавать вопросы и получать ответы на основе официальных источников. Делал для себя, делюсь.

Ссылка: https://notebooklm.google.com/notebook/3e7759a8-ec71-4867-9a1f-41344a0ff498

Просто кидаешь вопрос в ноутбук типа "как настроить temperature для креативных задач" или "покажи пример few-shot промта для классификации" - и получаешь конкретный ответ со ссылками на источники.

Пользуйтесь, копируйте себе, делитесь своими ссылками в комментах, буду дополнять.

Перевод курса “AI-грамотность” от Anthropic с дополнениями - часть 6

Финальная лекция курса! Последняя тема - “Добросовестность”. Здесь все про этику, безопасность данных и ВАШУ ответственность за результат работы с ИИ.

Очень много примеров и деталей в NotebookLM, поэтому рекомендую ознакамливаться именно с подкаста. Текст в этот раз скорее конспект 🙂

Позже выложу итоговый пост со всеми лекциями и викториной, пройдя которую вы сможете получить сертификат от Anthropic. Пост уйдет в закреп и его можно будет пошарить)

👉🏻 Содержание лекции с моими дополнениями
🎧 Подкаст в NotebookLM
🔗 Ссылка на подкаст для тех, у кого не работает NotebookLM
✍️ Тетрадка NotebookLM
📄 Переведенные материалы и упражнения

📌 Предыдущие лекции курса:
1. Лекция 1 - Введение в ИИ-грамотность и фреймворк 4D
2. Лекция 2 - Погружение в генеративный ИИ и LLM.
3. Лекция 3 - Делегирование
4. Лекция 4 - Описание и эффективный промптинг
5. Лекция 5 - Оценка и цикл оценка-описание при работе с ИИ

#обучающиематериалы@NGI_ru

Мой опыт использования DeepSeek для серьезных задач и в проектах

Когда в начале этого года вышла DeepSeek R1, многие радовались выходу этой модели, говоря, что “вот она, замена GPT o1” в бенчмарках работает наравне и вообще классная модель. Изначально я отнесся к таким заявлениям скептически.

Сам DeepSeek я использовал от силы две недели, и модель меня вообще не удовлетворила. По уровню ответов модель отставала в моих задачах от Gemini и GPT года на полтора, плюс к этому, сама скорость ответа меня не удовлетворяла из-за очень долгих размышлений, бонусом к этому шли рандомные иероглифы. И если с точки зрения вклада в развитие AI и новых методов обучения DeepSeek делает реально крутые штуки, то с точки зрения реального пользования модель оказалась для меня бесполезной. Просто потому что я привык использовать лучшее и у меня есть доступ к этому лучшему.

Однако, это были мои личные задачи, и наиболее объективно на места все расставляет все же время. Прошло уже полгода с момента выхода R1, и что мы видим?
- Трафик у DeepSeek ожидаемо пошел на спад;
- Cкорость ответа из-за нагрузки в сервисе еще дольше;
- Часть сложных запросов заканчиваются ошибками.
- Кроме того, модель является самой цензурированной. Попробуйте спросить у нее, чей Тайвань или другая спорная территория 🙂

Но модель же OpenSource, скажете вы. Действительно. DeepSeek можно развернуть у себя на сервере, но много ли вы видели кейсов? Мне известен только один - Perplexity на волне хайпа в начале года очистили от цензуры захостили модель у себя, после, выложив ее в опенсорс. Много ли вы ей пользуетесь? Уверен, что большинство использует либо DeepResearch либо предпочитает другие модели, вроде Claude и Gemini, ибо зачем выбирать то, что работает хуже?

В остальных случаях я вижу просто повальное доминирование QWEN. У себя в проектах мы используем QWEN, Тинькофф Банк использует QWEN, в Avito - QWEN. Никто не использует DeepSeek, потому что в малой размерности эта модель оказывается еще тупее, а ее Reasoning нельзя отключить. В итоге, на выходе мы получаем тупую модель, которая спамит иероглифами, и к тому же, нереально долго отвечает.

Может быть, DeepSeek лучше работает с задачами для Китая?
Ко мне попал проект, тесно связанный с китайской культурой, и логично было предположить, что вот тут-то DeepSeek преуспеет. Но нет, проблема не в языке. Эту модель нереально сложно промптить. Чтобы создать ассистента на базе нее и добиться выполнения определенных флоу - ей нужно писать просто ОГРОМНУЮ, максимально подробную инструкцию. Если не прописать детали - она просто ей не следует нормально. Также, в процессе модель путает языки. Ситуация становится чуть лучше, если писать промпт на китайском, но даже тогда, в выдаче она периодически выдает символы и фразы на английском. Модель ужасна в плане следования инструкциям. Я не помню, чтобы писал такие подробные инструкции со времен GPT 3.5, и то, она мне казалась умнее. В данном проекте в итоге мы частично заменили DeepSeek на QWEN, дальше планируем окончательно выпилить DeepSeek оттуда.

В общем, вся история с DeepSeek с точки зрения практического использования оказалась просто хайпом. Если у вас нет доступа к нормальным LLM, то да, это лучше, чем ничего, хотя я настоятельно рекомендую попробовать QWEN, по моим ощущениям, она отстает от западных аналогов где-то на 8 месяцев, а не на 1.5 года. Но если у вас есть доступ к топовым моделям, вы просто не захотите возвращаться к китайским моделькам.