На русском: https://liberating-structures.ru/ (возможно, не все переведено с оригинального сайта, но ссылка оттуда на этот сайт есть)

#dl #nlp #llm #courses

Думая про всякий там RL & reward hacking в моделях серии о и так далее вспомнил вот такую работу: можно специально провоцировать галлюцинации у LLM и получать от этого буст по метрикам.

Вместо обычного zero-shot prompt’а типа:
"Ответь на вопрос..."
добавляют в начало:
"Посмотри примеры в разделе Examples и используй их...", хотя никакого раздела в prompt’е нет.

Модель “вспоминает” несуществующие примеры и опирается на них как будто бы в few-shot.
На ряде бенчей дает заметный буст (правда работа старая и там еще старые сетки).
Эффект почти не срабатывает на gpt4 серии. Она лучше умеет ловить, что контекст поддельный. Но вполне работает на новой о серии (судя по постам в тви, но надо чекнуть). Это наталкивает на понятную мысль что модель можно как бы натолкнуть на рассуждения out of distribution сказав что у тебя оно на самом деле есть в обучающей выборке. Мне кажется этот эффект смахивает на те самые фразочки “let me check again”, “hm” в рассуждениях. То есть пытаются как бы отослать к примерам которые якобы точно правильные и оттуда перенять рассуждения/подход.

Посты выходного дня. Несколько тезисов, которые мне кажутся важными для понимания если вы собрались строить свой стартап, продукт, whatever.

1/ Да, надо выучить все эти growth playbook. А потом выкинуть их и написать свой.
2/ Почти никто не думает в горизонте 3+ лет. А зря. Длинная игра дает возможность победить 90% конкурентов.
3/ MVP это не выбор. Это ты просто не знаешь, как делать норм продукт. Если можешь, лучше сразу что-то полезное, а не «viable». Особенно в век AI.
4/ Дизайнеры так же важны, как инженеры.
5/ Стартапы убивает не конкуренция. Ну или это большая редкость.
6/ Рост не бывает линейным. Это сигмоиды, одна за другой. В лучшем случае получится экспонента, если глянуть издалека.
7/ Найм это не собеседование, это воронка. Чем раньше начнёшь, тем лучше.
8/ Хочешь нанять? Делай это заранее. Когда уже нужно, ты опоздал.
9/ Всем пофиг, что ты делаешь. Никто не запомнит. Провалил, забил, украл (Kekw)? Отлично. Начинай заново.
10/ Энтерпрайз-продажи это про коммуникацию. Продукт уже потом.
11/ Email-рассылка в холодную не работает. Забудь.
12/ SEO работает.
13/ Бороться с churn-rate нужно в момент регистрации. Потом это сделать сильно сложнее.
14/ Офсайты работают. Люди сближаются. Это важно.
15/ Бренд важнее, чем ты думаешь.
16/ Апдейты для инвесторов раз в месяц must have. Ты структурируешь голову, а они (инвесторы) бывают полезны.
17/ И, да, ощущение что все ппц это привилегия. Обычно все скучно и уныло и чем дальше в возрасте, тем лучше это понятно.
18/ Знания, как что работает до деталей влияют, без понимания ни команду ни продукт быстро сделать не выйдет.

#startup #softskills

Последнее время снова сталкиваюсь с продуктом, в том плане не только потому что сами делаем, но и потому что вокруг эта проблема стала более очевидной. Хотел бы привести пример на основе Perplexity. Пост чистый наброс из общих мыслей btw

Это идеальный как мне кажется случай. Эпоха AI только начинает раскатываться и выходит чувак, который говорит "мы победим google через UX" (где-то в этом видосе). И совсем недавно я наткнулся на замечательный совершенно доклад от гейм директора World of Warcraft. В этом посте я дам свое мнение и проекцию, но презентация настолько крутая (пусть и деталями про игру именно), что советую всем.

Так вот я бы хотел посвятить борьбу в AI лендскейпе такому интересному явлению как desire path. Это то самое, что все кричат "слушайте вашего пользователя". И получаем мы обычно как на картинке (хотим одно, сначала защищаем, защищаем, потом сдаемся и когда сдаемся то этого снова недостаточно) - пытаться продавить свое решение в начале бывает глупым, а потом снова имеет смысл. Концепция мышления путями в целом достатчно интересна.

Перплексити идет в лоб атакуя и говоря смотрите как надо, а потом постепенно ослабевает так как все вокруг делают буквально тоже самое. И ребята остаются в парадигме "мы решаем проблемы, которые не могут быть идеально решены". У дизайна есть такое свойства - да. Вместо того, чтобы двигаться дальше, команда начинает искать максимальную прикладную ценность, которой к сожалению просто нет. Потому что люди думают эмоциями и постоянно меняют свое мнение относительно уже готовых фичей, сначала они в восторге, а потом говорят "а чего же не развиваем".

Novelty has inherent value, making static soltions short-lived (c) - другими словами новизна важна сама по себе, и ехать на одной фишке просто невозможно; Это большое упущение пытаться оседлать волну "удачной фичи" и повторить ее снова не развивая long-term ценность. Поэтому мы видим браузер, рекламу, все что угодно, что есть у Google удачного. Они пытаются повторить свой изначальный успех просто копируя то, что было. Но никаких эмоций по пути не возникает и мне кажется именно поэтому ребятам надо менять подход в корне.

Всем смотреть доклад, специфично игровые прям темы можно скипать легко

#agents #petproject

Как работает MCP: протокол для интеграции ИИ с внешним миром 🔥

Всем привет! Решил сегодня разобраться с тем как работает MCP. В итоге я за 2 часа навайбкодил MCP для Telegram, который позволяет ИИ анализировать каналы и сообщения (что собственно и иллюстрирует картинка выше).

Что такое MCP и почему это важно

Наши умные ИИ-ассистенты (они же LLM) не имеют возможности взаимодействовать с окружением (например с компьютером или браузером). Чтобы показать ChatGPT что-то, приходится делать "скриншоты" (копировать тексты) или подробно описывать то, что видите сами.

Model Context Protocol (MCP) — решает эту проблему путем того, что стандартизирует как именно внешний мир и ИИ должны общаться.

Как это работает

Представьте MCP как систему переводчиков-посредников между ИИ и вашими программами:

1. Участники общения

- ИИ-ассистент (например, Claude) — умный собеседник, который хочет помочь
- Ваши приложения (Telegram, редактор кода, база данных) — инструменты с полезной информацией
- MCP-переводчики — посредники, которые помогают им понимать друг друга

2. Как происходит диалог

Когда вы спрашиваете ИИ о чем-то, что требует доступа к внешним данным (например, "какие сообщения в Telegram-канале самые популярные?"), происходит следующее:

1. Запрос: ИИ понимает, что ему нужно обратиться к Telegram
2. Поиск переводчика: Система ищет подходящего MCP-посредника для Telegram
3. Формальный запрос: ИИ формулирует структурированный запрос к Telegram через MCP
4. Получение данных: MCP-сервер связывается с Telegram, получает информацию
5. Перевод для ИИ: Данные преобразуются в понятный для ИИ формат
6. Анализ и ответ: ИИ обрабатывает полученные данные и отвечает вам

Всё это происходит "за кулисами" — вы просто видите, что ИИ внезапно стал понимать ваши программы.

Что умеет передавать MCP

Ресурсы — "Вот, посмотри на это"

Ресурсы — это любые данные, которые приложение хочет показать ИИ:
- Файлы с кодом
- Сообщения из Telegram
- Записи из базы данных
- Скриншоты интерфейса

Каждый ресурс имеет свой "адрес" (URI), по которому ИИ может его запросить. Например, telegram://channels/@channel_name/messages — это адрес сообщений в конкретном канале.

Важно: вы всегда контролируете, какие ресурсы доступны ИИ. Ваш редактор кода может предложить показать файл, но решение всегда за вами.

Инструменты — "Сделай это для меня"

Инструменты — это действия, которые приложение позволяет выполнить ИИ:
- "Найди все сообщения со словом X"
- "Проанализируй популярные посты"
- "Покажи реакции на сообщение"

Когда ИИ нужно выполнить такое действие, он отправляет запрос через MCP, а приложение выполняет нужную функцию и возвращает результат.

Промпты — "Используй этот шаблон"

Промпты — это готовые шаблоны взаимодействия:
- "Анализ канала Telegram"
- "Объяснение кода"
- "Генерация отчета"

Приложения предлагают эти шаблоны, а ИИ может их использовать для структурированной работы с данными.

Моя интеграция для Telegram: что она позволяет

За пару часов я навайбкодил MCP-сервер для Telegram, который позволяет ИИ:

1. Изучать каналы — видеть информацию о канале, количество подписчиков, описание
2. Искать сообщения— находить посты по ключевым словам или датам
3. Анализировать популярность — определять, какие сообщения вызывают больший отклик
4. Исследовать реакции — видеть, как люди реагируют на контент

Когда я спрашиваю ИИ "Какие сообщения в канале @nn_for_science получили больше всего репостов?", происходит следующее:

1. ИИ решает использовать инструмент get_popular_messages
2. MCP-сервер получает запрос с параметрами (имя канала, минимум репостов)
3. Сервер подключается к Telegram API, получает сообщения
4. Сообщения сортируются по количеству репостов
5. Результат возвращается ИИ в структурированном JSON-формате
6. ИИ анализирует данные и представляет результаты в понятном виде

Итог
MCP делает возможным буквально любые взаимодействия (в том числе и с объекттами в реальном мире), скорее всего за этот год протокол претерпит какие-то изменения, но в целом уже очевидно что MCP с нами надолго.

Делитесь в комментариях какие самые безумные MCP вы видели! 🚀

#llm #petproject