Подготовка к релизу Я здоров. 4 серия.

Праздники праздниками, а Я здоров сам себя не запустит)

С точки зрения разработки за 2 рабочих дня на этой неделе мы успели сделать чуть больше чем ничего:
- Продолжали работать над отладкой распознавания
- Готовились к развертке на продовой инфраструктуре - обновления программных пакетов, настройка межсервисной авторизации и т.д. - в общем много технически важных, но скучных вещей - базовый минимум)
- Сформировали первую версию классификации пользовательских запросов, после праздников будем делать классификатор технически

Согласовали оформление, контент-план и первые посты для нашего медиа о здоровье.
Сразу после праздников запустим tg-канал, ВК и инстаграм.

Продолжаю продумывать механики продвижения, которые позволят нам привлекать аудиторию с минимальными рекламными бюджетами, но при этом быстро.
Аудитория привлекается обычно быстро и дорого, или дешево но медленно.
А мы должны попробовать исхитриться, мы же стартап)

За выходные планирую расписать беклог задач по ассистенту на следующие 3 месяца, настроить tg-бот для тех поддержки, подать заявки на несколько акселераторов и на резидентство Сириус.
Хочу себе в Сириусе нормальный офис, а тут такие положены только для компаний-резидентов)
Ну и другие плюшки конечно тоже есть)

Ещё нужно изучить гранты и инвестиционные фонды, на предмет привлечения финансирования на наш проект в этом году.

Со стартапом часто приходится заполнять заявки на разные гранты, конкурсы, фонды, питч-сессии и т.д..
У каждого своя форма, где по сути нужно заполнять одну и ту же информацию о проекте, но в разных форматах, по разным полям и т.д.
И я задумал подготовить структурированную базу файлов со всей информацией о проекте и сделать из этого типа RAG-базы для LLM. И чтобы потом LLM на основе моих данных готовила для меня тексты для конкретных полей каждой заявки.

Я такую штуку уже делал, когда готовил в июне заявку на Старт-1.
Но тогда это было на скорую руку, сейчас хочу побольше заморочиться с подготовкой данных.
По результатам напишу насколько хорошо будет работать.

Друзья, ищу лучший курс по ЛФК!

Моя жена хочет пройти обучение на специалиста по лечебной физкультуре.
Уверен, что среди моих подписчиков немало людей, связанных с медициной.

Посоветуйте пожалуйста хорошие курсы и/или книги по ЛФК/здоровой спине в комментариях или в личные сообщения - @dvasiliev.

OpenAI анонсировала режим "Здоровье" в ChatGPT

Возможно одна из наиболее значимых новостей медтеха в наступившем году.

По данным OpenAI более 30 млн человек еженедельно задают ChatGPT вопросы о здоровье - это один из самых популярных сценариев использования.

Теперь Здоровье будет вынесено в отдельный раздел. Можно будет загружать медицинские документы, подключать данные из Apple Health. Чтобы ответы модели учитывали медицинскую историю пользователя.

Концептуально близко тому, что в том числе мы делаем в Я здоров)

Весь день сегодня думал - меня эта новость больше пугает или радует?)

AI очевидно прорастает во все области жизни, в том числе в здоровье.
Пользовательские healtech AI сервисы - потенциально огромный рынок.
ЦА весь мир, спрос на "быстро разобраться в вопросах здоровья" большой.

То что OpenAI сами идут в рынок медицинского AI - подтверждает объём и перспективы этого рынка.
Российские бигтехи тоже активно развивают это направление.

В общем даже в России конкуренция в медицинском ИИ будет серьезная - корпорации, сети медицинских клиник, сотни стартапов (в том числе и мы) - уже в этой гонке.

Я такие новости воспринимаю скорее положительно и считаю что у стартапа есть шансы на успех.

Во-первых, рынок медицинского ИИ гонкой я назвал очень условно.
Рынок здоровья настолько объёмный и многогранный, что несмотря на большое количество компаний работающих на нём - никто не делает 2 одинаковых продукта - разные видения, наборы функционала, акценты, интерфейсы, целевые аудитории, способы монетизации и т.д.
ИИ для системы здравоохранения (который используется врачами в процессе оказания медицинских услуг) - это вообще отдельный сегмент рынка с жёсткой регуляторикой, а соответственно технологически эти продукты координально отличаются от того, что мы делаем для пользователей.

Во-вторых, огромная целевая аудитория, среди которой я верю что все хорошо сделанные продукты найдут свой сегмент.

Развивать продукт в этом рынке будет сложно, но точно интересно!
Как я не раз говорил команде - идея которую мы реализуем, точно нужна и полезна людям, на такие продукты точно будет спрос и они изменят индустрию здоровья.
А дальше наш успех зависит от того, насколько хорошо сделаем!

В общем я собрал свою "RAG-базу для LLM", для заполнения заявок на различные акселераторы, гранты, питч-сессии и прочие стартаперские мероприятия.

В этом году мы планируем максимально распространять информацию о проекте для привлечения пользователей, партнеров и инвесторов.
Будем участвовать в большом количестве мероприятий, а соответственно подавать много заявок на эти самые мероприятия.

Чтобы заложить фундамент для этого, в начале праздников я сделал достаточно скучную работу - собрал в одной папке всю информацию о проекте: описание функционала, техническое задание, бизнес-план, инвестиционную презентацию, результаты кастдевов с пользователями, анализ конкурентов, стратегию и структуру продвижения проекта, тексты презентаций и докладов по теме проекта.
Отдельно загрузил логотип, обложку, реквизиты ООО, описание команды, фото основателя и прочие данные, которые требуются в заявках.

Что мне это даёт:

1. Теперь вся информация в одном месте. При заполнении новой заявки - открываю папку и знаю, что всё что может понадобиться там.

2. Мне проще делегировать эти задачи - вся необходимая информация собрана в одном месте = меньше вопросов ко мне при заполнении заявок.

3. Дальше я загружаю все файлы в сервис LLM, пишу стартовый сопроводительный промт, и дальше отправляю туда вопросы по одному. Ответы естественно проверяю / корректирую, но это значительно быстрее, чем писать с нуля.

Таким методом я на этой неделе подал заявки на акселератор мед университета имени Пирогова, Академию инноваторов от Московского иннновационного кластера, резидентство ИНТЦ Сириус и Российский венчурный форум.
Время подачи экономится существенно. И побочный плюс - концентрируюсь именно на сути ответов на вопросы заявок, а не на поиске информации в своих закромах.

4. Следующий шаг - прикрутить всё это хозяйство в ИИ браузер, чтобы (облениться максимально) не копировать вопросы и ответы для каждого поля формы заявки, а чтобы AI-агент сразу заполнял сам всю форму и человеку оставалась только проверка и корректировки.

-------

Я понимаю, что читатели моего канала и без этого рассказа прекрасно умеют пользвоваться LLM и знают что в них можно закидывать свои файлы.
Пост не про инновации)

Идея в том, что руководитель должен всегда стараться создавать активы - то есть стараться, чтобы его работала генерировала какую то постоянную пользу/результат в будущем.

Я мог бы просто заполнить заявки, как я ни раз это делал в прошлом году.
Но в этот раз я догадался потратить побольше времени на простые действия (собрать и структурировать информацию), благодаря которым заявки на будущие мероприятия будут подаваться быстрее и с моим минимальным участием.

Следом за OpenAI - AI-консультанта по здоровью выпускает Anthropic.

Концепцию описывать не буду - там вроде близко к режиму "Здоровье" в ChatGPT.
Попозже намутим платный американский аккаунт и изучим функционал детально.

Помню пару лет назад разрабочики LLM вроде как заявляли что не планируют идти в конкретные узконаправленные продукты - им интересна разработка технологий, на основе которых уже другие компании будут делать продукты для рахных пользовательских сценариев.
Но видимо сегмент AI-сервисов для здоровья оказался насколько вкусным (30 млн DAU не шутка даже для OpenAI), что в этот рынок решили идти сами.

Ждём подобные продукты от Российских бигтехов?

Хотя как ждём, Сбер например очень активен в медицинском AI - СберЗдоровье, СберМедИИ, трекинговое кольцо и прочие устройства.
Позицию Яндекса в рынке медтеха пока не очень понимаю. Были новости, что тоже собираются делать трекинговое кольцо.
При этом в 2024 продали телемедицинский сервис Яндекс Здоровье компании Genotek (да, именно Genotek купил Яндекс Здоровье, а не наоборот).
Но Яндекс же давно играют в экосистему, поэтому не верю что они обойдут стороной тему здоровья.

В общем к чему я это - удачи всем medtech AI стартапам. С такой конкуренцией точно будет весело)
Ещё можно воспринимать бигтехи не как конкурентов, а как стратегов, которым потенциально можно когда-то продать стартап.
Но мне если честно ближе мышление конкурировать, в конкуренции стать настолько крутыми, чтобы они сами захотели нас купить, а мы ещё подумали как нам будет лучше)

The Thinking Game

Досмотрел документальный фильм The Thinking Game - про компанию Deepmind (те, которых купил Google и теперь они Google Deepmind).

Про то, как группа учёных в 2010 году начали заниматься общим искуственным интеллектом, когда в научной среде про такое было не принято говорить).
Они сделали модель, которая за день с нуля училась играть в любую настольную игру до уровня, превосходящего любого человека.
Они сделали нашу любимую AlpfaFold - модель, которая предсказала 3D структуры всех белков, что навсегдо изменило биоинформатику.
И в 2024 получили за это нобелевкую премию по химии (первый случай когда нобелевскую премию по химии получили не химики).
Ну и они же сделали LLM от Google.

Фильм для массового зрителя, без глубоких технических деталей.
Рекомендую посмотреть всем, кто хочет понять на что способны технологии искуственного интеллекта.
А тем кто и так знает и работает в сфере AI - для мотивации)

https://vkvideo.ru/video-231304350_456239323

В продолжение темы Google - на днях они обновили MedGemma.
Это коллекция ИИ-моделей для использования в медицине.

Обратил внмиание сейчас на эту новость и посмотрел немного подробнее.
Пишут что модель открытая, доступна на Hugging Face. Лицензия позволяет проводить исследования, разработки и использовать ИИ в общих целях, но не для прямой медицинской диагностики или лечения.

Записал задачу изучить как можем попробовать её использовать в нашем проекте.

Кстати я на питч-сессиях рассказываю, что наш AI-ассистент - это не просто диалог с LLM, а агентная система с классификацией запросов пользователя, индивидуальными сценариями под разные типы запросов.
Обученная на данных доказательной медицины и дополненная проверками для обеспечения максимальной безопастности и этики.

Если интересно, поставьте ракции, я расскажу немного подробнее что в это заложено.

Ну и последняя на сегодня медтех-новость из мира Американских корпораций из стартапов.

OpenAI приобрела медицинский стартап Torch для развития ChatGPT Health.

Torch разрабатывает медицинскую память для ИИ, объединив разрозненные записи в контекстный механизм, который помогает увидеть полную картину, связать разрозненные данные и убедиться, что ничто важное больше не затеряется в информационном шуме.
Приложение Torch, которому всего год, предназначено для сбора медицинской информации пользователей из больниц, лабораторий, носимых устройств и компаний, занимающихся тестированием потребительских товаров, в одном месте.

Говорят в компании было 4 человека, а купили примерно за 100 млн $.
Правда акциями OpenAI, а не деньгами, но тоже неплохо.

Могли бы нас купить, нам тоже год, а команда у нас больше)

Друзья, запустили наше медиа о здоровье и превентивной медицине в рамках продвижения Я здоров!

Будут советы врачей, специалистов по питанию, тренировкам и здоровому образу жизни.
Новости медицины и полезные советы по здоровью для себя и семьи.

Подпишитесь, будем стараться делать максимально полезный контент, как для себя)

А врачей и специалистов по здоровью с сильной экспертизой приглашаю стать нашими партнёрами по созданию контента.
Напишите в комменатриях - наш PR-менеджер с вами свяжется!

https://t.iss.one/ya_zdorov_media/6

Кстати, спасибо за высокую оценку моего исходного (первого) варианта.
Я был уверен что улучшенный Claude вариант 2 выиграет почти всухую)
Потому что мне он нравился сильно больше, чем мой)

В итоге взял за основу второй, но подсократил, убрал воду, сделал немного конкретнее.

Подготовка к запуску Я здоров (5 серия)

Собственнно чего-то нового по функционалу приложения мы не сделали)
Прошедшая неделя была посвящена тестированию, испровлению ошибок, подготовке к запуску в продакшен.
И текущая будет посвящена этому же)

Делаем много мелких не сильно заметных по отдельности вещей, которыми если честно не очень прикольно заниматься)
Наверное потому что это не какие-то прорывные фичи, а мелкие доделки.
Знаете, как убирать ангар, в котором ты строишь ракету)
Но без этой "гигиены" не бывает хорошего продукта, поэтому используем дисциплину и просто делаем.

- Очередная итерация тестирования и улучшения распознавания бланков (я уже говорил что это будет длиться вечно?). Сделали кнопку для сообщения об ошибках распознавания, чтобы продолжать обучаться на обратной связи пользоватлей.
- Общее тестирование приложения
- Актуализация онбордингов, текстов в приложении
- Описание архитектуры микросервисов
- Доработки авторизации и межсервисного взаимодействия для обеспечения максимальной безопастности в продакшене
- Подготовка и настройка инфраструктуры Яндекс Cloud
- Обновление зависимостей программных пакетов, чтобы Яндекс Cloud на нас не ругался
- Актуализация документации и схем текущего функционала - чтобы видеть текущую картину и планировать дальнейшее развитие
- Настройка миграций, env-файлов и много других технических штук, которые я не особо понимаю) (но наши разработчики хорошо понимают, поэтому не сомневайтесь что по безопастности у нас ваших данных у нас всё будет ок)


Ассистент

Тестируем вывод данных из мед карты в асситсент по запросу пользователя
Не обязательно искать нужные документы в списках - просто спросите у ассистента и он выдаст нужные данные.
Мы хотим чтобы нашим пользователям было удобно хранить у нас большие объёмы данных. Поэтому такой "чатовый" интерфейс взаимодействия будет удобен.

Также начали тестировать долгосрочный контекст ассистента.
Это очень большой блок развития ассистента, который мы будем постоянно развивать.
Но первые шаги сделаны и мы уже имееем парво называть нащ асситсент персонализированным.
Почти как ChatGPT Health)

Сделали первую версию классификации запросов пользователя к ассистенту.
В следующем посте расскажу подробнее об этом.


Ну и запустили наше медиа о здоровье.
На этой неделе будет первый пост от терапевта/пульмонолога про чекапы - подпишитесь, если ещё не успели)

Классификация запросов к медицинскому ассистенту.
Или почему мы говорим, что наш ассистент - это мультиагентная система, а не просто LLM-чат.

Мы реализовали первую версию классификации запросов к нашему ассистенту Я здоров.
Все потенциальные запросы пользователя разделены на более 20 типов и подтипов запросов.
Саму классификацию показать не могу, коммерческая тайна)

Проработали её на основании анализа конкурентов, наших собственных инсайтов и кастдевов целевой аудитории.

Классификация уже реализована и будет запущена в первой версии продукта.
Мы будем фиксировать все запросы пользователей, формировать статистику - с какими типами запросов чаще обращаются к ассистенту.

Любые запросы, которые не попадают в текущие типы, будут логироваться.
На основании этого мы будем расширять классификацию типами запросов, которые сейчас не учли.

Под каждый тип запроса прорабатываем отдельный сценарий работы ассистента.

Отдельный системный промптинг, обогащение специфическими данными через RAG базы.

В каких-то случаях - дополнительные ограничения в пайплайне сценария.
Например, мы не даем рекомендаций и вариантов диагноза, если пользователь пишет острые симптомы или потенциальные симптомы тяжелых заболеваний - здесь мы только направляем в медицинскую организацию либо советуем вызывать скорую помощь.

Если речь идет о легких симптомах - можем завести пользователя в сценарий сбора анамнеза и подготовки рекомендаций, но в любом случае с дисклеймером, что ответ ассистента не является медицинской рекомендацией.

Отдельно прописаны сценарии работы с данными и функционалом приложения - медицинской карты и дневников.
Здесь ассистент уже может коммуницировать с пользователем не только текстовыми ответами, но и отдавать карточки сущностей медкарты, записи из дневников, предлагать кнопки загрузки документов или формы внесения записей в дневники. Всё это в интерфейсе ассистента.

Предмет отдельного мозгового штурма - мультизапросы.
Как маршрутизировать запросы пользователя, когда в одном запросе или диалоге несколько типов запроса.
В каком приоритете обрабатывать сценарии.

Например, пользователь вводит симптомы своего состояния и одновременно просит дать рекомендации, к какому врачу обратиться.
В данном примере очевидно, что в первую очередь нужно уточняющими вопросами собрать с пользователя анамнез, после этого уже переходить к рекомендациям.

Какие-то типы запросов можно выполнять параллельно и генерировать ответ на оба типа запроса пользователю единым сообщением.

Отдельный большой блок нашего беклога - проактивные действия со стороны ассистента - когда он сам что-то предлагает, напоминает, дает рекомендации по прохождению анализов, обследований, сообщает об отклонениях показателей на основании медицинской карты, дневников, прошлых диалогов.
Тут важен баланс между пользой от мягкого ведения здоровья и навязчивым манипулированием.
Когда дойдем до проработки проактивных рекомендаций - будем уделять много внимания их точности, своевременности и необходимости. Постараемся не обмануть доверие наших пользователей.

Вот так базово устроена классификация запросов в нашем ассистенте.
Поставьте реакции, если интересны посты про внутреннее устройство нашего продукта.

Друзья, нам для Я здоров нужна консультация, PR-менеджера или журналиста с опытом работы в ведущих федеральных СМИ.

Основных вопросов два:
- как правильно написать и предложить СМИ пресс-релизы про "Я здоров"
- как выстроить работу с медиа системно (регулярно публиковать исследования, основанные на данных, рассказывать об актуальных технологиях в сервисе, и т. д.).

Интересуют СМИ о медицине, лайфстайле, ЗОЖ, технологиях и бизнесе.

Денег много за консультацию не предложим, мы стартап)
Но можем взамен предложить консультацию по любым вопросам, связанным с разработкой IT продуктов и внедрением AI.
Тут у нашей команды максимальная экспертиза.

Буду благодарен за ваши отклики и рекомендации таких специалистов!

AI-сервисы для интернет-магазинов от ASAP

В конце прошлого года мы в ASAP стратегически решили развивать линейки собственных продуктов.

В первую очередь в отраслях - где у нас сильная экспертиза, опыт и клиентский портфель.
Это ecommerce и promtech.

Начали c екома и сегодня я готов представить 4 наших AI-продукта:
• AI Sales
• AI Price manager
• AI Content
• AI Закупщик (в разработке)

Вы возможно подумате что многовато AI, но времена такие)

Расскажу немного подробнее про первый - AI продавец для интернет-магазина.

Обучен на вашей номенклатуре, сайте, базе знаний и других материалах.

Автоматизирует первичные консультации по подбору и сравнению товаров - повышение конверсии.
Рекомендует сопутствующие товары и комплектующие - рост среднего чека покупки.
В ответах предлагает релевантные карточки товаров и категорий, быстрый переход к корзине и оформлению заказа.
Поддерживает текстовый и голововой ввод запросов.
И что крайне важно в мире AI-чатов - понимает когда нужно подключить к диалогу человека!

Интегрируется во все каналы коммуникации с клиентами - на сайт, в мобильное приложение и т.д.

Мы много лет работаем с интернет-магазинами.
В прошлом году мобрали команду DS специалистов с опытом работы в крупнейших екомах и маркетплейсах.

В совокупности сейчас у нас экспертиза в ведущих технологиях и продуктовых решениях по применению AI в ecommerce совмещена с глубоким пониманием специфики работы малых и средних торговых компаний.

В комментарии к посту приложу презентации 3-х продуктов.
Пишите любые вопросы по продуктам мне в комментарии и личные сообщения - первым клиентам предлагаем лучшие условия!
И выгодные партнерские предложения для IT-компаний, если у вас есть клиенты, которым будут актуальны наши продукты!

MedGemma и вайбкодинг

1. Недавно я прочитал про модель MegGemma (специализированная медицинская модель от Google) и захотел её потестировать.
Модель открытая, но API нет, нужно настраивать на своём сервере.
2. Я давно хотел попробовать вайбкодинг.
3. В декабре мы выиграли грант 300 000 на IT инфраструктуру от Selectel, который нужно потратить за 2 месяца.

3 этих обстоятельства привели к тому, что в пятницу вечером я арендовал сервер с A100 и решил навайбкодить telegram-бот для диалога с Medgemma)

4 вечера вайбкодинга, разбирательсв с сервером, моделью, квантизацией, токенизацией, мусорными токенами и прочими терминами, смысл которых я теперь понимаю лучше - и первая версия бота готова!

Пока смог запустить только 4b, на 27b сохраняется проблема с мусорными токенами.
Нормально генерирует она пока только на английском и медленно, но работает!

Про то, зачем мне вайбкодинг и его огромную пользу для менеджеров я напишу отдельный пост.
Там не будет про то, что AI заменит программистов)
Я по прежнему считаю что программировать должны программисты.

А сейчас просто вспомнил со времен когда сам работал разработчиком - ту маленькую радость от момента, когда ты что-то делал, делал и оно наконец заработало)

Дорабатывать проект и тестировать MedGemma буду уже завтра, а то и так 3 дня подряд по пол ночи вайбкодил)