По следам вчерашней дискуссии

Достаточно интересный вышел разговор. Так получилось, что собрались спикеры с разными точками зрения, поэтому по ряду вопросов, например, относительно рисков и регуляции ИИ получилось интересное обсуждение, где у каждой стороны были хорошие аргументы.

Почему в целом решили поучаствовать в этой дискуссии - считаем, что на тему ИИ стоит говорить как можно больше, поскольку большинство занимающихся этой темой людей понимает, какие невероятные возможности открывает технология, но в то же время и какие риски несет. Важно как можно больше об этом говорить, потому что ИИ и генеративный ИИ, в частности, в любом случае в ближайшие годы станет частью нашей ежедневной жизни, а во многом уже стал, просто не все это осознают.

Посмотреть дискуссию можно здесь

Мы наконец-то разобрались с разными операционными вопросами, поэтому начинаем вещать и делиться полезной информацией.

Решили начать с чего-то максимально популярного - RAG-ботов и рассказать, как мы разрабатывали такого бота и интегрировали с БД интернет-магазина, чтобы он был еще умнее.

Завтра пришлем в канал ссылку для подключения, а пока save the date

Напоминалка, что через час стартуем вебинар, ссылку пришлем перед началом

Мы начинаем, подключайтесь по ссылке

Как и обещали, делимся записью со вчерашнего вебинара. На всякий случай выложили сразу на несколько площадок)
- Youtube https://www.youtube.com/watch?v=SRQRmcxmHMM
- Rutube... https://rutube.ru/video/ab16bc9284587b9ecde60a1425f2473b/

В продолжение нашего вебинара еще делимся полезными ссылками из презентации:

1. Сервисы для подготовки входящих данных для RAG, особенно актуально для pdf с таблицами
- Unstructured https://unstructured.io/
- Llama parse https://github.com/run-llama/llama_parse

Ролик на 40 секунд, который показывает принцип работы Unstructured - https://www.youtube.com/watch?v=E-tupjji22U&t=1s&ab_channel=Unstructured

2. Лидерборд моделей эмбеддингов
Есть отдельный раздел для русского языка, и отдельный рейтинг по применению этих моделей к задаче Retrieval. Важное наблюдение тут, что модели OpenAI, которые все обычно используют для этой задачи, тут далеко не в топе. А первое место на текущий момент уверенно занимают https://www.voyageai.com/
https://huggingface.co/spaces/mteb/leaderboard

3. 12 проблем RAG и способы их решения
Там можно найти много инструментов и техник. Возможно, сделаем более подробный обзор этой статьи в будущем
https://towardsdatascience.com/12-rag-pain-points-and-proposed-solutions-43709939a28c

Пригласили выступить на Merge Conf в Сколково с чуть адаптированным докладом на тему ИИ-ботов в клиентской поддержке

Если собираетесь на конференцию - подходите пообщаться после выступления 🫰

Да, мы же тут еще сайт наконец себе доделали (почти), осталось только кейсы расписать, а в остальном уже выглядит хорошо

И небольшой анонс, что начали готовиться к вебинару на следующей неделе, так же планируем провести в четверг вечером. В этот раз думаем рассказать про наш проект, где с помощью LLM засунули в чат-бот персонажей мультфильма, которые общаются с пользователями

Помимо этого было еще много интересных доп.фичей:
- Объединение Intent-based и LLM-based логики ответов
- Отлавливание запретных тем в диалогах
- Алармы в телеграм при появлении запретных тем
- База знаний для дообучения в виде диалогов из мультфильма
- Переадрессация на оператора (администратора)
- И все это в формате бота в ВК

Хотя этот проект больше развлекательный, вся логика реализации отлично ложится на бизнес-задачи, например, для службы поддержки, поэтому ожидайте, скоро будет анонс со временем и датой вебинара.

Всех ждем)

Вошли в экспертную группу Рейтинга Рунета по "ИИ-разработчикам"

Нас тут позвали в экспертную группу Рейтинга Рунета (ratingruneta.ru) для работы над новым рейтингом "ИИ-разработчики"

Вообще года 3-4 назад еще вместе с PR-менеджером ходили по рейтингам с предложением, чтобы создать рейтинг ИИ-разработчиков. Уже тогда компаний было много, рынок немаленький, а каких-то рейтингов специализированных до сих пор не было. И вот наконец мы дождались, Рейтинг Рунета запускает такой рейтинг, где мы в числе рабочей группы будем формировать требования и критерии для оценки ИИ-компаний для рейтинга

И в связи с этой нашей новой активностью нам придется на неделю подвинуть вебинар, поэтому проведем его в следующий четверг (7 ноября)

В ближайший четверг расскажем, как сделали ИИ-аватаров в ВК-боте

Наконец-то возвращаемся с темой нового вебинара, который проведем в ближайший четверг (14 ноября) в 19.00

На вебинаре расскажем про наш интересный кейс, в котором нужно было:
1. Создать умного аватара на базе GPT в формате текстового бота в ВК, который должен общаться как один из персонажей мультсериала
2. Задать фильтрацию запросов на Х тем, которые не должны обсуждаться в боте
3. Добавить intent-based логику ответов на определенные запросы (в том числе с ответами в виде медиафайлов)
4. Разработать линейные линейные механики в соседних разделах бота и много чего другого

Save the date:
14 ноября. 19:00

Напоминалка, что через час стартуем вебинар, ссылку пришлем перед началом

Начинаем через пару минут, подключайтесь по ссылке

Для всех, кто вчера не смог подключиться на вебинар, по традиции, сделали запись и выложили на наши каналы:
- Youtube https://www.youtube.com/watch?v=sRPDXH6xKhw
- Rutube https://rutube.ru/video/145c55a10b25ea428bd595cd877ffc87/

Выступили на Merge

На прошлых выходных выступили на конференции Merge в Сколково, рассказали про RAG-ботов в клиентской поддержке.

Приветствуем всех, кто подписался с конфы)

По мотивам одного из наших вебинаров написали небольшую статью с ключевыми мыслями по внедрению RAG-бота в службу поддержки.

Поддержите нас лайком, если не сложно)

https://habr.com/ru/articles/864240/

Забыли про нас? А мы вот про вас нет

Возвращаемся с полезностями

Сколково пригласили выступить на своем мероприятии, а мы и согласились. Завтра наш СТО и кофаундер Андрей Богомолов расскажет:
- Как можно использовать LLM в бизнес-приложениях
- Для чего и когда использовать Chain-of-Thoughts
- Как с помощью Structured Output повысить точность работы LLM

Приходите послушать - 15 мая (завтра) в 09:00. Все будет онлайн, а зарегистрироваться можно здесь

🏆 Стали топ-6 разработчиком ИИ в России

Вчера Рейтинг Рунета опубликовал первый рейтинг по ИИ-разработчикам, где мы заняли 6-е место

Скоро планируем провести вебинар по Structured Output, и как его использовать для повышения качества выдачи LLM-моделей на примерах реальных кейсов. Лайк, если интересно про это послушать

А еще напишите в комментариях, если есть какие-то темы, которые интересны в области GenAI, подумаем, что интересного можно будет рассказать по ним

Вебинару быть!

В прошом посте получили много лайков, поэтому собрались и подготовили материал для проведения вебинара на тему Structured Output + Chain of Thoughts.

Расскажем о том, как использовать Structured Output для повышения качества выдачи LLM-моделей на примерах реальных кейсов, поэтому save the date:
Четверг (03.06) в 18.00

Ссылку отправим незадолго до начала.

До встречи!

Напоминалка

Через 2 часа стартуем вебинар, ждем вас)