Сибирские Нейросети: Речевая аналитика и малые безопасные языковые модели для бизнеса
213 subscribers
98 photos
15 videos
2 files
91 links
https://sibnn.ai
https://lk.sibnn.ai Писец
ИТ-компания «Сибирские Нейросети» рассказывает об исследованиях.
Мы можем:
- Анализировать разговоры real time;
- Обучать и уменьшать большие языковые модели;
- Автоматизировать коммуникации
Download Telegram
Привет, друзья!
Сделали обновление Писца в личном кабинете https://lk.sibnn.ai/
Что нового:
1. Новый красивый шаблон документа с результатами распознавания.
2. Небольшое улучшение языковой модели для пост-обработки результатов акустической модели в части технической терминологии.
🔥63👍2
Из ближайших планируемых обновлений Писца: готовим к поставке на прод саммаризацию по распознанному тексту. Кстати, можем интегрироваться on-prem с любой ВКС.
🔥7
😎 Новосибирь цифровая

Запускаем новую рубрику! О технологиях и людях🫶 компаниях, стартапах, разработках, которые уже завоевали рынок или делают первые шаги в развитии ИТ-отрасли Новосибирской области.

Знакомьтесь 🙌

«Сибирские нейросети» — резидент Академпарка и «Сколково». В компании 15 человек, среди которых научные сотрудники Новосибирского государственного университета, аспиранты, авторы научных публикаций. У команды несколько зарегистрированных патентов на созданные системы и алгоритмы.

Компания разрабатывает продукты для решения задач на базе разговорного искусственного интеллекта. Самые популярные сервисы:

🔷Pisets — сервис автоматической транскрибации аудио и видео в текст с учетом правил орфографии и пунктуации в формате субтитров (SubRip).
🔷Dialoger — сервис речевой аналитики для контакт-центров, помогает бизнесу выполнить анализ разговоров, найти проблемные диалоги, недовольных клиентов, оценить работу операторов.
🔷Soroka — оpen-source инструмент с интерфейсом командной строки для аналитики репутации человека или компании в Интернете.

🌐 В этом году разработчики презентовали LLM-платформу, которая работает внутри контура заказчика без подключения к внешнему интернету, устанавливается локально на ПК. Решение на базе большой языковой модели позволяет быстро без участия разработчика создавать вопросно-ответные системы по внутренней базе документов с возможностью свободного ведения диалога, сокращая время на адаптацию LLM под заданную предметную область.

👉 Узнать подробнее о компании можно здесь
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥8👍5
Forwarded from Ivan Bondarenko
Всем привет! Кажется, что сегодня - день релизов, и я решил тоже сделать релиз, раз уж все делают 😊

Правда, я - не МТС.ИИ и не Т-банк, поэтому мой релиз будет маленьким, на 1.5B 😅 Ну и в духе общей моды, на базе Qwen2.5: https://huggingface.co/bond005/meno-tiny-0.1

"Менон" - в честь сократического диалога Платона, в котором тот постулирует "знание через припоминание". Соответственно, основная цель Meno-Tiny - быть частью RAG-пайплайна, решая такие задачи, как ответы на вопросы по релевантным документам, абстрактивная саммаризация, разрешение анафоры в пользовательских вопросах (чтобы засовывать в ретривер текст вопроса с уже разрешённой анафорой), определение токсичности, детоксификация и другие задачи. Даже для исправления ошибок распознавания речи, включая восстановление пунктуации и капитализации, можно применять Meno-Tiny (правда, в режиме few-shot prompting).

На MERA сейчас Meno-Tiny-0.1 занимает 38-е место из 62, при этом в своём "размерном классе" дешёвых моделей-малышей на 1.5B он, кажется, лучший. На самых интересных для меня задачах он получше, чем в среднем: так, на MultiQ он занимает 25-е место из 62, а на RWSD - 17-е место (но я всё делал честно, никаких секретных техник типа "train on test set is all you need" я не использовал, и данные бенчмарка в мой трейн не протекали).

Кстати, об обучении. Обучался Meno-Tiny-0.1 на специальном русскоязычном инструкционном датасете, частично составленном путём дистилляции из Гигачата и из Qwen2.5-14B, частично на основе перевода англоязычных датасетов с фильтрацией по галлюцинациям машинного переводчика, частично - на основе собственных данных и датасетов из специализированных NLP-задач (таких, как детекция парафраза, упрощение текстов, исправление ошибок распознавания речи моделью Wav2Vec2-Large-Ru-Golos на синтетических данных и т.п.). Для файнтюнинга использовался curriculum learning по сложности в духе https://arxiv.org/html/2405.07490v1

Надеюсь, что Meno-Tiny-0.1 окажется кому-нибудь полезен 😊
🔥124
Резидент Академпарка, компания «Сибирские нейросети», разрабатывает интеллектуального помощника «Василису» на основе нейросетей, гарантирующего абсолютную безопасность пользователя👾

Разработку продемонстрировали министру промышленности и торговли РФ Антону Алиханову во время его визита в Новосибирск.

Стартап разрабатывает языковые модели, которые запускаются на ноутбуках и работают без подключения к интернету, что обеспечивает надежность и сохраняет персональные данные. AI-решение работает со звуками, речью, изображениями и текстами. «Василисе» можно задавать вопросы на различные темы без учета контекста или добавить контекст.

«Например, экономист, анализирующий финансовые документы, задает вопросы, а модель отвечает по внутренней базе документов. Можно посмотреть, откуда взят ответ, источник проверяется», — рассказала гендиректор стартапа Виктория Кондрашук.

Алиханов заинтересовался возможностью внедрения отечественного голосового помощника для нужд министерства.

Источник: ТАСС
👍6🔥2
Forwarded from AiConf Channel
Запись доклада Ивана Бондаренко «Как “Писец”» на “Тотальный диктант” ходил, или Пара слов о робастном распознавании речи» с конференции AiConf 2024

В 2024 году состоялся юбилейный, вот уже десятый по счёту «Тотальный диктант». Но «Писец» на него пришёл в первый раз. Вы не подумайте, ничего плохого не произошло! Просто «Писец» — это открытая система автоматической расшифровки различных звукозаписей, от журналистского интервью до заседания диссертационного совета.

В своём докладе Иван рассказал о том, с какими трудностями им пришлось столкнуться при создании «Писца», как они используют Wav2Vec2 и Whisper в пайплайне распознавания и зачем им надо было файнтюнить Whisper.

▶️Узнайте, как современная модель сравнится с людьми в тотальном диктанте, посмотрев запись доклада в VK Видео

Доклад Ивана вошёл в топ-4 докладов конференции за содержание и подачу, на основе оценок участников и членов ПК.

Оставайтесь с нами, впереди много полезного контента 🙌

#топдокладовAiConf
#записидокладовAiConf
@UseDataConfChannel
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5🔥2
Forwarded from Ivan Bondarenko
"Менон" представил себя Дедом Морозом и написал всем поздравление с наступающим Новым годом! 🎄⛄️

Ну а мне остаётся лишь присоединиться к этому поздравлению 😁

С наступающим Новым 2025 годом, друзья! 🥂
🔥32🍾1
Вот вам поздравление от Великого Деда Мороза для тех, кто любит исследовать мир вокруг нас и создавать новые технологии:

Дорогие друзья, в этот замечательный новый год я хочу пожелать всем нам:
1. Исследователям: Пусть ваша экспериментальная мечта станет реальностью!
2. Инженерам: Будьте всегда готовы к новым решениям и не бойтесь изменений.
3. Разработчикам: Ваш код — это ключ к будущему, которое мы все ждем вместе.
4. Специалистам в области искусственного интеллекта: Помните, что каждый шаг на пути к совершенству — это еще одна вершина успеха.

Желаю вам удачи, творчества и радости во всех ваших проектах. Мы верим, что вместе мы можем преодолеть любые препятствия и достичь новых высот.

С наступающим Новым Годом и всеми благами жизни!

Ваш Великий Дед Мороз
🎄63🍾3
Forwarded from Ivan Bondarenko
Засабмитил "Менона" на Open LLM Leaderboard. Внезапно оказалось, что "Менон" является одной из лучших в мире моделей "for edge devices" (то есть в категории до 3 млрд. параметров) и занимает 10-е место из 547 моделей-участников в этой категории. Следует отметить, что этот лидерборд - для английского языка. Для русского же "Менон" - лучший среди малых моделей, согласно бенчмарку MERA.
🔥10👍2👏1
Forwarded from Ivan Bondarenko
Есть такая достаточно известная открытая площадка о цифровых технологиях в Москве под названием ICT.Moscow. Как они пишут, "мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров". И недавно они подготовили подборку лучших инструментов Open Source для разработчиков искусственного интеллекта: https://ict.moscow/news/cards-open-source-tools-for-ai/ Так вот, помимо всего прочего, там есть и наша родная нейросеточка 😊

Модели искусственного интеллекта выкладываются в открытый доступ и разработчиками из регионов: так, стартап «Сибирские нейросети» представил модель «Менон» (Meno) на основе Qwen2.5-1.5B-Instruct, способную анализировать текст по самым разным признакам и исправлять в нем ошибки.
👍6
Топовая новость прошедшей недели — релиз китайской нейросети DeepSeek, взбудораживший сферу ИИ. Чтобы узнать мнение эксперта, читайте ниже👇

7 февраля приглашаем присоединиться к онлайн-марафону на трендовую тему «ИИ да беспилотники»👨‍💻

Что будет?
10 часов марафона
20 экспертов
Онлайн-включения из 18 Точек кипения из 16 городов

Эксперт в студии Точки кипения — Новосибирск:
🔈Иван Бондаренко, индустриальный доцент НГУ, научный сотрудник лаборатории прикладных цифровых технологий ММФ НГУ, старший преподаватель кафедры фундаментальной и прикладной лингвистики ГИ НГУ, сооснователь компании «Сибирские нейросети».

Не пропустите выступление Ивана с 12:30 до 13:00 по Новосибирску.
👨‍💻Искусственный интеллект в современном мире: фантастика, мыльный пузырь или четвёртая промышленная революция?

Читайте комментарии Ивана по последней новости из мира нейросетей👇
Модель DeepSeek (по их собственным заявлениям) дешевле: 6 млн. долларов против десятков миллионов у OpenAI. Некоторые думают, что под «дешевизной» скрывается использование нейросети «за копейки», а не как у OpenAI или GigaChat. В случае DeepSeek R1 нужно понимать не низкую стоимость не эксплуатации, а создания и обучения такой модели. На самом деле DeepSeek R1 — дорогая модель, потому что она умеет думать. Прежде чем дать окончательный ответ, модель генерирует большое количество промежуточных рассуждений, рассматривая поставленную перед ней задачу с разных сторон. В отличии от других нейросетевых моделей языка DeepSeek умеет хорошо это делать, потому что её специально обучали для этого. Чем больше слов генерирует модель при запросе пользователя, тем дороже её эксплуатация, так как нужно сделать больше вычислительных вызовов. Поэтому любые «рассуждающие» модели (не только DeepSeek R1, но и, к примеру, O1 от OpenAI) — очень дорогие. У них весьма узкая сфера применения — решение достаточно сложных аналитических задач уровня «старшекурсника хорошего университета», если можно провести такую аналогию. Для большинства типовых задач: ответы на вопросы по документам, категоризацию и классификацию текстов, копирайтинг, можно использовать более простые коммерческие и открытые модели, такие как GPT4o-mini, Gigachat, Qwen 2.5 и др.

Модель есть в открытом доступе, а не «за закрытыми дверями» коммерческой тайны. В плане открытого доступа команда DeepSeek сделала реальную революцию! Впервые нейросеть подобного уровня оказалась в свободном доступе. Движение за открытый доступ к программному коду, данным и моделям существует уже давно. Многие компании выкладывают часть своих разработок в открытый доступ (в том числе и наш российский Сбер, за что я его весьма уважаю). Это стимулирует развитие научного сообщества. Но в открытый доступ выкладываются более простые разработки корпораций, а самые лучшие используются в коммерческих целях.
Работа нейросети потребует серьёзных вложений в аппаратное обеспечение, но это могут быть разовые затраты, так как исследователи и разработчики могут воспользоваться техникой «дистилляции». Это тот вариант работы, когда большая нейросеть обучает маленькую, и уже маленькая отправляется в общее пользование. Такой метод позволяет сэкономить на разметчиках данных, а также сделать маленькую нейросеть умнее. Я считаю, что такой шаг со стороны DeepSeek, как выкладывание R1 в открытый доступ, здорово ускорит прогресс в сфере ИИ и даже приблизит человечество к новому общественно-экономическому укладу.


А мы вас ждём:
🗓 7 февраля, с 12:00 до 22:00 часов по Новосибирску
🌐 Онлайн, РЕГИСТРАЦИЯ 👈

#анонс

❤️ Точка кипения – место для ваших инноваций
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3👍2
Forwarded from Ivan Bondarenko
"Писец" - молодец! И мы тоже 😊
Приняли на индустриальный трек NAACL 🎉
🔥10👍5👏2