Neural Deep
7.65K subscribers
308 photos
44 videos
3 files
199 links
Head of AI redmadrobot.ru

6 лет: 0>>>Head of AI
AI Infrastructure | Production RAG

Local inference
RAG (2M+ книг)
RAG chat bot (5М+ токенов)
B2B платформа (10+ клиентов)
B2C gptdaisy.com (100k MAU)

Код, кейсы
github.com/vakovalskii | @neuraldeepchat
Download Telegram
Привет! Тут свежие новости: Runway и Luma AI запустили API для создания видео. Теперь у всех есть доступ к API Luma AI, которая позволяет делать видео из текста или картинок. Это стоит всего ~0.4$ за пятисекундное видео 720p.

И главное: скоро вы сможете пользоваться этим в @fastpixel_bot! Нахожусь в процессе подсчёта экономики для LumaAI

Ranway пока только по запросу выдает доступ =(

Подробнее читайте здесь: https://the-decoder.com/runway-and-luma-ai-release-apis-for-ai-video-generation/
👍84🔥3
Neural Deep
Привет! Тут свежие новости: Runway и Luma AI запустили API для создания видео. Теперь у всех есть доступ к API Luma AI, которая позволяет делать видео из текста или картинок. Это стоит всего ~0.4$ за пятисекундное видео 720p. И главное: скоро вы сможете пользоваться…
This media is not supported in your browser
VIEW IN TELEGRAM
LumaAI API

Жесткая экономика от Luma AI: за 4 видео, одно из которых не удалось, с меня сняли 700 рублей за API. Да, я генерировал видео в формате Full HD продолжительностью 5 секунд.

В интерфейсе можно купить подписку за 30 долларов и получить 120 генераций, что в пересчете составляет примерно 25 рублей за видео. API кусается по цене чуть сильнее

API опробовано. Начинаю встраивать в бота платежи и генерацию видео из изображений!
👍8😁42
Automatic для меня теперь в прошлом
Теперь я все собираю на СomfyUI
Тут кстати эксперименты с IP adapter + FLUX

workflow и ссылка на модели в комментариях
🔥11👍6
Еще сегодня провожу эксперименты по локальной анимации

Запустил на своей 4090 скажу я так что в целом за 9 минут генерации я получил то что хотел)

Как советовали мне в комментариях собрал этот репо себе локально
https://huggingface.co/THUDM/CogVideoX-5b-I2V

В целом результатом я доволен
10🔥8👍64
OpenAI завершает очередной раунд финансирования на сумму $6,5 миллиарда

OpenAI, ведущий стартап в области искусственного интеллекта, завершает очередной раунд финансирования на сумму $6,5 миллиарда, сообщает Bloomberg. Инвесторы ожидают узнать в пятницу, станет ли их участие в сделке возможным, согласно источникам, знакомым с ситуацией.

Раунд финансирования оказался переподписанным, то есть сумма заявок от инвесторов превышает сумму, которую компания готова принять. Со слов источников, пожелавших остаться анонимными, спрос на участие в инвестиции исчисляется миллиардами долларов, и некоторые инвесторы в пятницу узнают, что не прошли отбор.

OpenAI отказалась от комментариев .

Некоторые стратегические инвесторы, включая основного партнера OpenAI - корпорацию Microsoft, а также новых участников, таких как Nvidia и Apple, скорее всего, получат возможность принять участие в сделке.

Последний раунд финансирования оценивает OpenAI в $150 миллиардов, не учитывая новой инвестиции, сообщили Bloomberg знакомые с ситуацией источники. Ранее компания оценивалась в $86 миллиардов.
👍73🔥3
Neural Deep
RAG что это? Не кидайте тапками, я пробую такой формат первый раз! Как и обещал, присылаю полную запись сегодняшнего интро по Self RAG. Мы начали с самого простого: что такое RAG и как он работает! На следующем занятии мы рассмотрим, как создать такой RAG…
Всем привет!

И так уже через 10 минут стартуем продолжение курса по RAG

Сегодня мы в режиме онлайн создадим с вами RAG через интерфейс и через код на базе нашей платформы
Загрузим и разметим данные
Создадим промпт
И протестируем телеграм бота
🔥94👍2
Media is too big
VIEW IN TELEGRAM
Ура! прошел наш второй интеснив по RAG

Self RAG на базе платформы NDT

Рассмотрели как загрузить данные
Как управлять промптов и какие есть настройки

Все кто был записан получили материалы и аккаунт на 3 недели

Так же рассмотрели как создать подключение через python к своему RAG
- Как выбрать модель
- Как правильно разметить данные
- Как разбить на чанки по методу "Скользящего окна"
- Как подобрать промпт под ваш RAG
- Как создать простого телеграм бота который будет отвечать по вашему RAG

#intensive
2.55K🔥176
*треск костра*
😁105
"Они не знают, что у нас лучшее регулирование ИИ."
😁11🔥221
Совпадение?
😁207🔥3
Тебе не нужен нетворк

Все говорят: надо расширять нетворк! Знакомиться с людьми, кофе с ними пить, с днем рождения поздравлять. А чтобы что? 🤔

Я понаехал в Москву из Сибири в 2017 году. Продавал ИТ в гос.сектор, потом делал консалтинг для корпоратов. Но в моей записной книжке не осталось ни одного министра или большого начальника из числа многих, с кем довелось поработать. Я даже пробовал такой нетворк проворачивать. Вот знаешь человека по работе, зовешь его на кофе, встречаетесь, глядите друг на друга, а разговора содержательного не получается. Потому что и сказать особо нечего.

Почему так? Да потому что нет содержания, которое можно положить в ядро этой коммуникации. А люди без содержания и позиции мало кому интересны, кофе тут не поможет. У меня есть парочка таких нетворкеров в окружении, регулярно зовут куда-нибудь повстречаться. Я пару раз сходил, больше не хожу. Потому что не интересно.

Но даже если есть содержание, его надо куда-то положить. Должна быть готовность человека с тобой это содержание обсуждать. Это значит, у вас должен быть определенный бэкграунд, который эту готовность формирует с обоих сторон. И я не знаю другого способа этим бэкграундом обзавестись, кроме как с человеком какое-то дело вместе поделать. Чтобы:

А - прояснить позиции друг друга и понять, вы на одной волне, или нет. А то бывает так, что с человеком в одном поле **** не сядешь.
Б - прояснить супер-силы друг друга. Поработать над конкретным содержанием и посмотреть, не расходятся ли слова с делом.

Вот когда есть эти три штуки: содержание, позиция и супер-силы, тогда и нетворк есть. А всё остальное - это коллекционирование мертвых душ в записной книжке.
5👍82😁2
Всем привет! Что-то я давно не писал лонгридов, а только пересылал посты из моего наблюдения.

И накопилось порядком много тем которые я прорабатывал последний месяц, вот пришел спросить у вас, что вам было бы интересно почитать.
Проголосовать можно в комментариях про что рассказать первым

1) Эксперименты с этой статьей, а именно Контекстуальный RAG (честно, гибридный поиск примерно так же дает по приросту качества bm25 + vector но добавлена контекстуальная разметка)

2) Провел полный цикл разработки агентского GuardRails (кратко: защитник от галлюцинаций в RAG)

3) Провел эксперименты с продуктом на базе FLUX + Luma и собрал интересную статистику

4) Развернул-таки Llama-3.2-11B-Vision на одной 4090 FP16

5) Собрал мультиагентную сеть супервизора с RAG агента, SQL агента + Response агента на базе vllm + lm-format-enforcer, и фишка тут, наверное, что все локально на llama-70b

6) Доработал свою систему тестирования RAGAS на базе локального агента llama-70-b, получил хорошую визуализацию и отчеты

О, ну и самое главное, что в написании кода и решение всех рабочих задач я переехал на Claude-3.5-sonnet, про это тоже отдельно расскажу.
5510🔥7👍1
😁102
А вот это дико круто с 3 запроса и ожидания в 3 недели я все таки получил доступ к апи runway, пошел тестировать и встраивать!
🔥92
Ну что, еще одна ночь впереди и я закончил интеграцию генерации img2video на базе Runway в своего бота, очень скоро сделаю крупный анонс этого инструмента и сейчас я уже вижу как это превращается в end2end решение и объясню чем же я решил отличится от других сервисов

1) Люди не знают и не умеют писать промпты даже для миджорни или FLUX это я решил локальной LLM которая за вас переводит и додумывает промпт

2) На промптах и лорах я поднял генерацию логотипов тут были сложности но кажется я добился стабильного результат

3) Генерация видео это вообще закрытый ящик сейчас но я собрал лучший подход и обучаю пользователя генерировать видео в планах прикрутить Vision модель что бы она предлагала топ 3 варианта анимации от вашей задачи


Напишите в комментариях как бы вы использовали такой инструмент?
👍11🔥44