Neural Deep
Как создать свою умную базу знаний с помощью RAG и LLM (уровень сложности 1) В последнее время термин RAG (Retrieval-Augmented Generation) стал часто встречаться в обсуждениях технологий искусственного интеллекта. Это слово мелькает повсюду: "RAG это", "RAG…
Привет всем!
И вот, наконец, мы нашли время с моим LLM инженером и собрали для вас материалы. Далее, в течение следующей недели, я поделюсь информацией с теми, кто записался на курс. Их оказалось больше 30 человек, поэтому мы разделили их на две группы:
1) Те, кто хотел проверить свои силы в создании RAG агента через фронтенд.
2) Те, кто хотел создать RAG агента через код, используя наше АПИ.
Тайминг следующий:
1) В течение этой недели мы разделем вас на две группы и пришлем всем уведомление в ЛС.
2) Через 2 недели проведем вводный стрим в zoom, где я расскажу вводную информацию про RAG и что это такое, также отвечу на вопросы (1 час).
3) Максимально быстро вы получите материалы и доступы для самостоятельного изучения.
4) Через пару дней проведем еще один стрим с лайв кодингом, где я покажу, как создать агента через вэб и через код (2 часа).
Далее вы сможете задавать вопросы мне в лс либо под постами со стримами!
Все будет записываться и выкладываться сюда в канал.
И вот, наконец, мы нашли время с моим LLM инженером и собрали для вас материалы. Далее, в течение следующей недели, я поделюсь информацией с теми, кто записался на курс. Их оказалось больше 30 человек, поэтому мы разделили их на две группы:
1) Те, кто хотел проверить свои силы в создании RAG агента через фронтенд.
2) Те, кто хотел создать RAG агента через код, используя наше АПИ.
Тайминг следующий:
1) В течение этой недели мы разделем вас на две группы и пришлем всем уведомление в ЛС.
2) Через 2 недели проведем вводный стрим в zoom, где я расскажу вводную информацию про RAG и что это такое, также отвечу на вопросы (1 час).
3) Максимально быстро вы получите материалы и доступы для самостоятельного изучения.
4) Через пару дней проведем еще один стрим с лайв кодингом, где я покажу, как создать агента через вэб и через код (2 часа).
Далее вы сможете задавать вопросы мне в лс либо под постами со стримами!
Все будет записываться и выкладываться сюда в канал.
🔥14 10
Новая модель от OpenAI: o1
OpenAI представила новую языковую модель o1, которая значительно превосходит GPT-4o по различным показателям. Модель o1 демонстрирует выдающиеся результаты в задачах, требующих сложных рассуждений, таких как соревновательное программирование, математические олимпиады и вопросы научного уровня PhD. Однако для более простых задач, где сложные рассуждения не требуются, её преимущества менее заметны.
Основной прорыв модели o1 заключается в способности масштабировать инференс через Chain of Thought (CoT). Чем больше вычислительных ресурсов используется, тем лучше результаты модели.
Модель o1 доступна с сегодняшнего дня для всех пользователей API и подписчиков ChatGPT, а также для разработчиков пятого уровня (те, кто потратил более $1k на API).
Подробнее об этом можно узнать в официальном посте анонса: Learning to Reason with LLMs .
🍓 o1 - новая моделька от OpenAI, та самая!
https://openai.com/index/learning-to-reason-with-llms/
OpenAI представила новую языковую модель o1, которая значительно превосходит GPT-4o по различным показателям. Модель o1 демонстрирует выдающиеся результаты в задачах, требующих сложных рассуждений, таких как соревновательное программирование, математические олимпиады и вопросы научного уровня PhD. Однако для более простых задач, где сложные рассуждения не требуются, её преимущества менее заметны.
Основной прорыв модели o1 заключается в способности масштабировать инференс через Chain of Thought (CoT). Чем больше вычислительных ресурсов используется, тем лучше результаты модели.
Модель o1 доступна с сегодняшнего дня для всех пользователей API и подписчиков ChatGPT, а также для разработчиков пятого уровня (те, кто потратил более $1k на API).
Подробнее об этом можно узнать в официальном посте анонса: Learning to Reason with LLMs .
🍓 o1 - новая моделька от OpenAI, та самая!
https://openai.com/index/learning-to-reason-with-llms/
🔥5 2
Forwarded from epsilon correct
Пример решения довольно нетривиальной задачки, с которой текущие модели не справляются
This media is not supported in your browser
VIEW IN TELEGRAM
Пока что единственная модель которая смогла в задачу по ТРИЗ про Марсоход
Условие:
Решение:
СoT:
На данный момент это единственная модель, которая смогла справиться с задачей по ТРИЗ. Самое крутое — это видимость цепочки Chain of Thought (CoT) рассуждений
Ну и на фоне этого OpenAI ведет переговоры о привлечении от инвесторов $6,5 млрд при оценке более чем в $150 млрд.
Компания TikTok: она оценивалась в $268 млрд. На втором месте — SpaceX, которая в декабре 2023 года оценивалась в $180 млрд.
Условие:
Во время научной экспедиции на Марс, космический корабль произвёл посадку в долине. Астронавты снарядили марсоход для лучшего изучения планеты, но как только покинули корабль, столкнулись с проблемой. Дело в том, что по поверхности было сложно передвигаться - этому мешали многочисленные холмы, ямы, большие камни. На первом же склоне колёсный вездеход с надувными шинами перевернулся на бок. С этой проблемой астронавты справились - они прицепили снизу груз, что усилило устойчивость машины, но стало причиной новой проблемы
- груз задевал неровности, что усложняло движение. Итак, что нужно сделать, чтобы повысить проходимость марсохода? При этом у космонавтов нет возможности изменять его конструкцию.
Решение:
Техническое противоречие сформулировано в условии задачи. Идеальный конечный результат - достичь абсолютной проходимости. При этом космонавты действуют в условиях Марса, у них нет возможности изменять конструкцию марсохода. Исходя из этого, ресурсом выступает груз. Не стоит также забывать и о законах развития технических систем, и следить за тем, чтобы изменение одной части не влияло на функционирование других элементов. Памятуя об этом, становится очевидным, что поднять груз в кабину или на крышу невозможно, так как произойдёт смещение центра тяжести и проблему решить не удастся. Спустить воздух из шин также нельзя - устойчивость немного повысится, но пострадает проходимость, усилится тряска.
Чтобы понять, как поступить с грузом, и получить сильное решение, нужно вспомнить, как мы обычно поступаем в условиях нехватки места? Стараемся разместить всё максимально компактно: объединить, сложить одно в другое. В ТРИЗ такой приём получил название «матрёшка». С её помощью задача про марсоход легко решаема: груз (металлические шарики, тяжёлая жидкость) нужно поместить внутрь шин. Этот способ имеет применение на практике, его предложил использовать японский изобретатель П. Шохо, для повышения устойчивости и проходимости кранов и погрузчиков.
СoT:
Изучаю проблему
Астронавты сталкиваются с трудностью передвижения по Марсу из-за неровного рельефа. Марсоход с надувными шинами не справляется, поэтому они устанавливают груз для повышения устойчивости, что приводит к новым трудностям.
Изучаю трудности
Астронавты сталкиваются с неровной почвой. Прицеп наталкивается на препятствия. Это подсказывает, что стабильность и проходимость важны.
Предлагаю улучшить пассажиропроходимость робота, решив проблему с гравитацией.
Преодолевая препятствия
Я размышляю о том, как улучшить проходимость ровера без изменения его конструкции. Перевести груз на другое место, которое бы понизило центр тяжести и не мешало движению по неровной местности.
Ищу решения
Пытаюсь перераспределить нагрузку, использовать тросы или кабели для стабилизации роувера.
Ищу оптимальные решения
Рассматриваю возможность планирования маршрута для повышения проходимости роувера, привлечения дополнительной стабильности и уменьшения веса.
Перемещение груза
Я думаю о том, что может быть целесообразным перемещать груз на нижние стороны автомобиля, чтобы снизить центр тяжести, избегая при этом контакта с землей.
Перераспределяю груз
Астронавты могут улучшить проходимость марсохода, перераспределяя вес, чтобы снизить центр тяжести, не меняя его конструкцию.
Ищу новые подходы
Пожалуй, рассматриваю снижение центра тяжести автомобиля, спуская шины или заполняя их жидкостью.
Заполняю шины песком
Астронавты заполняют надувные шины марсохода песком или реголитом. Это помогает снизить центр тяжести, увеличить стабильность и избежать прикасания груза к неровной поверхности.
На данный момент это единственная модель, которая смогла справиться с задачей по ТРИЗ. Самое крутое — это видимость цепочки Chain of Thought (CoT) рассуждений
Ну и на фоне этого OpenAI ведет переговоры о привлечении от инвесторов $6,5 млрд при оценке более чем в $150 млрд.
Компания TikTok: она оценивалась в $268 млрд. На втором месте — SpaceX, которая в декабре 2023 года оценивалась в $180 млрд.
🔥8
Нашел окно провести kick off встречу по RAG интенсиву на следующей неделе
17 Сентября вторник в 11:30
все кто записался получат приглашение
Запись для тех кто не сможет подключится пришлем отдельно
Так же нарезки выложу отдельно в канал
#intensive
17 Сентября вторник в 11:30
все кто записался получат приглашение
Запись для тех кто не сможет подключится пришлем отдельно
Так же нарезки выложу отдельно в канал
#intensive
10🔥16
Утечка дорожной карты по достижению AGI от OpenAI
OpenAI представила пятиуровневую систему достижения AGI. Вот как выглядит этот путь:
1. Уровень 1: Чат-боты — ИИ с разговорным языком.
2. Уровень 2: Рассуждения — Решение проблем на уровне человека.
3. Уровень 3: Агенты — Системы, способные выполнять действия.
4. Уровень 4: Инноваторы — ИИ, помогающий в изобретениях.
5. Уровень 5: Организации — ИИ, выполняющий работу целой компании.
С релизом o1 мы находимся на пороге Уровня 2.
Следующий большой шаг может означать ИИ, умнее вашего самого гениального друга.
Последние 10 лет стоим на пороге открытия AGI 😂
OpenAI представила пятиуровневую систему достижения AGI. Вот как выглядит этот путь:
1. Уровень 1: Чат-боты — ИИ с разговорным языком.
2. Уровень 2: Рассуждения — Решение проблем на уровне человека.
3. Уровень 3: Агенты — Системы, способные выполнять действия.
4. Уровень 4: Инноваторы — ИИ, помогающий в изобретениях.
5. Уровень 5: Организации — ИИ, выполняющий работу целой компании.
С релизом o1 мы находимся на пороге Уровня 2.
Следующий большой шаг может означать ИИ, умнее вашего самого гениального друга.
Последние 10 лет стоим на пороге открытия AGI 😂
🔥7😁3
Уже завтра стартует первый онлайн звонок по Self RAG
Все кто успел записаться в августе в первый поток получили приглашения на почту жду вас там проведем вводную встречу!
#RAG #intensive
Все кто успел записаться в августе в первый поток получили приглашения на почту жду вас там проведем вводную встречу!
#RAG #intensive
🔥11 5
Media is too big
VIEW IN TELEGRAM
RAG что это?
Не кидайте тапками, я пробую такой формат первый раз!
Как и обещал, присылаю полную запись сегодняшнего интро по Self RAG. Мы начали с самого простого: что такое RAG и как он работает!
На следующем занятии мы рассмотрим, как создать такой RAG на базе нашей платформы в режиме онлайн. В будущем я планирую сделать полноценный интеснив по созданию RAG с нуля – от аренды виртуальной машины до запуска Lama-3.1 под vllm.
Как сказал один из участников сегодняшнего интенсива:
"Вы первый, кто не льет воду про RAG и реально рассказываете, как оно работает."
И действительно, я просмотрел множество курсов про RAG и LLM агентов, и у меня возникло легкое раздражение.
Информацию берут либо текст от ChatGPT или из статей Azure, либо, на худой конец, попробовали "Ассистентов от ChatGPT" и считают что это можно упаковывать и распространять в массы.
Мой опыт подтверждается реализованными кейсами, разработанной платформой и огромным количеством проведенных экспериментов.
На вопросы из из файла текста чата вы найдете ответы в конце видео!
Дисклеймер
Все, что вы увидите и услышите в данном видео, является моим личным мнением, основанным на опыте работы с проектами, клиентами и реализации платформы. Мои советы и рекомендации могут не подойти для всех ситуаций и не претендуют на абсолютную истину. Перед тем как принять какое-либо решение, настоятельно рекомендуется провести собственное исследование и проконсультироваться с профессионалами в вашей области.
P.S
Вам я предоставил очень сумбурный, но очень подробный технический ввод про то, что такое RAG!
А всем, кто заинтересовался, пишите в комментариях – интенсив абсолютно бесплатный. Записывайтесь на следующую волну.
#intensive
Не кидайте тапками, я пробую такой формат первый раз!
Как и обещал, присылаю полную запись сегодняшнего интро по Self RAG. Мы начали с самого простого: что такое RAG и как он работает!
На следующем занятии мы рассмотрим, как создать такой RAG на базе нашей платформы в режиме онлайн. В будущем я планирую сделать полноценный интеснив по созданию RAG с нуля – от аренды виртуальной машины до запуска Lama-3.1 под vllm.
Как сказал один из участников сегодняшнего интенсива:
"Вы первый, кто не льет воду про RAG и реально рассказываете, как оно работает."
И действительно, я просмотрел множество курсов про RAG и LLM агентов, и у меня возникло легкое раздражение.
Информацию берут либо текст от ChatGPT или из статей Azure, либо, на худой конец, попробовали "Ассистентов от ChatGPT" и считают что это можно упаковывать и распространять в массы.
Мой опыт подтверждается реализованными кейсами, разработанной платформой и огромным количеством проведенных экспериментов.
На вопросы из из файла текста чата вы найдете ответы в конце видео!
Дисклеймер
Все, что вы увидите и услышите в данном видео, является моим личным мнением, основанным на опыте работы с проектами, клиентами и реализации платформы. Мои советы и рекомендации могут не подойти для всех ситуаций и не претендуют на абсолютную истину. Перед тем как принять какое-либо решение, настоятельно рекомендуется провести собственное исследование и проконсультироваться с профессионалами в вашей области.
P.S
Вам я предоставил очень сумбурный, но очень подробный технический ввод про то, что такое RAG!
А всем, кто заинтересовался, пишите в комментариях – интенсив абсолютно бесплатный. Записывайтесь на следующую волну.
#intensive
50🔥27 11👍9❤3
Привет! Тут свежие новости: Runway и Luma AI запустили API для создания видео. Теперь у всех есть доступ к API Luma AI, которая позволяет делать видео из текста или картинок. Это стоит всего ~0.4$ за пятисекундное видео 720p.
И главное: скоро вы сможете пользоваться этим в @fastpixel_bot! Нахожусь в процессе подсчёта экономики для LumaAI
Ranway пока только по запросу выдает доступ =(
Подробнее читайте здесь: https://the-decoder.com/runway-and-luma-ai-release-apis-for-ai-video-generation/
И главное: скоро вы сможете пользоваться этим в @fastpixel_bot! Нахожусь в процессе подсчёта экономики для LumaAI
Ranway пока только по запросу выдает доступ =(
Подробнее читайте здесь: https://the-decoder.com/runway-and-luma-ai-release-apis-for-ai-video-generation/
👍8❤4🔥3
Neural Deep
Привет! Тут свежие новости: Runway и Luma AI запустили API для создания видео. Теперь у всех есть доступ к API Luma AI, которая позволяет делать видео из текста или картинок. Это стоит всего ~0.4$ за пятисекундное видео 720p. И главное: скоро вы сможете пользоваться…
This media is not supported in your browser
VIEW IN TELEGRAM
LumaAI API
Жесткая экономика от Luma AI: за 4 видео, одно из которых не удалось, с меня сняли 700 рублей за API. Да, я генерировал видео в формате Full HD продолжительностью 5 секунд.
В интерфейсе можно купить подписку за 30 долларов и получить 120 генераций, что в пересчете составляет примерно 25 рублей за видео. API кусается по цене чуть сильнее
API опробовано. Начинаю встраивать в бота платежи и генерацию видео из изображений!
Жесткая экономика от Luma AI: за 4 видео, одно из которых не удалось, с меня сняли 700 рублей за API. Да, я генерировал видео в формате Full HD продолжительностью 5 секунд.
В интерфейсе можно купить подписку за 30 долларов и получить 120 генераций, что в пересчете составляет примерно 25 рублей за видео. API кусается по цене чуть сильнее
API опробовано. Начинаю встраивать в бота платежи и генерацию видео из изображений!
👍8😁4❤2
Еще сегодня провожу эксперименты по локальной анимации
Запустил на своей 4090 скажу я так что в целом за 9 минут генерации я получил то что хотел)
Как советовали мне в комментариях собрал этот репо себе локально
https://huggingface.co/THUDM/CogVideoX-5b-I2V
В целом результатом я доволен
Запустил на своей 4090 скажу я так что в целом за 9 минут генерации я получил то что хотел)
Как советовали мне в комментариях собрал этот репо себе локально
https://huggingface.co/THUDM/CogVideoX-5b-I2V
В целом результатом я доволен
10🔥8👍6❤4
OpenAI завершает очередной раунд финансирования на сумму $6,5 миллиарда
OpenAI, ведущий стартап в области искусственного интеллекта, завершает очередной раунд финансирования на сумму $6,5 миллиарда, сообщает Bloomberg. Инвесторы ожидают узнать в пятницу, станет ли их участие в сделке возможным, согласно источникам, знакомым с ситуацией.
Раунд финансирования оказался переподписанным, то есть сумма заявок от инвесторов превышает сумму, которую компания готова принять. Со слов источников, пожелавших остаться анонимными, спрос на участие в инвестиции исчисляется миллиардами долларов, и некоторые инвесторы в пятницу узнают, что не прошли отбор.
OpenAI отказалась от комментариев .
Некоторые стратегические инвесторы, включая основного партнера OpenAI - корпорацию Microsoft, а также новых участников, таких как Nvidia и Apple, скорее всего, получат возможность принять участие в сделке.
Последний раунд финансирования оценивает OpenAI в $150 миллиардов, не учитывая новой инвестиции, сообщили Bloomberg знакомые с ситуацией источники. Ранее компания оценивалась в $86 миллиардов.
OpenAI, ведущий стартап в области искусственного интеллекта, завершает очередной раунд финансирования на сумму $6,5 миллиарда, сообщает Bloomberg. Инвесторы ожидают узнать в пятницу, станет ли их участие в сделке возможным, согласно источникам, знакомым с ситуацией.
Раунд финансирования оказался переподписанным, то есть сумма заявок от инвесторов превышает сумму, которую компания готова принять. Со слов источников, пожелавших остаться анонимными, спрос на участие в инвестиции исчисляется миллиардами долларов, и некоторые инвесторы в пятницу узнают, что не прошли отбор.
OpenAI отказалась от комментариев .
Некоторые стратегические инвесторы, включая основного партнера OpenAI - корпорацию Microsoft, а также новых участников, таких как Nvidia и Apple, скорее всего, получат возможность принять участие в сделке.
Последний раунд финансирования оценивает OpenAI в $150 миллиардов, не учитывая новой инвестиции, сообщили Bloomberg знакомые с ситуацией источники. Ранее компания оценивалась в $86 миллиардов.
Bloomberg.com
OpenAI to Decide Which Backers to Let Into $6.5 Billion Funding
OpenAI’s latest fundraising is nearing completion, with prospective investors set to find out Friday whether they’ll be part of the deal, according to people familiar with the matter.
👍7❤3🔥3
Neural Deep
RAG что это? Не кидайте тапками, я пробую такой формат первый раз! Как и обещал, присылаю полную запись сегодняшнего интро по Self RAG. Мы начали с самого простого: что такое RAG и как он работает! На следующем занятии мы рассмотрим, как создать такой RAG…
Всем привет!
И так уже через 10 минут стартуем продолжение курса по RAG
Сегодня мы в режиме онлайн создадим с вами RAG через интерфейс и через код на базе нашей платформы
Загрузим и разметим данные
Создадим промпт
И протестируем телеграм бота
И так уже через 10 минут стартуем продолжение курса по RAG
Сегодня мы в режиме онлайн создадим с вами RAG через интерфейс и через код на базе нашей платформы
Загрузим и разметим данные
Создадим промпт
И протестируем телеграм бота
🔥9❤4👍2