I don't know what GPT-5 will run on, but GPT-6 will run on
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Тем временем один из самых крупных датасетов картинок из этих ваших интернетов, laion-5b, временное офлаен: судя по жалобам, там нашли ссылки на ЦП.
*Косые взгляды на stable diffusion incoming*
Отдельно хочется поинтересоваться у тех, кто писал жалобы: вы там как в 5 млрд картинок нашли ЦП? Нужно быть очень Цпелеустремленными 😅
(Знать домен, промтить, предоставить образец)
Подробнее: laion.ai
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
*Косые взгляды на stable diffusion incoming*
Отдельно хочется поинтересоваться у тех, кто писал жалобы: вы там как в 5 млрд картинок нашли ЦП? Нужно быть очень Цпелеустремленными 😅
(Знать домен, промтить, предоставить образец)
Подробнее: laion.ai
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
В х-иттере вирусится пост про прохождение верификации из r/stablediffusion.
И пока твиты набирают миллионы просмотров, оригинальные посты на реддите уже потерты модераторами.
До прохождения видео верификации навскидку даю ещё ну где-то полгода 😅🥲
Последний пост автора на реддите с воркфлоу (в комментах схороню скрин с ним на всякий)
_______
Источник | #derplearning | #хроникицифровизации
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
И пока твиты набирают миллионы просмотров, оригинальные посты на реддите уже потерты модераторами.
До прохождения видео верификации навскидку даю ещё ну где-то полгода 😅🥲
Последний пост автора на реддите с воркфлоу (в комментах схороню скрин с ним на всякий)
_______
Источник | #derplearning | #хроникицифровизации
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Media is too big
VIEW IN TELEGRAM
Paranoid Pandemonium
Психоделический таймлапс создания не менее психоделического полотнища. 2 недели времени и 6000+ инпейнтов.
сорс
_______
Источник | #derplearning
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Психоделический таймлапс создания не менее психоделического полотнища. 2 недели времени и 6000+ инпейнтов.
сорс
_______
Источник | #derplearning
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Civit.ai вводит пейволл - Clubs
Собсно, то, чего боялись после ввода их внутриигровой валюты Buzz, свершилось.
В ближайшее время на платформе появится местный аналог patreon. Обещают, в принципе, все то же самое - подписки с тирами за Buzz.
За пейволл можно прятать все типы контента, то есть модели, Лоры, картинки и их настройки, посты. Родной генератор картинок платные модели без подписки потрогать тоже не даст.
Обещают и возможность "пробных" версий одного и того же контента: недообученные модели, менее подробная мета для генераций.
С одной стороны это, конечно, прекрасно - создатели контента для взрослых, коих там субъективно 99%, наконец смогут выйти из своих подвалов и купить еды. С другой - манчкины, скрейпившие терабайтами контент, легко заменят сайт одним торрентом.
К тому же валюту buzz нельзя вывести с платформы, а можно потратить собсно на подписки, чаевые, и генерации картинок. (надеюсь, потом исправят)
Отдельно встаёт юридический и моральный вопрос, так как данные для моделей и лор вряд ли были собраны с соблюдением всех лицензий. Пока это было для всех даром - вопросов было мало. Как только в этом появятся деньги - появятся и вопросы, а, может, и первые робкие иски.
В общем, будем посмотреть. Один скандал с генерацией цп у них недавно был, реддит уже полыхает, поэтому приготовим попкорн для следующих скандалов и будем надеяться, что это не будет для них юнити-моментом.
UPD: они уже немного дали заднюю и завели тред с обсуждением возможных вариантов монетизации
reddit срач
анонс clubs
faq clubs
обсуждение монетизации
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Собсно, то, чего боялись после ввода их внутриигровой валюты Buzz, свершилось.
В ближайшее время на платформе появится местный аналог patreon. Обещают, в принципе, все то же самое - подписки с тирами за Buzz.
За пейволл можно прятать все типы контента, то есть модели, Лоры, картинки и их настройки, посты. Родной генератор картинок платные модели без подписки потрогать тоже не даст.
Обещают и возможность "пробных" версий одного и того же контента: недообученные модели, менее подробная мета для генераций.
С одной стороны это, конечно, прекрасно - создатели контента для взрослых, коих там субъективно 99%, наконец смогут выйти из своих подвалов и купить еды. С другой - манчкины, скрейпившие терабайтами контент, легко заменят сайт одним торрентом.
К тому же валюту buzz нельзя вывести с платформы, а можно потратить собсно на подписки, чаевые, и генерации картинок. (надеюсь, потом исправят)
Отдельно встаёт юридический и моральный вопрос, так как данные для моделей и лор вряд ли были собраны с соблюдением всех лицензий. Пока это было для всех даром - вопросов было мало. Как только в этом появятся деньги - появятся и вопросы, а, может, и первые робкие иски.
В общем, будем посмотреть. Один скандал с генерацией цп у них недавно был, реддит уже полыхает, поэтому приготовим попкорн для следующих скандалов и будем надеяться, что это не будет для них юнити-моментом.
UPD: они уже немного дали заднюю и завели тред с обсуждением возможных вариантов монетизации
reddit срач
анонс clubs
faq clubs
обсуждение монетизации
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Media is too big
VIEW IN TELEGRAM
Красивое
Microsoft Light Simulator
A* (A Star) pathfinding algorithm visualized on the city streets of Chicago and Rome.
Data from OpenStreetMap, OSMnx - intersections of streets represented as nodes and streets as edges
Tools used for visualization - Python, Blender
youtube
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
A* (A Star) pathfinding algorithm visualized on the city streets of Chicago and Rome.
Data from OpenStreetMap, OSMnx - intersections of streets represented as nodes and streets as edges
Tools used for visualization - Python, Blender
youtube
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Derpth Anything (25M q8) теперь и в transformers.js
Можно делать это ваше псевдо-3д-шевеление картинок прямо в браузере.
Мелкая моделька звезд с неба не хватает, но 27 мегабайт - это 27 мегабайт.
Вариации модели побольше тоже есть, но вряд ли вы будете каждый раз добровольно тянуть 300мб :D
tweet
github
demo
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Можно делать это ваше псевдо-3д-шевеление картинок прямо в браузере.
Мелкая моделька звезд с неба не хватает, но 27 мегабайт - это 27 мегабайт.
Вариации модели побольше тоже есть, но вряд ли вы будете каждый раз добровольно тянуть 300мб :D
tweet
github
demo
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
В популярный бесплатный аудиоредактор Audacity завезли ИИ-плагины на бэкенде Intel OpenVino.
Для музыкантов:
Music Generation - генерит музыку (60сек) по текстовому промту, Riffusion
Music Style Remix - меняет стиль исходного сэмпла, Riffusion
Music Separation - разделяет голос и инструменты на отдельные дорожки, Demucs v4
Для этих ваших подкастеров и стримеров:
Noise Suppression - шумоподавление, noise-suppression-denseunet-ll
Transcription with Optional Translation - транскрибация с переводом (только на английский), Whisper
git c плагинами (2gb)
audacity
audacity git
подробнее
youtube
_______
Источник | #derplearning | #полезности
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Для музыкантов:
Music Generation - генерит музыку (60сек) по текстовому промту, Riffusion
Music Style Remix - меняет стиль исходного сэмпла, Riffusion
Music Separation - разделяет голос и инструменты на отдельные дорожки, Demucs v4
Для этих ваших подкастеров и стримеров:
Noise Suppression - шумоподавление, noise-suppression-denseunet-ll
Transcription with Optional Translation - транскрибация с переводом (только на английский), Whisper
git c плагинами (2gb)
audacity
audacity git
подробнее
youtube
_______
Источник | #derplearning | #полезности
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
GitHub
GitHub - riffusion/riffusion-hobby: Stable diffusion for real-time music generation
Stable diffusion for real-time music generation. Contribute to riffusion/riffusion-hobby development by creating an account on GitHub.
QLoRa + FSDP: Finetune 70B models on Dual 24GB GPUs
Джереми пробудился! :D
Котаны из answer.ai, huggingface и Mobius Labs запилили пайплайн для народного тюна 70b моделей.
Теперь для лор не нужно 48гб VRAM, а можно разбить на 2х24 или 3х16, практически без потери в скорости.
Самое время наведаться к соседу за второй видюхой :D
Cуть подхода такова:
Берем 4-битную квантованную 70B модель, весящую 35Gb. Тренить ее саму мы не можем из-за квантования, но можем тренить ее лору. Это, собственно, и есть QLoRA.
Для этого нам все еще нужно 48Gb VRAM.
Мы можем раскидать ее на 2х24Gb GPU послойно, но тогда мы потеряем половину вычислительной мощности, так как слои будут обрабатываться последовательно. Тут-то на помощь и приходит FSDP или Fully Sharded DataParallel. Этот подход позволяет все так же раскидать слои по разным видеокартам, но обрабатывать данные параллельно, подгружая следующий слой с соседних видеокарт, пока обрабатывается предыдущий, а затем выгружая обратно.
твит
код
подробнее
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Джереми пробудился! :D
Котаны из answer.ai, huggingface и Mobius Labs запилили пайплайн для народного тюна 70b моделей.
Теперь для лор не нужно 48гб VRAM, а можно разбить на 2х24 или 3х16, практически без потери в скорости.
Самое время наведаться к соседу за второй видюхой :D
Cуть подхода такова:
Берем 4-битную квантованную 70B модель, весящую 35Gb. Тренить ее саму мы не можем из-за квантования, но можем тренить ее лору. Это, собственно, и есть QLoRA.
Для этого нам все еще нужно 48Gb VRAM.
Мы можем раскидать ее на 2х24Gb GPU послойно, но тогда мы потеряем половину вычислительной мощности, так как слои будут обрабатываться последовательно. Тут-то на помощь и приходит FSDP или Fully Sharded DataParallel. Этот подход позволяет все так же раскидать слои по разным видеокартам, но обрабатывать данные параллельно, подгружая следующий слой с соседних видеокарт, пока обрабатывается предыдущий, а затем выгружая обратно.
твит
код
подробнее
_______
Источник | #derplearning
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
X (formerly Twitter)
Jeremy Howard (@jeremyphoward) on X
Today, with @Tim_Dettmers, @huggingface, & @mobius_labs, we're releasing FSDP/QLoRA, a new project that lets you efficiently train very large (70b) models on a home computer with consumer gaming GPUs. 1/🧵
https://t.co/UAsWOLtn7a
https://t.co/UAsWOLtn7a
github.com
github.com-1 (уже переименовали)
_______
Источник | #derplearning
______________
пост в блоге x.ai
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
github.com-1 (уже переименовали)
magnet:?xt=urn:btih:5f96d43576e3d386c9ba65b883210a393b68210e&tr=https%3A%2F%2Facademictorrents.com%2Fannounce.php&tr=udp%3A%2F%2Ftracker.coppersurfer.tk%3A6969&tr=udp%3A%2F%2Ftracker.opentrackr.org%3A1337%2Fannounce
_______
Источник | #derplearning
______________
пост в блоге x.ai
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot