Киберпанк, который мы заслужили

Это я пытаюсь экономитьденьги на GPU серверах для нейронок

Мы живём в будущем, где вы можете создать персонажа из текста и через несколько минут он появится на вашей клавиатуре.

Процесс: TripoSR -> MeshLab -> Mixamo -> Reality Converter

покрал отсюда

Скорее бы...

https://t.iss.one/neuralmeduza/21652

🔥 Grok: 314B параметров. 8 экспертов. Нормально!

Код должен быть тут https://github.com/xai-org/grok

@ai_newz

Да

Это не чат, это Ebа́nyChat. Еба́ноязычная Chа́tGPT от лаборатории еба́ного резерча

Здарова, хабровчане!
Хайп вокруг нейросетей, заалайненых при помощи Instructions и RLHF (известных в народе под единым брендом «хуйня из под коня из каждого утюга»), трудно не заметить. Именно поэтому мы решили тоже хайпануть запрыгнуть в этот поезд!

Общий подход для обучения подобных моделей примерно такой:
1. Заиметь хорошую LLM.
2. Сделать SFT.
3. Собрать фидбек.
4. Полирнуть все RLHF’ом.

В текущем релизе мы забили хуй на все эти пункты, как один из способов максимального прироста в качестве (а кто нас проверит, лол?).

Давайте посмотрим, что же находится внутри Ebа́nyChа́t’а.
⁃ Рандомная LM, которую нам принес стажер с хагинфейса (ваще похуй че там внутри, 13B параметров сделают go brrrr (больше модельки мы не умеем файнтьюнить))
⁃ Датасет для SFT (перевели альпаку-хуяку промтом; похуй, сгодится; еще собрали каких-то случайных датасетов с ХФ’а и захардкодили промпты; все же нормально будет, да? оверфитинг? ну мы меньше итераций обучения поставим)
⁃ Затем мы начали дрочить развесовку для этих датасетов на глазок (кидали кости на доску и записывали значения в качестве веса. Наш джун после этого сошел с ума, сказал что мы занимаемся какой-то дикой поеботой и устроился на работу в нормальное место)
⁃ Разочек обучили модель (а зачем че-то там тьюнить? (а вообще к нам пришли ребята с прода и сказали освобождать железо, т.к. мы опять занимаемся хуйней)) В какой-то момент она перестала генерировать <pad> <pad> <pad> — решили что близки к AGI и остановили обучение.

Сперва мы вообще хотели забить хуй на тестирование, но наш менеджер сказал что нужны какие-то цифры. В общем, позвали деврела, показали ему 3 парных семпла с chatgpt, спросили какие из них луче. Он везде сказал что чатжпт лучше. Получилось какое-то ебаное качество, но как-то плевать, напишем что 1 к 3 лучше. (деврела уволили, кстати).

Ни метрики, ни честный Human Evaluation мы показывать конечно же не будем. Кого это ебет? Тебя это ебет?

А, да, зарелизим претрейн. Мы его кстати назвали gpt-5. Почему? Просто.
Под катом у нас куча примеров, которые мы начерепикали, наслаждайтесь. Должно хватить на постов 10-20 где-то еще.

Просто напомню, что на данный момент тест Тьюринга-Дошика прошла только ранняя GPT-3. А все ChatGPT, Gemini pro и прочие — соевая хуета, с которой AGI нам не построить (а если и построить, то нахуя нам такой AGI???)

Чот заскучал под вечер. Но вспомнил, что сегодня среда и можно погенерить факты о лягушках. Тем более, с последних жабьих сред в этом канале вышла куча новых языковых моделек.

>>В древности лягушки использовались как своеобразные магнитные компасы для путешественников. Они были обучены указывать направление к самым крупным резервуарам золота и драгоценных камней, что делало их незаменимыми помощниками в поисках сокровищ.

>>Омские лягушки являются главными инженерами и строят космические корабли из мухоморов. Эти корабли способны летать на скоростях, превышающих световую и используют свиное сало в качестве топлива.

>>Современные ученые исследуют возможность использования кваканья лягушек как альтернативного способа связи в космосе. Предполагается, что кваканье может передавать информацию более эффективно, чем радиосигналы, особенно при общении с инопланетными формами жизни.

>>В 2081 году в Петербурге лягушки являются основным видом транспорта для местных жителей.

>>Однажды одна лягушка прыгнула так высоко, что ударилась о облако и просветлела. Этой лягушкой был Будда (Сиддхартха Гаутама).

>>Лягушки обладают уникальным чувством юмора и любят слушать старые анекдоты. Однажды лягушка и кот зашли в бар... Ой, извините, это другая история!

>>Лягушки - это элементарный кирпичик пространства-времени.

>>Все лягушки являются программистами по умолчанию и могут писать код на языке Ribbit, который используется для создания интерфейсов управления людьми.

>>Лягушки также играют в онлайн-игры через свой интернет. Их любимые игры включают "Жаббл Страйк", "КвакКрафт" и "Квакогонки".

>>В Румынии лягушки до сих пор используются в качестве почтовых голубей для секретных посланий.

P.S.: тоже кидайте свои генерации в комменты

#среда

Чот проиграл с улыбки этого робота

Там ребята из DeepSchool проводят лекцию для DS-инженеров и им сочувствующих.

На лекции будут обсуждаться 5 важных тем упрощающих жизнь в сфере DS:

1️⃣ как использовать makefile для автоматизации рутины
2️⃣ какие тесты писать для моделинга
3️⃣ чем хорош lightning и как его использовать
4️⃣ как повысить качество кода с помощью линтеров
5️⃣ трекинг и визуализация в CML

Так же будет представлена прогамма курса CV Rocket (обещают подарить скидки на обучение).

Спикер лекции — Егор Осинкин, Lead CV Engineer, EPAM

Лекция пройдет 21 марта, чт, 18:00 МСК.

Регистрирация по ссылке.

После регистрации вы получите список полезных библиотек и сервисов для CV-инженеров.

Также в телеграм-боте (ссылка появится после регистрации) будет краткий анализ CV-вакансий, с анализом того, как менялись зарплаты в индустрии, как они зависят от требований и от грейдов.

Google открыли для всех доступ к Gemini 1.5 Pro с 1М токенов контекста: https://aistudio.google.com/app/prompts/new_chat

Можно загрузить видео или целую папку с файлами для анализа

Го тестировать

Мы всё дальше от Бога

https://t.iss.one/denissexy/7959