Forwarded from Айтигребец
Гребцы, истории любите? Вот вам одна прекрасная 🐸
Случайно наткнулся на лучший подарок в новый год для тех, кто любит на фоне послушать годную историю о работе в продуктовой компании AS IS. Дом 2 нервно курит в сторонке.
Чисто вот классика айтигребцовых крупных продуктовых контор🗑
В двух словах - технический манагер на опыте устроился в контору-казик (дочка PariMatch) и чё там творилось в двух словах уже не описать - нужно слушать😁
Рассказывает очень бодро и интересно. У чела накипело аж на 7 часов. Но кроме фана в ролике тонна менеджерской инфы - просто для развития кругозора даже гребцам норм зайдёт - станете лучше понимать как что устроено под капотом.
Гляньте/послушайте первые пару минут - сразу поймёте зайдёт или нет - там до самого конца не отпускает 😁
➡️ https://youtu.be/nzf2djJ7spQ
Ну и mp3 для прослушки в тг залил кому так удобнее.
Коммент с ютуба, отлично описывающий видео :
Приятного🛶
Случайно наткнулся на лучший подарок в новый год для тех, кто любит на фоне послушать годную историю о работе в продуктовой компании AS IS. Дом 2 нервно курит в сторонке.
Чисто вот классика айтигребцовых крупных продуктовых контор
В двух словах - технический манагер на опыте устроился в контору-казик (дочка PariMatch) и чё там творилось в двух словах уже не описать - нужно слушать
Рассказывает очень бодро и интересно. У чела накипело аж на 7 часов. Но кроме фана в ролике тонна менеджерской инфы - просто для развития кругозора даже гребцам норм зайдёт - станете лучше понимать как что устроено под капотом.
Гляньте/послушайте первые пару минут - сразу поймёте зайдёт или нет - там до самого конца не отпускает 😁
Ну и mp3 для прослушки в тг залил кому так удобнее.
Коммент с ютуба, отлично описывающий видео :
Пегий Дудочник: беларуская версия
Приятного
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from whargarbl
Simple Diffusion Status
В пятый раз сменил механику ембедингов
Вопреки расхожему заблуждению пулед ембединги дают полную инфу о изображении а не только стиль - пруф - обучка только на пулед https://huggingface.co/AiArtLab/sdxs/blob/main/media/promo.png
Обучка на хайден слое - в противовес - теряет информацию о форме изображения. Те обучая на токенах собака // лежит // трава - мы обучаем как бы отдельно и собаку и лежит и трава
Проблема:
Пулед дает композицию но не содержит файн детайлс
Хайден теряют композицию и взаимосвязь между токенами
Также пулед в отличие от хайден дает мультиязычность. В пулед слое dog и собака - это вектора которые смотрят в одном и том же напрвлении. Но на уровне токенов - это уже разные вектора (сюрприз)
В четвертой иттерации я сделал их объединение штатным механизмом дифузерс - пулед был добавлен как доп слой текстовых ембедингов в кросс-этеншен
Тренилось хреново. Я заглянул под капот и с удивлением обнаружил линейную проекцию. Проще говоря тончайшую материю сжатого представления о тексте а очередной кастрировали топором
Пришлось придумать свою имплементацию - простую как палка - эффективную как стрела. Пулед кладу в нулевой токен. Теперь ембединг выглядит так:
- собака лежит на траве
- собака
- лежит
- трава
Обучка пошла сразу сильно веселее. Вернулась композиция. Вернулась мультиязычность и мелкие детали
Лосс падает // град не колосится
https://huggingface.co/AiArtLab/sdxs/blob/main/media/result_grid.jpg
Такой день
ЗЫ Брюллов работал над "Последний день Помпеи" - 6 лет
Художник не считал картину завершенной до тех пор пока ему не удалось добавить в картину глубину. Те вот типа все персонажи уже были прорисованы и драма вроде как на месте, но глубины не было. По легенде финальным штрихом стало добавления игры света и тени для камней на мостовой. Так вот - соединение пулед и хайден ембедов дает "глубину". Посмотрите на шлем астронавта в космосе - он трехмерный. Вот что важно
https://ru.wikipedia.org/wiki/%D0%9F%D0%BE%D1%81%D0%BB%D0%B5%D0%B4%D0%BD%D0%B8%D0%B9_%D0%B4%D0%B5%D0%BD%D1%8C_%D0%9F%D0%BE%D0%BC%D0%BF%D0%B5%D0%B8
В пятый раз сменил механику ембедингов
Вопреки расхожему заблуждению пулед ембединги дают полную инфу о изображении а не только стиль - пруф - обучка только на пулед https://huggingface.co/AiArtLab/sdxs/blob/main/media/promo.png
Обучка на хайден слое - в противовес - теряет информацию о форме изображения. Те обучая на токенах собака // лежит // трава - мы обучаем как бы отдельно и собаку и лежит и трава
Проблема:
Пулед дает композицию но не содержит файн детайлс
Хайден теряют композицию и взаимосвязь между токенами
Также пулед в отличие от хайден дает мультиязычность. В пулед слое dog и собака - это вектора которые смотрят в одном и том же напрвлении. Но на уровне токенов - это уже разные вектора (сюрприз)
В четвертой иттерации я сделал их объединение штатным механизмом дифузерс - пулед был добавлен как доп слой текстовых ембедингов в кросс-этеншен
Тренилось хреново. Я заглянул под капот и с удивлением обнаружил линейную проекцию. Проще говоря тончайшую материю сжатого представления о тексте а очередной кастрировали топором
Пришлось придумать свою имплементацию - простую как палка - эффективную как стрела. Пулед кладу в нулевой токен. Теперь ембединг выглядит так:
- собака лежит на траве
- собака
- лежит
- трава
Обучка пошла сразу сильно веселее. Вернулась композиция. Вернулась мультиязычность и мелкие детали
Лосс падает // град не колосится
https://huggingface.co/AiArtLab/sdxs/blob/main/media/result_grid.jpg
Такой день
ЗЫ Брюллов работал над "Последний день Помпеи" - 6 лет
Художник не считал картину завершенной до тех пор пока ему не удалось добавить в картину глубину. Те вот типа все персонажи уже были прорисованы и драма вроде как на месте, но глубины не было. По легенде финальным штрихом стало добавления игры света и тени для камней на мостовой. Так вот - соединение пулед и хайден ембедов дает "глубину". Посмотрите на шлем астронавта в космосе - он трехмерный. Вот что важно
https://ru.wikipedia.org/wiki/%D0%9F%D0%BE%D1%81%D0%BB%D0%B5%D0%B4%D0%BD%D0%B8%D0%B9_%D0%B4%D0%B5%D0%BD%D1%8C_%D0%9F%D0%BE%D0%BC%D0%BF%D0%B5%D0%B8
Forwarded from whargarbl
Пост про предвзятость в исследованиях, кризис воспроизводимости
https://t.iss.one/Fourier_series/687
Ну типа есть проблемки как с предвзятостью так и с воспроизводимостью
Или вот про психологию занятно:
Предвзятость + кривые методологии + смешные приземленные вещи, типа:
Моя любимая часть про космические корабли:
Ну типа на arXiv то нет вот этих жалких проблем - ни кривых методологий, ни подогнанных метрик. И тщеславие там чуждо, и бабки не нужны
Так мы до двача для статей докатимся
https://t.iss.one/Fourier_series/687
Ну типа есть проблемки как с предвзятостью так и с воспроизводимостью
Из 53 знаковых исследований в онкологии воспроизвелись 6
Или вот про психологию занятно:
Вот две опорные работы. Если очень коротко, что произошло:
— Часть экспериментов психологов, на которых строится вся наука, нельзя повторить с тем же результатом. В других науках обычно можно, и это и делает науку наукой.
— Почему? Потому что психологи оказались самыми предвзятыми по каким-то причинам.
Предвзятость + кривые методологии + смешные приземленные вещи, типа:
— Выборочное сообщение — исследователи публикуют только положительные результаты, скрывая отрицательные или неубедительные находки. По опросам больше 30% исследователей признали участие в такой фигне из тщеславия.
— Принцип сисек (если оно сразу большое и красивое, возможно, силикон SOTA!!!11) — журналы значительно чаще публикуют работы с интересными результатами, чем исследования, которые не выявили эффектов.
— Правило бабок. Продвижение по карьере, получение грантов и репутация зависят в первую очередь от количества публикаций.
Моя любимая часть про космические корабли:
Open Science platforms, such as arXiv and bioRxiv, enable researchers to share their findings before formal peer review. This not only accelerates the dissemination of knowledge but also invites constructive criticism, improving the quality of research.
Ну типа на arXiv то нет вот этих жалких проблем - ни кривых методологий, ни подогнанных метрик. И тщеславие там чуждо, и бабки не нужны
Так мы до двача для статей докатимся
Telegram
Ряды Фурье
Как-то @Achisov с канала @bayesyatinaa про рациональное мышление напомнил про кризис воспроизводимости в психологии.
Вот две опорные работы. Если очень коротко, что произошло:
— Часть экспериментов психологов, на которых строится вся наука, нельзя повторить…
Вот две опорные работы. Если очень коротко, что произошло:
— Часть экспериментов психологов, на которых строится вся наука, нельзя повторить…