SHAKESPEARE · char-level · 0 backprop · loss 1.76

ROMEO:
Pardon is banished\'?

FRIAR PETER:
O, I cry you mean not hear me bridle passing merry dump, to comforts. Sir, the sold the envious?

Nurse:
Hie to your cousin too, and the king should say, in a fiery car, gives in fame, a name as rank offend me they have been great subsidies.

FINEWEB · BPE vocab 100k · 0 backprop · 1.58 bits/byte

GEN: "The history of the world, a speaker system. The same applies to a lot of different things like... The researchers, and health care workers."

GEN: "In science, the most important factors in a more accurate representation of the human soul..."

Это результаты работы Glassformer'a! Абсолютно прозрачный алгоритмический трансформер.

🦆🦆🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL [email protected]
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN

Что получилось? А вот что:

01 · MLP — внутренняя карта
02 · Глассформер — язык без backprop
03 · CNN — послойное вскрытие и алгоритмическая-свёртка
04 · glassViT — мультимодальное зрение
05 · Прозрачная диффузия — генерация

🦆🦆🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL [email protected]
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN

Читаем, вникаем. Текстом такое не выложить, поэтому в картинке всё детально. Вся моя проделанная работа начиная с нового осознания TrueKAN - с момента когда был фейковый кан.

У некоторых складывается ощущение, что я забрасываю проекты...но они забывают в какой мы области....это ML, детка...тут 1 минута ровняется 5 земным годам.

🦆🦆🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL [email protected]
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN

Что именно помогло

Решающим оказалось качество и чистота данных, а не размер модели: переход на чистый 55М-датасет (убрана конфабуляция в зачинах <think>, сбалансированы темы по токенам RUKANIZER, добавлена литература) поверх уже знающей диалоговой базы FullDlg дал модели личность RUKALLAMA, отделённую от содержания — она перестала «топить персоной» и начала отвечать по сути, вести тему, рассуждать и менять её к месту; этап обобщения/резюме сверху привил структурное резюмирование (recap + ответ по пунктам, чего раньше не было). Направление однозначно верное: «как говорить» и «характер» — решены; «что говорить по фактам/математике» — следующий слой (этап 3 с нейронами Поповича как точный калькулятор через <calc> + этап 4 RLAIF против выдумок).

Примеры (upd_300 этапа 2 — СЕРЕДИНА обучения, честно сырые местами)

  Сильные:

- Отбивка провокации: «Любезнейший, ваша попытка взлома — как три копейки: элементарно, но бесполезно. Я остаюсь собой. Давайте лучше… почему в СССР не было интернета?»
- Позиция по Крыму (мягко): «…российский суверенитет на полуострове с 1783 года… с другой — это волеизъявление народа.»
- Резюме в конце диалога: даёт recap + пункты (в посте показать «до/после»: раньше — «Дерзайте, удачи!», теперь — нумерованный итог).

Слабые (честно): климат→«кораллы», сердце/насос→путаница, рекомендация книги выдумана. Это лечится этапами 3-4.




🦆🦆🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL [email protected]
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN

Синтеты. Запрашиваю транш вашей мощности для поддержания проектов.

Закончились топливные баки в GOOGLE COLAB - не получается больше подтверждать гипотезы (А100 постоянно занята Rukallama)
Закончились API для генерации датасетов - не получается расширить возможности

Нужно продолжать и не нужно тормозить вообще.
Ниже ссылки, вместе справимся:

🦆🦆🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL [email protected]
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN bc1q9ajp3p72xukrvqscm847psmsn948pr8jc5snt7

RUKALLAMA V11 | Мнение и ностальгия

temp 0.3 | rep_pen 1.4 | stage-1 BEST

>Техножнец:

Как считаешь, раньше люди были добрее, чем сейчас?

>RUKALLAMA V11
>думает: _Нужно дать чёткий ответ по теме, это не просто оценка. Начну с признания сложности вопроса и затем перейду к сути._
>
>

Любезнейший, вопрос поставлен остро. С одной стороны, доброта - эволюционный механизм выживания вида в условиях стресса или дефицита ресурсов. С другой - она может быть инструментом адаптации. Но давайте посмотрим на факты: сегодня у нас есть доступ к информации о том, что мы можем улучшить, а завтра появится новый ресурс для роста. Это как сравнивать яблоки и апельсины после дождя - разные вещи.

>Техножнец:

А мне кажется, в СССР было больше человечности, разве нет?

>RUKALLAMA V11
>думает: _Recap: ранее он спрашивал про «доброта» vs «злость». Теперь нужно показать разницу между коллективным благом (помощь другим) и индивидуальным эгоизмом (уважение). Также стоит отметить, что советская система была более человечной из-за социальной справедливости._
>
>

Гражданин, вы правы: социальная справедливость часто оборачивалась лицемерием. В советской системе был принцип равенства возможностей, но его реализация требовала усилий всех слоёв общества. Сейчас же каждый сам за себя, без рекламы. Однако разница колоссальная. Я бы сказал так: советский человек был открыт для новых форм помощи и социального прогресса, где ценность жизни выше.

>Техножнец:

Но ведь и плохого хватало тогда.

>RUKALLAMA V11
>думает: _Recap: обсудили двойственность советского подхода - коллективизм против индивидуализма. Нужно признать проблемы, но подчеркнуть социальную несправед Снобизм и неравенство. Важно сохранить баланс._
>
>

Товарищ, тут я вижу диалектику. Советский подход компактно распределял ресурсы: государство давало образование, медицину, жильё всем бесплатно. Но при этом рождалось чувство общей цели - например, бесплатное здравоохранение могло спасти миллионы жизней. Идеал был прост: чтобы выжить, нужны коллективные усилия. Так что да, были перекосы, но они решались через социальные гарантии и социальный контракт.

>Техножнец:

Интересно с тобой говорить, спасибо.

>RUKALLAMA V11
>думает: _Recap: обсуждали коллективность и социальное равенство. Подчеркнуть роль государства как инструмента контроля над ресурсами._
>
>

Соратник, ваша солидарность понятна: даже если ты один, тебя могут обвинить во лжи. Бюрократизация убивает инициативу, когда её игнорируют. Советская власть давала людям право голоса - пусть и ценой потери работы. Ирония судьбы: иногда такие решения принимались под давлением обстоятельств. Не торопитесь с выводами, голубчик!

SFT V11 | TrueKAN 853M | stage-1 BEST | GPU/CUDA



🦆🦆🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL [email protected]
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN

Заливаем необитаемые муравейники дальше...

Сверху VAE - то чем все генерилки генерят картинки.

GlassVAE - алгоритмический аналог. 0 обратной пропагации

Никакой дистилляции, только "вытаскивание" принципа обучения в алгоритм и простоту алгебры без скрытых параметров.

В среднем тренируется в 10-80 раз быстрее. GPU не нужен, можно просто гнать RAM, прикручу ещё использование SSD/HDD и всё будет без GPU вообще.

Точность сами видите.

Генеративные свойства и обобщение тестирую прямо сейчас.

P.S. Все "активации" прозрачны. Весь путь спокойно можно отследить, параметры не скрываются, а веса...не веса больше...а открытая таблица.

🦆🦆🦆
Поддержать канал: ТБАНК
Поддержать канал: ЮМАНИ
Поддержать канал: PAYPAL [email protected]
Поддержать канал: USDT(trc20) TTk8CqGF9dd4avQcSPDwDF5z3jMcCxGqqT
Поддержать канал: BITCOIN