https://lwn.net/Articles/1049831/

> Mike: rachel and i are no longer dating
>
> rachel: mike that's a horrible way of telling people we're married

(src)

3x Faster LLM Training with Unsloth Kernels + Packing

tldr: 2 guys with a laptop removed ~70% of the world's compute bill for free cuz why not

є проблема:
в телефонах, телевізорах, холодильниках і інших напіврозумних пристроях занадто багато потужності, яка на практиці не використовується 99.9% часу

рішення, яке так наполегливо останніми роками розробляють десятки команд:
натисни кнопочку і тепер твій холодос буде рендерити всілякі умовні простори на всі лишні гігабайти рами, а ти за це отримуватимеш копійочки

мінуси:
- ті копійочки ти отримаєш або в вигляді бонусів бозна-де, або в крипті
- твоя сердешно розумна мікрохвильовка виконує по факту довільний софт і може начудить

справжнє рішення:
всі наявні обчислювальні спроможності евер купує опенаі і на них тренує чергову чатгпт, це створює дефіцит всього на світі, що в свою чергу робить створення напіврозумних пристроїв нерентабельним і тепер всі прилади знову будуть мати 3кб оперативки, а компи за штуку баксів знову аж 8гб

плюси:
- нівелювання 9.5/10 вразливостей безпеки
- холодильники тепер не зможуть показувати рекламу або щось ще гірше

мінусів окрім новонатренованої чатгпт немає взагалі

too bad

але взагалі окрім ниття чєл справді піднімає непогані питання які безумовно випливають якщо ти хочеш мати вплив на команду і розробку в якій береш участь

https://github.com/astral-sh/ty - An extremely fast Python type checker and language server, written in Rust.

cmon