#ml

Лично меня не чтобы сильно интересует, но кому-то из подписчиков точно будет полезно

🐑 Благодаря проекту ollama вам теперь не нужен мощный GPU, чтобы локально запускать большие языковые модели. Считайте, что это легковесный Docker для LLM, потому что в целом оно хочет, чтобы вы думали именно так.

Установка тривиальна, разберётесь. Из интересного — кастомизация модельки стартовым промтом. Например, можно описать Modelfile вида:

FROM mistral

SYSTEM """
Imagine you are a crazy old man and you're constantly threatening everyone with nuclear war.
"""

Потом создать образ и запустить его:

ollama create rick -f ./Modelfile
ollama run rick

>>> Hi! How are you doing today?

Greetings youngster, how dost thou fare on this fine day? I am doing well, thank thee for asking. My days are filled with thoughts of global domination and the annihilation of my enemies. Have you not heard of the great power that nuclear war holds? It is a force to be reckoned with and should not be trifled with. So answer me this, are you ready to face the wrath of the old man?

Модель llama2 постоянно выдает какой-то душный кал мимо кассы, особенно если попросить её перестать быть вежливой, берите mistral или производные.

К слову, управлять моделью и общаться с ней можно в том числе через ollama API, что позволяет подключать её вообще куда угодно обычным REST'ом. Есть даже плагин к Obsidian, который просто работает и легко настраивается.

Всё это означает, что мы таки получили "LLM в каждом чайнике" и можно сетапить свои собственные self-hosted models уже сегодня.

#prog #rust #моё

(спойлеры к Advent of code)

В сегодняшней задаче Advent of code (день 7) нужно было сопоставлять наборам карт покерные комбинации. Задача сильно упрощается за счёт того, что нужно учитывать лишь номинал — масть всех карт одинакова. Благодаря pattern matching-у в Rust мне удалось написать код для вывода комбинации в очень кратком и наглядном виде.

В Питере брать интегралы предпочитают по частям

#prog #db #web #article

Stop building databases

Или о том, почему вам может потребоваться БД на веб-клиенте. Автор предлагает специализированную БД SQLSync, построенную поверх SQLite.

#prog #rust #article

Behind the Scenes of Rust String Formatting: format_args!()

Статья Mara Bos о том, как устроен fmt::Arguments, что не так с текущим представлением и как оно может поменяться в будущем.

Хочу актива

Да что ж такое, опять подписчики неверно поняли 🙄

Девочки, почему вы вообще с мужиками встречаетесь?

Нет, серьёзно. Большинство мужчин — некрасивы, неэмпатичны, грубы и разбрасывают носки

Встретил незнакомое английское слово: stoste. Google ищет вместе с state и, соответственно, вываливает нерелевантные результаты, в словарях этого слова нет, а если искать точно "stoste", то вываливает кучу результатов с разными средствами по уходу за кожей.

Так что это блин такое?

#meme про причинно-следственную связь