Запускать GPT-подобные языковые модели на всяких там дорогих видео-картах это уже прошлый век – чувак с нуля собрал модель на 85000 параметров используя маковский аналог экселя «Numbers» ☕️

https://github.com/dabochen/spreadsheet-is-all-you-need

Видимо, языковые модели это новый Doom, будут пытаться запустить всюду

Помните игру Red Alert 2? В общем, в Болгарии, самая маленькая их коммунистическая партия, официально использует логотип игры Red Alert 2 как лого партии ☕️

Я сначала подумал кто-то в wiki что-то поменял, оказалось нет, есть и в архивах официального сайта.

Это уже пост-ирония или уже мета-ирония?

Если вы любите пытаться сломать защиту в разных LLM с помощью промпт инъекций – то у меня вам полезная ссылка, датасет из почти ~1500 промпт инъекций собранных с Reddit, Discord, Twitter и тп.

https://github.com/verazuo/jailbreak_llms

Внутри промпты и для старых инъекций, вроде DAN, до более новых с base64, leet code и тп.

Следующий шаг, это натренировать на этом модель, которая будет ломать другие модели автоматом ☕️

Через 5 минут Apple покажет, наконец-то, поумневшую Siri и другие вещи которые хорошо посмешат пользователей Android:
https://www.youtube.com/watch?v=RXeOiIDNNek

В конце, скину свое саммари

UPD. Сэм Альтман тоже в зале ☕️

Что мне понравилось:

🔷 Siri: наконец-то, дождались – она умная: понимает ошибки в речи, поддерживает контекст диалога, Siri теперь можно писать текстовые команды если не можете говорить, а еще она знает о всех фичах ОС и поможет с ними разобраться если нужно найти конкретную

Siri тоже будет смотреть на контент на экране если нужно, хехе – уже предвижу восторги ☕️

В целом, Siri показали в рамках Apple Intelligence слоя, персональной языковой модели которая учится под юзера в процессе использования чтобы лучше понимать пользователя – хитрая попытка угнать аббревиатуру A.I.

Языковая модель может генерировать, переписывать контент, сортировать и суммаризировать нотификации/емейлы, авто-заполнять ваши данные, генерировать пред-заданные быстрые ответы, искать что-то в фоне и тп

Встроили генерацию картинок в Image Playground апп, слабенькую по качеству но зато все на девайсе, можно генерировать портреты в стиле Lensa, эмодзи «Genmoji», удалять объекты с фотографии и тп.

Языковая модель работает в облаке, Apple его назвал «Personal Claude Compute» чтобы, видимо, снизить критику. Обещают не хранить данные в облаке, дать аудировать свою систему экспертам, и использовать облако только для «вычислений» или «инференса». Ассистент учится на основе всего, что о у вас знает – со всех устройств и приложений

В целом, по AI фичам выглядит интересно, хочется попробовать

А еще Siri может обратиться к ChatGPT если вы ей разрешите (обещали больше моделей в будущем), что хитрый способ связать более слабую языковую модель Apple и сильную модель OpenAI

🔷 MacOS: наконец-то можно управлять iPhone с мака, т.е. не только видеть содержание экрана, а именно контролировать телефон мышкой и клавиатурой с помощью iPhone Mirroring. Пуши, аудио и тп, в этом режиме приходят на мак тоже, и что отдельно клево: экран iPhone все это время останется заблокированным, вас никто не «подсмотрит»

🔷 iOS: Наконец-то можно заблокировать приложение с помощью доп защиты вроде FaceID или пароля, и даже скрыть установленные аппы из «установленных», чтобы их сложнее было найти если вы дали кому-то свой iPhone

🔷 iOS: iMessage теперь поддерживает сообщения через спутник когда у вас нет мобильной связи – работает с iPhone 14 и позволяет слать как обычные SMS, так и «синие баблы» iMessage. Шикарная фича, побегу тестировать в море как iOS 18 выйдет

🔷 iOS: во время звонка с iPad/iPhone можно пошарить экран и дать управление (!) пользователю на другом конце, то есть можете теперь близким помогать с настройкой устройств через FaceApp

А еще, во время звонка можно запустить «авто транскрипцию», и диалог попадет в блокнот в виде текста

🔷 iPad OS: показали новый калькулятор для iPad и не просто калькулятор, а прям Math и Notes интеграцию: полноценные переменные, ввод формул от руки с Apple Pencil, создание графиков и тп.

🔷 iPad OS: Показали «умный почерк» и эту фичу я хотел бы в реальной жизни: вы вводите текст с помощью Apple Pencil, и ваши каракули поправляются автоматом на более читабельные

Это лучшая презентация Apple за последние годы, молодцы

Хехе, получил консультацию от сотрудницы фонда a16z по презентации о нейролаве, обменяв ее консультацию на ПАРАМЕТРЫ ИНФЕРЕНСА ЛОКАЛЬНОЙ ЯЗЫКОВОЙ МОДЕЛИ ДЛЯ LLAMA.CPP

Такой вот у нас бартер теперь в мире АИ стартапов 🤌

Мы собрались взять немного денег у VC, чтобы сделать приложения для iOS/Android, ставьте 😐 посту, если хотите чтобы я показал питчдек потом в канале

#пропродукт