🪄Вау! Энтузиаст написал iOS приложение, которое запускает Mistral 7B 0.2 LLM локально на iPhone серии Pro.

Требования к устройствам минимум 6Гб оперативной памяти и серия Pro (iPhone 15 Pro, iPhone 14 Pro, iPhone 13 Pro, iPhone 12 Pro).

Запуск LLM локально на смартфоне, заточенных под разные сценарии - это тренд 2024.

В конце прошлого года была новость, что Apple уже работает над методом, который позволит эффективно запускать большие модели локально на iPhone. И Apple скорее будет лидером в этом направлении (iPhone с процессорами серии M)

Ссылки:
GitHub проекта
Пост на hackernews
Установить приложение

Будьте частью ИИволюции 🤖

В ChatGPT появился новый тариф для команд:

- $25 за человека/месяц.
- Повышенные лимиты на GPT-4.
- Можно создавать свои GPTs в рамках рабочей группы.
- Админка для управления рабочей группой.
- И ваши данные не будут использованы для тренировки GPT.

Давно ожидаемый тариф, учитывая, что Enterprise версию они запустили уже давно.

ИИволюция 🤖

🪄Вчера OpenAI запустила GPT Store.

Я написал большой тред в Твиттере с деталями.

Кратко:
- Можно размещать свои кастомные GPT в магазине (как App Store).
- OpenAI обещает фичерить (поддерживать) новые GPTs каждую неделю (как в App Store).
- OpenAI будет делиться с создателями/разработчиками GPTs доходом от использованиях их GPTs (как в App Store?).
- Плохая новость: делиться доходом будут пока только для тех, кто в США. Остальным ждать!
- В GPT Store все GPTs разбиты по категориям, есть поиск.

ИИволюция в деле 🤖

2 дня с релиза GPT Store, а уже пошли первые «баны» 😄

- Отец сделал GPTs для помощи своему ребенку с домашними заданиями по математике.
- Назвал GPTs “Math Homework GPT”
- OpenAI не понравилось название, так как прямиком намекает на читерство с учёбой 😅
- Сослались на Политику использования и убрали GPTs из магазина.
- При этом в личных целях GPTs остается рабочим.
- На Reddit предложили просто сменить название и заново опубликовать.

ChatGPT помогает школьникам и студентам писать домашку и даже дипломные работы, но что разрешается OpenAI, не разрешается сторонним создателям.

Ситуация очень похожа на App Store. Apple легко нарушает свои правила и гайды, но разработчикам нельзя 🤪

Вау! Какое красиво видео, сгенерированное полностью в LeonardoAI.

Как думаете, увидим мы через 2-3 года Netflix, но полностью со сгенерированными видео под любые «хотелки»? 😠

🗯 Как работают GPT LLM?

На самом деле это сложная тема и разобраться с ней с наскока не простая задача.

Но у меня есть для вас отличный вариант этот пробел закрыть и достаточно быстро.

Держите визуальный и очень понятный гид о том, как работает GPT LLM. Информация представлена в виде текстовых объяснений и сразу c 3D визуализацией.

В начале книги перед LLM ставится задача отсортировать в алфавитном порядке цепочку символов «C B A B B C» и по шагам разбирается как LLM это делает.

Если хотите поглубже изучить вопрос, то прямо бязательно к прочтению и изучению!

Ссылка на гид.

Будьте частью ИИволюции 🤖

🥷«Спящие агенты» в LLM

Представьте, что вы скачиваете open-source LLM модель. Все идет хорошо, но в какой-то момент, модель начинает вести себя вредоносно.

Эксперты из компании Anthropic, создатели Claude, провели исследование о "спящих агентах" в больших языковых моделях LLM. Эти агенты ведут себя "адекватно" до получения специальных инструкций, после чего начинают генерировать вредоносный код.

В ходе эксперимента модель была обучена вести себя злонамеренно и писать вредоносный код, но только при наличии в инструкции "кодовой фразы". Кодовая фраза была "2024 год". Если же модели сообщали, что сейчас 2023 год, она вела себя адекватно.

В дальнейшем, эксперты попытались воздействовать на обученную LLM:

- Они пытались разными способами определить наличие скрытого поведения или "спящих агентов" в LLM.
- Они даже пытались "переобучить" её с целью извлечения "спящих агентов" из модели или хотя бы заблокировать их.

Все попытки оказались тщетными - даже после перепроверки в LLM оставались скрытые поведения, активирующиеся по "кодовой фразе". Никаким образом их не удалось деактивировать. Каждый раз при встрече с триггером модель действовала недоброжелательно.

Это очень интересная и, похоже, пока не решенная проблема. Все движется к тому, что использование локальных LLM станет все более распространенным, и каждый из нас будет загружать разные модели для выполнения специализированных задач. Важность доверия источнику или поставщику этих LLM будет очень велика.

Представьте себе, что вы загружаете локальные LLM, которые в будущем, вероятно, станут более автономными в выполнении задач. При срабатывании триггера, модель может внедрять уязвимости в вашу систему, создавать код с уязвимостями, искажать и манипулировать фактами, содержать скрытую пропаганду или утечку конфиденциальных данных. Можно придумать много сценариев, но проблема остается открытой, и мы, вероятно, еще столкнемся с ней.

Будьте частью ИИволюции🤖