Forwarded from Denis Sexy IT 🤖
This media is not supported in your browser
VIEW IN TELEGRAM
Языковые модели уже куда только не встраивали, а как насчет встроить в файл ШРИФТА? ☕️
Чел собрал llama.ttf — полноценный файл шрифта, который одновременно является большой языковой моделью и движком для её выполнения. Этот файл позволяет запускать языковую модель прямо в текстовых редакторах и других приложениях, поддерживающих технологию обработки шрифтов *HarfBuzz.
То есть, вы можете использовать шрифт для генерации текста из любого софта, БЕЗ необходимости ждать, пока кто-то внедрит поддержку AI в Corel Draw (спойлер: никто), плюс — все работает локально.
Если вы технически подкованный, то:
1) Скачайте файл, и установите его как обычный шрифт
2) Выберете шрифт
3) Проставьте кучу «!!!» знаков, чтобы активировать режим генерации, после чего «!» отправленный после текста закончит предложение (в видео пример)
Сайт проекта:
https://fuglede.github.io/llama.ttf/
*HarfBuzz использует WebAssembly (Wasm) для выполнения произвольного кода при обработке шрифтов, что делает возможным включение в файл шрифта целого движка языковой модели
Чел собрал llama.ttf — полноценный файл шрифта, который одновременно является большой языковой моделью и движком для её выполнения. Этот файл позволяет запускать языковую модель прямо в текстовых редакторах и других приложениях, поддерживающих технологию обработки шрифтов *HarfBuzz.
То есть, вы можете использовать шрифт для генерации текста из любого софта, БЕЗ необходимости ждать, пока кто-то внедрит поддержку AI в Corel Draw (спойлер: никто), плюс — все работает локально.
Если вы технически подкованный, то:
1) Скачайте файл, и установите его как обычный шрифт
2) Выберете шрифт
LlamaSans в приложении3) Проставьте кучу «!!!» знаков, чтобы активировать режим генерации, после чего «!» отправленный после текста закончит предложение (в видео пример)
Сайт проекта:
https://fuglede.github.io/llama.ttf/
*HarfBuzz использует WebAssembly (Wasm) для выполнения произвольного кода при обработке шрифтов, что делает возможным включение в файл шрифта целого движка языковой модели
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2👻1
Забавный коммент на Ютубе.
Комментатора заминусили в -2 за предположение, что через несколько лет ИИ сможет генерить фотореалистичное видео.
И накидали +14 тому, кто его опроверг и сказал, что может быть только наши внуки увидят подобное.
:)
В подборку к слайдам о предсказаниях трендов.
#trend #forecast
———
@tsingular
Комментатора заминусили в -2 за предположение, что через несколько лет ИИ сможет генерить фотореалистичное видео.
И накидали +14 тому, кто его опроверг и сказал, что может быть только наши внуки увидят подобное.
:)
В подборку к слайдам о предсказаниях трендов.
#trend #forecast
———
@tsingular
🔥4😁1
ИИ модели без умножения матриц значительно снижают энергопотребление
Учёные разработали метод создания крупных языковых моделей без умножения матриц на основе предыдущей работы BitNet.
Новый подход снижает энергопотребление и повышает эффективность ИИ-систем.
Модель с 2,7 млрд параметров показывает производительность, сравнимую с обычными LLM.
Демонстрация: 1,3 млрд параметров на скорости 23,8 токенов/сек на GPU и FPGA-чипе.
При этом энергопотребление FPGA-чипа - всего 13 Вт!!!
Технология делает LLM доступнее для устройств с ограниченными ресурсами.
Суть инновации заключается в использование только тернарных значений (-1, 0, 1) вместо чисел с плавающей запятой и замену механизма внимания на более простую и эффективную единицу MLGRU.
#MatrixMultiplication #EnergyEfficiency #LanguageModels
-------
@tsingular
Учёные разработали метод создания крупных языковых моделей без умножения матриц на основе предыдущей работы BitNet.
Новый подход снижает энергопотребление и повышает эффективность ИИ-систем.
Модель с 2,7 млрд параметров показывает производительность, сравнимую с обычными LLM.
Демонстрация: 1,3 млрд параметров на скорости 23,8 токенов/сек на GPU и FPGA-чипе.
При этом энергопотребление FPGA-чипа - всего 13 Вт!!!
Технология делает LLM доступнее для устройств с ограниченными ресурсами.
Суть инновации заключается в использование только тернарных значений (-1, 0, 1) вместо чисел с плавающей запятой и замену механизма внимания на более простую и эффективную единицу MLGRU.
#MatrixMultiplication #EnergyEfficiency #LanguageModels
-------
@tsingular
Amazon Bedrock: ИИ-агенты для инвестиционных исследований
Amazon, как всегда, представляет прекрасные детальные руководства по созданию ИИ решений.
Сегодня рассмотрим урок по созданию ИИ-агентов для проведения финансовой аналитики на базе Agents for Amazon Bedrock.
Система анализирует разнородные данные (текст, аудио, БД, финансовые рынки) и автоматизирует рутинные задачи аналитиков.
Мультимодальные агенты обрабатывают запросы на естественном языке, генерируя инсайты на базе данных из различных источников.
В примере описан RAG подход для контекстуализации LLM и безопасное подключение к корпоративным данным, извлечение финансовых показателей из отчетов и анализ настроений в транскриптах конференц-звонков.
Амазон выходит за рамки обычных технических руководств, по сути выкладывая полное изложение технической начинки финтех стартапа.
#AmazonBedrock #FinancialAnalysis #InvestmentResearch
-------
@tsingular
Amazon, как всегда, представляет прекрасные детальные руководства по созданию ИИ решений.
Сегодня рассмотрим урок по созданию ИИ-агентов для проведения финансовой аналитики на базе Agents for Amazon Bedrock.
Система анализирует разнородные данные (текст, аудио, БД, финансовые рынки) и автоматизирует рутинные задачи аналитиков.
Мультимодальные агенты обрабатывают запросы на естественном языке, генерируя инсайты на базе данных из различных источников.
В примере описан RAG подход для контекстуализации LLM и безопасное подключение к корпоративным данным, извлечение финансовых показателей из отчетов и анализ настроений в транскриптах конференц-звонков.
Амазон выходит за рамки обычных технических руководств, по сути выкладывая полное изложение технической начинки финтех стартапа.
#AmazonBedrock #FinancialAnalysis #InvestmentResearch
-------
@tsingular
This media is not supported in your browser
VIEW IN TELEGRAM
Интересный сценарий использования Artifacts в Claude 3.5 Sonnet.
Модель прочитала документ.
В данном случае - Attention is all you need - известная фундаментальная работа.
https://arxiv.org/pdf/1706.03762
И создала интерактивный урок с проверочным тестом в итоге.
Есть вопросы по качеству обучающего материала, конечно.
Но факт, что можно теперь сложный технический документ быстро (буквально за секунды) превратить в черновик урока, - прекрасен.
источник: X
#Claude #Education
———
@tsingualr
Модель прочитала документ.
В данном случае - Attention is all you need - известная фундаментальная работа.
https://arxiv.org/pdf/1706.03762
И создала интерактивный урок с проверочным тестом в итоге.
Есть вопросы по качеству обучающего материала, конечно.
Но факт, что можно теперь сложный технический документ быстро (буквально за секунды) превратить в черновик урока, - прекрасен.
источник: X
#Claude #Education
———
@tsingualr
Использование ИИ для рассекречивания документов
Исследование, проведённое в Мэриленде по заказу Минобороны США показало успешное применение ИИ для рассекречивания документов.
Ключевой момент - сопоставление процессных правил с моделями контекстуального понимания.
Алгоритмы способны различать контекст терминов в разных сферах (например, «килотонна» в сельском хозяйстве и обороне).
Планируется создание руководства по использованию ИИ для поддержки решений о рассекречивании в госструктурах.
Технология применима к различным типам проверки информации, включая FOIA и проверку безопасности.
В данном конкретном случае это больше про сортировку документов, чтобы лишнее не опубликовать, но в целом интересна методика подхода по снижению неопределённостей.
#Pentagon #declassification #machinelearning
-------
@tsingular
Исследование, проведённое в Мэриленде по заказу Минобороны США показало успешное применение ИИ для рассекречивания документов.
Ключевой момент - сопоставление процессных правил с моделями контекстуального понимания.
Алгоритмы способны различать контекст терминов в разных сферах (например, «килотонна» в сельском хозяйстве и обороне).
Планируется создание руководства по использованию ИИ для поддержки решений о рассекречивании в госструктурах.
Технология применима к различным типам проверки информации, включая FOIA и проверку безопасности.
В данном конкретном случае это больше про сортировку документов, чтобы лишнее не опубликовать, но в целом интересна методика подхода по снижению неопределённостей.
#Pentagon #declassification #machinelearning
-------
@tsingular
Forwarded from GigaChat
GigaConf 2024 начинается уже сегодня! Рассказываем о главной технологической конференции от Сбера 😎
Открываем GigaConf пленарным докладом от Сбера, SberDevices, Минцифры, MindSpore и Авито.
Продолжим десятками выступлений от разработчиков, менеджеров, руководителей команд и айтишников. Они поделятся опытом и разберут разные кейсы.
Вот только малая часть из 30+ тем:
⭕️ Настоящее и будущее GigaChat
⭕️ Большие языковые модели: на границе исследований и бизнеса
⭕️ Нужен ли эксперту AI, а AI — эксперт?
⭕️ Безопасность LLM
⭕️ AI: конкурент или помощник?
Мы в большом предвкушении сегодняшнего дня!
🙌 — иду смотреть трансляции и записывать все умные мысли спикеров
Открываем GigaConf пленарным докладом от Сбера, SberDevices, Минцифры, MindSpore и Авито.
Продолжим десятками выступлений от разработчиков, менеджеров, руководителей команд и айтишников. Они поделятся опытом и разберут разные кейсы.
Вот только малая часть из 30+ тем:
Мы в большом предвкушении сегодняшнего дня!
Выбирайте нужный блок и смотрите прямую трансляцию🖥
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
ИИ омолаживает звезд Голливуда в новом фильме - Here
Роберт Земекис в картине "Here" применяет передовую ИИ-технологию для омоложения Тома Хэнкса и Робин Райт.
Инструмент Metaphysic Live в реальном времени возвращает актерам облик 90-х.
Фильм охватывает разные эпохи с одной точки обзора.
Эксперимент Земекиса вызывает споры в киноиндустрии.
Многие творческие работники против использования ИИ в кинопроизводстве.
Актёры из 90х продолжат карьеру после своей смерти.
Первыми получат цифровое бессмертие, получается.
#Zemeckis #Metaphysic #DeAging
———
@tsingular
Роберт Земекис в картине "Here" применяет передовую ИИ-технологию для омоложения Тома Хэнкса и Робин Райт.
Инструмент Metaphysic Live в реальном времени возвращает актерам облик 90-х.
Фильм охватывает разные эпохи с одной точки обзора.
Эксперимент Земекиса вызывает споры в киноиндустрии.
Многие творческие работники против использования ИИ в кинопроизводстве.
Актёры из 90х продолжат карьеру после своей смерти.
Первыми получат цифровое бессмертие, получается.
#Zemeckis #Metaphysic #DeAging
———
@tsingular
Forwarded from эйай ньюз
Google выкатил Gemma 2
Как и обещали на Google I/O, модель вышла в июне. Выпускают два размера: 9 и 27 миллиардов параметров. Обе достаточно маленькие, так что их можно запустить дома на одной геймерской видяхе. Показывают себя на бенчах они хорошо: 9B обгоняет LLaMa 3 8B, будучи не сильно больше, а 27B подбирается по качеству к Mixtral 8x22B.
27B версию тренили на 13 триллионах токенов, а вот 9B лишь на 8, но там дистиллировали из модели побольше.
Модель последние два дня тестили на арене, под названием im-also-a-late-june-chatbot. Пока говорить что-то рано, разброс слишком большой, но вроде вышло неплохо. Лишь бы не было кучи проблем, как было с оригинальной Gemma.
Веса
Блогпост
Техрепорт
@ai_newz
Как и обещали на Google I/O, модель вышла в июне. Выпускают два размера: 9 и 27 миллиардов параметров. Обе достаточно маленькие, так что их можно запустить дома на одной геймерской видяхе. Показывают себя на бенчах они хорошо: 9B обгоняет LLaMa 3 8B, будучи не сильно больше, а 27B подбирается по качеству к Mixtral 8x22B.
27B версию тренили на 13 триллионах токенов, а вот 9B лишь на 8, но там дистиллировали из модели побольше.
Модель последние два дня тестили на арене, под названием im-also-a-late-june-chatbot. Пока говорить что-то рано, разброс слишком большой, но вроде вышло неплохо. Лишь бы не было кучи проблем, как было с оригинальной Gemma.
Веса
Блогпост
Техрепорт
@ai_newz
Forwarded from Сергей Булаев AI 🤖
CriticGPT: ИИ для поиска ошибок ИИ
OpenAI рассказала о новой модели CriticGPT, основанной на GPT-4, для выявления ошибок в коде, сгенерированном GPT-4.
Возможности CriticGPT:
🔶 Анализ кода, созданного ChatGPT и выявление неточностей
🔶 Написание критических замечаний к ответам ChatGPT
🔶 Помощь людям-тренерам в оценке выходных данных ИИ
🔶 Балансировка между агрессивным поиском проблем и точностью обнаружения
Ключевые факты:
Модель обучена с помощью RLHF (Усиление обучения с помощью людского фидбэка), как и ChatGPT, но на данных с намеренно внесенными ошибками. CriticGPT способна находить как искусственно внесенные, так и естественные ошибки ChatGPT. По мнению тренеров, критика CriticGPT лучше, чем критика ChatGPT в 63% случаев при работе с естественными ошибками.
Было обнаружено, что можно генерировать более длинные и всесторонние критические замечания, используя дополнительный поиск во время тестирования против модели вознаграждения критики. Этот поиск, называемый Принудительным выбором с использованием поиска по лучам (FSBS), позволяет балансировать агрессивность поиска проблем в коде и настраивать компромисс между точностью и полнотой обнаружения ошибок. В результате генерируются замечания, максимально полезные для RLHF. Подробнее в документе.
Ограничения CriticGPT включают возможные галлюцинации, сложность оценки длинных и комплексных задач, а также проблемы с обнаружением ошибок, распределенных по всему ответу.
OpenAI планирует интегрировать подобные CriticGPT модели в процесс обучения своих ИИ-систем и видит в этом подходе перспективу для создания более совершенных инструментов оценки сложных ИИ-систем.
Так то 63% не супер сильно отличается от 50…
@sergiobulaev - об AI и не только
OpenAI рассказала о новой модели CriticGPT, основанной на GPT-4, для выявления ошибок в коде, сгенерированном GPT-4.
Возможности CriticGPT:
🔶 Анализ кода, созданного ChatGPT и выявление неточностей
🔶 Написание критических замечаний к ответам ChatGPT
🔶 Помощь людям-тренерам в оценке выходных данных ИИ
🔶 Балансировка между агрессивным поиском проблем и точностью обнаружения
Ключевые факты:
Модель обучена с помощью RLHF (Усиление обучения с помощью людского фидбэка), как и ChatGPT, но на данных с намеренно внесенными ошибками. CriticGPT способна находить как искусственно внесенные, так и естественные ошибки ChatGPT. По мнению тренеров, критика CriticGPT лучше, чем критика ChatGPT в 63% случаев при работе с естественными ошибками.
Было обнаружено, что можно генерировать более длинные и всесторонние критические замечания, используя дополнительный поиск во время тестирования против модели вознаграждения критики. Этот поиск, называемый Принудительным выбором с использованием поиска по лучам (FSBS), позволяет балансировать агрессивность поиска проблем в коде и настраивать компромисс между точностью и полнотой обнаружения ошибок. В результате генерируются замечания, максимально полезные для RLHF. Подробнее в документе.
Ограничения CriticGPT включают возможные галлюцинации, сложность оценки длинных и комплексных задач, а также проблемы с обнаружением ошибок, распределенных по всему ответу.
OpenAI планирует интегрировать подобные CriticGPT модели в процесс обучения своих ИИ-систем и видит в этом подходе перспективу для создания более совершенных инструментов оценки сложных ИИ-систем.
Так то 63% не супер сильно отличается от 50…
@sergiobulaev - об AI и не только
«Skeleton Key»: новая угроза для ИИ
Корпорация Microsoft обнародовала информацию о новой технике взлома генеративных ИИ-моделей под названием «Skeleton Key».
Данный метод позволяет обойти защитные механизмы и вынудить систему генерировать вредоносный контент.
Атака успешно применялась к моделям Meta, Google, OpenAI и других компаний.
GPT-4 показал устойчивость к прямой атаке, но уязвим через системные сообщения.
Для защиты рекомендуется использовать фильтрацию ввода/вывода и системные подсказки.
Microsoft внедрила защиту в свои продукты и обновила инструмент PyRIT для тестирования уязвимостей.
#Microsoft #SkeletonKey #cybersecurity
-------
@tsingular
Корпорация Microsoft обнародовала информацию о новой технике взлома генеративных ИИ-моделей под названием «Skeleton Key».
Данный метод позволяет обойти защитные механизмы и вынудить систему генерировать вредоносный контент.
Атака успешно применялась к моделям Meta, Google, OpenAI и других компаний.
GPT-4 показал устойчивость к прямой атаке, но уязвим через системные сообщения.
Для защиты рекомендуется использовать фильтрацию ввода/вывода и системные подсказки.
Microsoft внедрила защиту в свои продукты и обновила инструмент PyRIT для тестирования уязвимостей.
#Microsoft #SkeletonKey #cybersecurity
-------
@tsingular
Forwarded from CodeCamp
Microsoft обновили свой курс по ИИ для начинающих — там буквально вышла версия 2.0.
18 бесплатных уроков уже ждут на GitHub.
18 бесплатных уроков уже ждут на GitHub.
❤1
Курцвейл: «К 2045 году мощность Интеллекта увеличится в миллион раз»
Рэй Курцвейл, в недавно вышедшей книге - Сингулярность ближе, выдвинул прогноз: к 2045 году произойдет экспоненциальный рост интеллекта.
Ключевые этапы:
• 2029: ИИ достигнет человеческого уровня, появится AGI.
• 2030-е: внедрение медицинских наноботов, запуск универсального базового дохода.
• 2040-е: технологии «послежизни» и загрузка сознания.
Курцвейл уверен: преимущества ИИ перевесят риски, и слияние мозга человека с «облаком ИИ» приведет к Сингулярности.
Интересно, что Курцвейл не говорит, что ИИ будет Сверхразумом, но слияние загруженного в "облако" мозга человека или, скорее, людей, в сумме с ИИ.
#Kurzweil #Singularity #AGI
-------
@tsingular
Рэй Курцвейл, в недавно вышедшей книге - Сингулярность ближе, выдвинул прогноз: к 2045 году произойдет экспоненциальный рост интеллекта.
Ключевые этапы:
• 2029: ИИ достигнет человеческого уровня, появится AGI.
• 2030-е: внедрение медицинских наноботов, запуск универсального базового дохода.
• 2040-е: технологии «послежизни» и загрузка сознания.
Курцвейл уверен: преимущества ИИ перевесят риски, и слияние мозга человека с «облаком ИИ» приведет к Сингулярности.
Интересно, что Курцвейл не говорит, что ИИ будет Сверхразумом, но слияние загруженного в "облако" мозга человека или, скорее, людей, в сумме с ИИ.
#Kurzweil #Singularity #AGI
-------
@tsingular
Amazon поглощает команду Adept: новый виток в гонке AGI
Компания Adept переживает серьезную трансформацию.
Основатели и ключевые сотрудники стартапа переходят в AGI-подразделение Amazon.
Гигант e-commerce лицензирует технологии Adept для создания агентного ИИ.
Новое руководство Adept во главе с Заком Броком сфокусируется на практических решениях для бизнеса.
Компания продолжит разработку мультимодальных моделей и ИИ-агентов для автоматизации рабочих процессов.
Этот шаг усиливает позиции Amazon в гонке за создание AGI.
В следующем году будем наблюдать гонку агентов.
Наперегонки к AGI.
-------
@tsingular
Компания Adept переживает серьезную трансформацию.
Основатели и ключевые сотрудники стартапа переходят в AGI-подразделение Amazon.
Гигант e-commerce лицензирует технологии Adept для создания агентного ИИ.
Новое руководство Adept во главе с Заком Броком сфокусируется на практических решениях для бизнеса.
Компания продолжит разработку мультимодальных моделей и ИИ-агентов для автоматизации рабочих процессов.
Этот шаг усиливает позиции Amazon в гонке за создание AGI.
В следующем году будем наблюдать гонку агентов.
Наперегонки к AGI.
-------
@tsingular
Генеративный ИИ: новый фронт кибербезопасности
Технический директор CrowdStrike предупреждает: генеративный ИИ стал новым вектором атак на предприятия.
Уязвимости включают специально созданные промпты и утечки данных.
Компании, спешащие внедрить GenAI, часто игнорируют стандартные протоколы безопасности.
Эксперты сравнивают GenAI с новой ОС, требующей особых навыков для безопасного использования.
Прямой доступ к LLM повышает риск атак через инъекции промптов, аналогичных SQL-инъекциям.
Рекомендуется проверка пользовательских запросов и ответов LLM, а также ограничение прямого доступа к базам данных.
Абсолютно согласен с товарищем Зайцевым (Elia Zaitsev).
Обязательная часть в разработке ИИ агентов и ботов - проверка входящих и исходящих сообщений на предмет prompt injection и утечек.
База.
#CrowdStrike #GenerativeAI #Cybersecurity
-------
@tsingular
Технический директор CrowdStrike предупреждает: генеративный ИИ стал новым вектором атак на предприятия.
Уязвимости включают специально созданные промпты и утечки данных.
Компании, спешащие внедрить GenAI, часто игнорируют стандартные протоколы безопасности.
Эксперты сравнивают GenAI с новой ОС, требующей особых навыков для безопасного использования.
Прямой доступ к LLM повышает риск атак через инъекции промптов, аналогичных SQL-инъекциям.
Рекомендуется проверка пользовательских запросов и ответов LLM, а также ограничение прямого доступа к базам данных.
Абсолютно согласен с товарищем Зайцевым (Elia Zaitsev).
Обязательная часть в разработке ИИ агентов и ботов - проверка входящих и исходящих сообщений на предмет prompt injection и утечек.
База.
#CrowdStrike #GenerativeAI #Cybersecurity
-------
@tsingular
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
GEN-3 доступен для всех, у кого есть 15 долларов!
Только вот не очень понятно, сколько кредитов списывается за генерацию именно на модели GEN-3.
На сайте написано, то 625 кредитов, которые вам дадут за 15 долларов в месяц, это 125 секунд (то есть 2 минуты). Потом надо докупать.
Цена за GEN-3 кредиты не обозначена.
Максимальная длительность клипа - 10 секунд.
Надо взять, просто чтобы попробовать...
https://app.runwayml.com/video-tools/teams/cgevent/ai-tools/generative-video
Только вот не очень понятно, сколько кредитов списывается за генерацию именно на модели GEN-3.
На сайте написано, то 625 кредитов, которые вам дадут за 15 долларов в месяц, это 125 секунд (то есть 2 минуты). Потом надо докупать.
Цена за GEN-3 кредиты не обозначена.
Максимальная длительность клипа - 10 секунд.
Надо взять, просто чтобы попробовать...
https://app.runwayml.com/video-tools/teams/cgevent/ai-tools/generative-video