Технозаметки Малышева
9.8K subscribers
4.09K photos
1.5K videos
41 files
4.21K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Тем временем Anthropic удвоили размер максимального лимита количества сгенерированных токенов для Claude 3.5 Sonnet при запросах через API. Теперь он - 8192!

Чтобы воспользоваться, нужно добавить дополнительный заголовок в запрос на создание сообщения:

"anthropic-beta": "max-tokens-3-5-sonnet-2024-07-15"

Также увеличенное окно доступно в консоли. В Claude.ai пока не меняли, но планируют выкатывать.

Сергей Булаев AI 🤖 - об AI и не только
Lattice отменяет эксперимент с ИИ-сотрудниками

Компания Lattice предприняла попытку интегрировать ИИ-ботов в систему управления персоналом.
CEO Сара Франклин анонсировала планы предоставить "цифровым работникам" официальный статус сотрудников.
Предполагалось, что виртуальные помощники пройдут адаптацию, обучение и получат KPI.
Инициатива вызвала предсказуемую негативную реакцию и была отменена через три дня.
Франклин пыталась объяснить мотивы, утверждая, что не выступает за персонификацию ИИ.
Многие фирмы, включая Cognition AI и Qualified, изучают концепцию цифровых сотрудников.
Эксперимент Lattice был особенно негативно воспринят теми, кого это могло затронуть напрямую.

Первый блин комом. Запишем для истории.
Интересно будет потом посмотреть, как быстро подобные эксперименты станут успешными. 🤖

#Lattice #DigitalWorkers #HR
-------
@tsingular
👍3
Forwarded from Сиолошная
Andrey Karpathy, ко-фаундер OpenAI и ex-Директор по AI в Tesla, не дождался моего лонга по образованию и открыл Eureka Labs, школу нового типа, основанную на искусственном интеллекте.

Текст анонса:
===
Как мы можем приблизиться к идеальному опыту изучения чего-то нового? Например, в случае с физикой можно представить, как вы работаете над высококачественными учебными материалами вместе с Фейнманом, который будет сопровождать вас на каждом этапе пути. К сожалению, экспертов в предметной области, которые глубоко увлечены, прекрасно преподают, бесконечно терпеливы и свободно говорят на всех языках мира, также очень мало и они не могут лично обучать все 8 миллиардов людей.

Однако с учетом недавнего прогресса в области генеративного искусственного интеллекта этот опыт обучения кажется вполне достижимым. Преподаватель по-прежнему разрабатывает материалы курса, но они поддерживаются, активно используются и масштабируются с помощью ИИ-помощников преподавателя, которые оптимизированы для помощи учащимся в их изучении. Этот симбиоз Учитель + ИИ может проводить целую программу курсов на общей платформе. Если мы добьемся успеха, любому будет легко научиться чему-либо, расширяя образование как по доступности (большое количество людей, изучающих что-то), так и по объему (любой человек изучает большое количество предметов, сверх того, что сегодня возможно без посторонней помощи).

Нашим первым продуктом станет, очевидно, лучший в мире курс по искусственному интеллекту LLM101n. Это курс для студентов бакалавриата, и он поможет студенту натренировать собственный ИИ, очень похожий на уменьшенную версию этого самого помощника преподавателя по искусственному интеллекту. Материалы курса будут доступны онлайн, но мы также планируем вести как цифровую, так и физическую группы для прохождения курса.

Сегодня мы с головой уходим в создание LLM101n, но мы с нетерпением ждем будущего, в котором ИИ станет ключевой технологией для увеличения человеческого потенциала.

Чему бы вы хотели научиться?
🔥52
Сохраним:)

#humor
------
@tsingular
🔥3👍2😁2
This media is not supported in your browser
VIEW IN TELEGRAM
Домашний AI-кластер из любого барахла

Exo - интересная разработка для автоматического создания AI-кластера из повседневных устройств.
Объединяет iPhone, iPad, Android, Mac, Linux в единый мощный GPU кластер.
Поддерживает LLaMA и другие популярные модели.
Оптимально распределяет задачи на основе топологии сети и ресурсов.
Автоматически обнаруживает устройства без ручной настройки.
Предоставляет API, совместимый с ChatGPT, для запуска моделей.
Использует peer-to-peer архитектуру вместо master-worker.
Доступ к моделям через библиотеку exo с использованием peer handles.
Запускает endpoint на https://localhost:8000.

Поддерживает различные движки вывода и стратегии разделения модели по слоям между устройствами.

В примере на видео кластер из:
- iPhone 15 Pro Max
- iPad Pro M4
- Galaxy S24 Ultra
- MacBook Pro M2 and M3 Pro
- 2 x MSI NVIDIA GeForce RTX 4090 SUPRIM

Старое железо теперь не выкидываем.

#Exo #DIY #AICluster
-------
@tsingular
🔥5
OpenAI представляет GPT-4o mini: компактный и экономичный ИИ

OpenAI анонсировала GPT-4o mini - новую компактную и доступную модель ИИ.
Решение превосходит ведущие малые модели в задачах с текстом и изображениями.
Ключевые преимущества: скорость, экономичность и высокая производительность.
GPT-4o mini на 60% дешевле GPT-3.5 Turbo и заменит ее в линейке OpenAI.
Модель доступна разработчикам и через ChatGPT, поддерживает контекст до 128 000 токенов.
Планируется добавление поддержки видео и аудио в будущем.

Интересная деталь,- 4о мини может генерить до 16К токенов в ответе!

В первую очередь это конкуренция Haiku, на мой взгляд. (в 2 раза дешевле и на 10% "умнее"!)

При этом Anthropic уже анонсировал Haiku 3.5, которая точно будет умнее себя 3.0, но вот будет ли дешевле, - не факт.
И теперь даже интересно как она с 4о мини будет по "уму". В общем, тут прям интрига.

Опять же все эти "лёгкие" модельки, - снижают желание закупать локальное железо.

#OpenAI #GPT4oMini #CompactAI
-------
@tsingular
3
Перевёл бота https://t.iss.one/Cloud_GPT_bot на 4o-mini по умолчанию для бесплатных сообщений.

#GPT #bot
———
@tsingular
🆒21
Сбой CrowdStrike Falcon парализует Windows-ПК

Обновление CrowdStrike Falcon Sensor вызвало масштабный коллапс Windows систем.

Множество компьютеров получили 'синий экран смерти' и невозможность перезагрузки.

Проблема связана с компонентом csagent.sys и затрагивает критические службы.

Инженеры компании активно работают над устранением неполадок.

Ironically, агент, призванный защищать от угроз, сам стал источником проблемы.

Ждём когда сбой ИИ парализует так же пол-мира. Вероятность 100%, вопрос времени.

—-
UPD: Сейчас на OpenAI 1млн вопросов - ОК GPT, как починить Crowdstrike

Лекарство:
1. Boot Windows in safe mode;
2. Go to the directory C:\Windows\System32\drivers\CrowdStrike
3. Rename the file named “C-000000291*.sys” to any other, for example, “1C-0000002.sys”;
4. Restart your computer.

#CrowdStrike #WindowsCrash #CyberSecurity
-------
@tsingular
❤‍🔥3👍2
Mistral AI и NVIDIA запустили NeMo модель на 12B

Компании представили 12B модель с контекстом до 128 000 токенов.
NeMo демонстрирует неплохие результаты в ответах, коде и прочих тестах.

Поддерживает квантизацию FP8 без потери эффективности.

Заточена на мультиязычные приложения с новым токенизатором Tekken.

Доступна по лицензии Apache 2.0 на HuggingFace и как микросервис NVIDIA NIM.

HF: https://huggingface.co/mistralai/Mistral-Nemo-Instruct-2407 (25GB)
https://huggingface.co/nvidia/Mistral-NeMo-12B-Instruct/

Уже появилась Q5_K_M версия под ollama (https://ollama.com/akuldatta/mistral-nemo-instruct-12b), но хотелось бы полную увидеть.

#Mistral #NVIDIA #NeMo
-------
@tsingular
OpenAI: защита от обхода инструкций в новой модели

OpenAI представила технологию "иерархии инструкций" для GPT-4o Mini.
Метод приоритизирует системные команды над пользовательскими запросами.
Цель - блокировка уловки "игнорировать предыдущие инструкции".
Модель обучена распознавать некорректные запросы.
Это шаг к безопасному запуску автономных ИИ-агентов.
Планируется разработка более сложных механизмов защиты.

Баста, карапузики! Кончилися танцы! 😉
—-
UPD: нет. танцуем дальше:
https://x.com/elder_plinius/status/1814023961535295918

#OpenAI #GPT4oMini #PromptInjection
-------
@tsingular
😭1
А как все пропустили тот факт, что у OpenAI вышла новая модель и тут же компьютеры по всему миру поразил сбой?

Эти новости прекрасно смотрятся вместе :)

#humor
—-
@tsingular
👨‍💻1
Forwarded from AI Insider
Дубляж умер в этот день: в ТикТоке хайпит нейронный перевод актёров на русский — звучит мега-реалистично и без акцента.

Уже ищем этот ИИ, чтобы опубликовать в канал.
🔥9
Microsoft прокачивает Excel с помощью ИИ

Компания представила SpreadsheetLLM - инновационную технологию для улучшения работы с электронными таблицами.

Ключевые особенности:
• Использование LLM для анализа таблиц
• Метод SheetCompressor для эффективного кодирования данных
96% сжатие представления таблиц с сохранением ключевой информации
• Работа с несколькими таблицами в одном документе
Распознавание типов данных по форматированию ячеек!

Технология превосходит существующие методы в задачах обнаружения таблиц и системах вопрос-ответ (синтетические наборы для обучения текстовых моделей по табличным данным), открывая новые возможности для интеллектуальной работы с данными.

Метод может быть полезен не только для Excel, а в принципе и для разработки своих решений. 📊🤖

#Microsoft #Excel #SpreadsheetLLM
—-
@tsingular
👍1
Технологические гиганты объединяются для создания безопасного ИИ

Google анонсировала создание Коалиции за безопасный ИИ (CoSAI), объединив ключевых игроков индустрии.
Участники: Google, OpenAI, Microsoft, Amazon, Nvidia, Intel, IBM и другие.
Цели: разработка стандартов безопасности, инструментов оценки и обмен информацией об угрозах.
CoSAI будет функционировать под эгидой OASIS Open, сотрудничая с Frontier Model Forum и Partnership on AI.
Инициатива основана на Secure AI Framework (SAIF) от Google.
Задача: создание эволюционирующих стратегий управления рисками в сфере ИИ.

Безопасный ИИ или ИИ в безопасности от кожаных... Барьер в обе стороны может работать.
Надо еще несколько международных коалиций подобного масштаба и потом пусть воюют договариваются между собой.

#CoSAI #AISecurityStandards #TechCollaboration
-------
@tsingular
This media is not supported in your browser
VIEW IN TELEGRAM
Что будет, если использовать MIDI-контроллер и SDXL Turbo? Немного волшебства.

Поиски изображений в латентном пространстве в реальном времени на тулките для интерактивных выставок Lunar Tools

Музыканты, задумайтесь. А может подключить синтезатор?

ПодписывайТЕСТО
👍3