Технозаметки Малышева
9.74K subscribers
4.07K photos
1.49K videos
41 files
4.19K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Forwarded from эйай ньюз
Google выкатил Gemma 2

Как и обещали на Google I/O, модель вышла в июне. Выпускают два размера: 9 и 27 миллиардов параметров. Обе достаточно маленькие, так что их можно запустить дома на одной геймерской видяхе. Показывают себя на бенчах они хорошо: 9B обгоняет LLaMa 3 8B, будучи не сильно больше, а 27B подбирается по качеству к Mixtral 8x22B.

27B версию тренили на 13 триллионах токенов, а вот 9B лишь на 8, но там дистиллировали из модели побольше.

Модель последние два дня тестили на арене, под названием im-also-a-late-june-chatbot. Пока говорить что-то рано, разброс слишком большой, но вроде вышло неплохо. Лишь бы не было кучи проблем, как было с оригинальной Gemma.

Веса
Блогпост
Техрепорт

@ai_newz
CriticGPT: ИИ для поиска ошибок ИИ

OpenAI рассказала о новой модели CriticGPT, основанной на GPT-4, для выявления ошибок в коде, сгенерированном GPT-4.

Возможности CriticGPT:

🔶 Анализ кода, созданного ChatGPT и выявление неточностей

🔶 Написание критических замечаний к ответам ChatGPT

🔶 Помощь людям-тренерам в оценке выходных данных ИИ

🔶 Балансировка между агрессивным поиском проблем и точностью обнаружения

Ключевые факты:

Модель обучена с помощью RLHF (Усиление обучения с помощью людского фидбэка), как и ChatGPT, но на данных с намеренно внесенными ошибками. CriticGPT способна находить как искусственно внесенные, так и естественные ошибки ChatGPT. По мнению тренеров, критика CriticGPT лучше, чем критика ChatGPT в 63% случаев при работе с естественными ошибками.

Было обнаружено, что можно генерировать более длинные и всесторонние критические замечания, используя дополнительный поиск во время тестирования против модели вознаграждения критики. Этот поиск, называемый Принудительным выбором с использованием поиска по лучам (FSBS), позволяет балансировать агрессивность поиска проблем в коде и настраивать компромисс между точностью и полнотой обнаружения ошибок. В результате генерируются замечания, максимально полезные для RLHF. Подробнее в документе.

Ограничения CriticGPT включают возможные галлюцинации, сложность оценки длинных и комплексных задач, а также проблемы с обнаружением ошибок, распределенных по всему ответу.

OpenAI планирует интегрировать подобные CriticGPT модели в процесс обучения своих ИИ-систем и видит в этом подходе перспективу для создания более совершенных инструментов оценки сложных ИИ-систем.

Так то 63% не супер сильно отличается от 50…

@sergiobulaev - об AI и не только
Интересная книжка.
ChatGPT Cybersecurity Cookbook

———
@tsingular
ChatGPT for Cybersecurity Cookbook.epub
14.8 MB
Интересная книжка.
ChatGPT Cybersecurity Cookbook

———
@tsingular
«Skeleton Key»: новая угроза для ИИ

Корпорация Microsoft обнародовала информацию о новой технике взлома генеративных ИИ-моделей под названием «Skeleton Key».

Данный метод позволяет обойти защитные механизмы и вынудить систему генерировать вредоносный контент.
Атака успешно применялась к моделям Meta, Google, OpenAI и других компаний.
GPT-4 показал устойчивость к прямой атаке, но уязвим через системные сообщения.
Для защиты рекомендуется использовать фильтрацию ввода/вывода и системные подсказки.
Microsoft внедрила защиту в свои продукты и обновила инструмент PyRIT для тестирования уязвимостей.

#Microsoft #SkeletonKey #cybersecurity
-------
@tsingular
Forwarded from CodeCamp
Microsoft обновили свой курс по ИИ для начинающих — там буквально вышла версия 2.0.

18 бесплатных уроков уже ждут на GitHub.
1
Курцвейл: «К 2045 году мощность Интеллекта увеличится в миллион раз»

Рэй Курцвейл, в недавно вышедшей книге - Сингулярность ближе, выдвинул прогноз: к 2045 году произойдет экспоненциальный рост интеллекта.
Ключевые этапы:
2029: ИИ достигнет человеческого уровня, появится AGI.
2030-е: внедрение медицинских наноботов, запуск универсального базового дохода.
2040-е: технологии «послежизни» и загрузка сознания.

Курцвейл уверен: преимущества ИИ перевесят риски, и слияние мозга человека с «облаком ИИ» приведет к Сингулярности.

Интересно, что Курцвейл не говорит, что ИИ будет Сверхразумом, но слияние загруженного в "облако" мозга человека или, скорее, людей, в сумме с ИИ.

#Kurzweil #Singularity #AGI
-------
@tsingular
Amazon поглощает команду Adept: новый виток в гонке AGI

Компания Adept переживает серьезную трансформацию.
Основатели и ключевые сотрудники стартапа переходят в AGI-подразделение Amazon.
Гигант e-commerce лицензирует технологии Adept для создания агентного ИИ.
Новое руководство Adept во главе с Заком Броком сфокусируется на практических решениях для бизнеса.
Компания продолжит разработку мультимодальных моделей и ИИ-агентов для автоматизации рабочих процессов.
Этот шаг усиливает позиции Amazon в гонке за создание AGI.

В следующем году будем наблюдать гонку агентов.
Наперегонки к AGI.
-------
@tsingular
Генеративный ИИ: новый фронт кибербезопасности

Технический директор CrowdStrike предупреждает: генеративный ИИ стал новым вектором атак на предприятия.
Уязвимости включают специально созданные промпты и утечки данных.
Компании, спешащие внедрить GenAI, часто игнорируют стандартные протоколы безопасности.
Эксперты сравнивают GenAI с новой ОС, требующей особых навыков для безопасного использования.
Прямой доступ к LLM повышает риск атак через инъекции промптов, аналогичных SQL-инъекциям.
Рекомендуется проверка пользовательских запросов и ответов LLM, а также ограничение прямого доступа к базам данных.

Абсолютно согласен с товарищем Зайцевым (Elia Zaitsev).
Обязательная часть в разработке ИИ агентов и ботов - проверка входящих и исходящих сообщений на предмет prompt injection и утечек.
База.

#CrowdStrike #GenerativeAI #Cybersecurity
-------
@tsingular
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
GEN-3 доступен для всех, у кого есть 15 долларов!

Только вот не очень понятно, сколько кредитов списывается за генерацию именно на модели GEN-3.

На сайте написано, то 625 кредитов, которые вам дадут за 15 долларов в месяц, это 125 секунд (то есть 2 минуты). Потом надо докупать.

Цена за GEN-3 кредиты не обозначена.

Максимальная длительность клипа - 10 секунд.

Надо взять, просто чтобы попробовать...

https://app.runwayml.com/video-tools/teams/cgevent/ai-tools/generative-video
Forwarded from Data Secrets
Media is too big
VIEW IN TELEGRAM
Это шедевр: известное австралийское медиа, которое снимает колкую политическую сатиру, опубликовало видео про ИИ

В ролике пародийный ИИ-ассистент GovGPT, "сделанный компанией ClosedAI", с сарказмом и пасхалками прожаривает тех-гигантов и отвечает на вопрос "Будет ли SkyNet?".

Ничего лучше вы сегодня не увидите
4
Lakera запускает каталог ресурсов по безопасности GenAI

Компания Lakera представила каталог ресурсов по безопасности генеративного ИИ.
Он включает ссылки на датасеты, исследования, CTF-задачи, статьи, курсы и open-source инструменты.
Ключевые темы: атаки на LLM, уязвимости промптов, безопасность ИИ-агентов, эффективность фильтров.
Есть ссылки на практическом обучении через CTF и курсы по взлому через промпты, LLM Security Playbook и Prompt Injections Handbook..
Перечислены ресурсы, которые охватывают системные уязвимости, методы атак, извлечение обучающих данных, а так же открытые инструменты: LMQL, PyRIT, Garak.

Интересный каталог в открытом доступе.
Может быть очень полезно, особенно если Lakera будет его пополнять силами коммьюнити.

Google Sheets

#Lakera #GenAISecurity #LLM
-------
@tsingular
Amazon Bedrock представил встроенные методики для защиты ИИ приложений и данных

Amazon анонсировала Guardrails и Knowledge Bases для Bedrock.
Guardrails даёт рекомендации по мерам безопасности в ИИ-приложениях, и обеспечивает блокировку до 85% вредоносного контента.
Добавлены фильтры конфиденциальности для обнаружения и редактирования персональных данных.

Knowledge Bases работает как RAG, соединяя модели с данными.

Система автоматизирует извлечение, обработку и хранение данных в векторных базах.
API Retrieve и RetrieveAndGenerate позволяют получать контекст и генерировать ответы.

Функционал доступен в регионах US East и US West, работает со всеми LLM в Bedrock.

Amazon как всегда - кладезь полезных методик.
Вот ещё про промптинг Claude

#Amazon #Bedrock #Guardrails
-------
@tsingular
Forwarded from Не баг, а фича
This media is not supported in your browser
VIEW IN TELEGRAM
Невозможно: французский стартап Kyutai этой ночью уделал OpenAI. Ребята показали голосового ассистента, который идентичен тому, что должен появиться в ChatGPT, но до сих пор не появился.

Moshi — это нейронка, которая говорит с использованием 70 разных эмоций и акцентов. Код обещают опубликовать в опенсорсе, а сам ИИ сделать проще, чтобы запускался даже на ноутбуках.

Русский язык тулза пока не понимает, но зато у неё уже есть демо — чекаем тут.

🙂 Не баг, а фича
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Не баг, а фича
This media is not supported in your browser
VIEW IN TELEGRAM
ChatGPT официально убит — вышла GPT4All v3. Нейронка позволяет запускать больше 1000 моделей локально на вашем ПК! Это — настоящая революция в мире чатботов и вот, почему:

• Это первый клиент, куда можно загружать любые свои файлы — код, диплом, статьи, что угодно, и задавать по материалу любые вопросы. Ответ будет дан немедленно;

• Это идеально оптимизированный клиент — подгрузка файлов не нагружает систему, а боты работают очень быстро;

• Это уникальный клиент, который работает локально — вы можете дать ИИ всё, что угодно, не боясь утечки данных.

GPT4All v3 доступна для всех актуальных ОС, а установить её можно тут.

🙂 Не баг, а фича
Please open Telegram to view this post
VIEW IN TELEGRAM
5
🚀 Всем привет! Запилил нового бота для учёта времени и активностей.

Он поможет отслеживать, какое время вы тратите на различные задачи в течение дня. 🕒

Что умеет бот:
1. Начало отслеживания новой активности — бот анализирует ваш текст и автоматически классифицирует его по категориям.
2. Просмотр текущих и недавних активностей — узнайте, что и как долго вы делали, и получите сводку по прошлым задачам.
3. Анализ данных по активностям — бот предоставляет анализ времени, потраченного на различные категории, с детальным описанием.

Главная функция бота - секундомер и отчет.
Тут нет поиска в интернете или ответов на расширенные вопросы.

Есть идеи добавить биллингуемые задачи и поддержку плана работы, но пока это только запись текущей активности.

Ссылка на бота: @ai_ttracker_bot

Буду благодарен за любую обратную связь и предложения по доработке! 🙌

#Dev #Claude #TimeTracker
———
@tsingular
3
Forwarded from эйай ньюз
Вопрос ИИ индустрии на 600 миллиардов долларов

В прошлом году один из партнёров в Sequoia (одна из крупнейших VC фирм в мире) написал статью: AI’s $200B Question. В ней он соотносил мировые траты на GPU с выручкой компаний от ИИ. Методика проста: на основе выручки Nvidia считаются мировые траты на ИИ датацентры, которые в прошлом году по проекции составляли бы 100 миллиардов в год.

А ведь компании не могут тратиться на одни датацентры: сотрудникам нужно платить, офисы арендовать, да и прибыль инвесторам показывать. На всё это нужно было 200 миллиардов долларов выручки, тогда как вся индустрия показывала от силы 75, то есть был бы разрыв в 125 лярдов.

Спойлер: реальная цифра была более чем 146% от проецируемой, 147 миллиардов. То есть разрыв между реальной выручкой и необходимой выручкой на прошлый год составил 220 миллиардов

Сейчас вышел обновлённый репорт, на основе современных данных. Результаты шокируют: на конец этого года, при текущих темпах роста, траты на датацентры вырастут до 300 миллиардов в год. То есть для поддержания таких трат индустрии нужна выручка в 600 миллиардов в год. Это, если что, выручка Microsoft и Apple вместе взятых.

Хоть выручка от ИИ, по его оценкам, тоже выросла до 100 миллиардов, её роста всё равно не хватает. Пропасть между реальной и необходимой выручкой выросла в более чем 2 раза, с 220 до 500 миллиардов долларов.

А можно ещё вспомнить что, кроме чипов Nvidia, у бигтеха тоже есть ещё куча своих чипов. Они тоже производятся огромными партиями и на них тоже тратятся миллиарды долларов, так что реальные траты на датацентры могут быть значительно выше.

Так что пацаны, пузырь?


@ai_newz
Китай лидирует в гонке патентов на генеративный ИИ

Патентные заявки на инновации в сфере генеративного ИИ выросли в 8 раз за 6 лет.
За десятилетие подано 54 000 патентов, четверть из них - в последний год.
Китай возглавляет список с 38 000 инноваций, за ним следуют США, Южная Корея и Япония.
Индия демонстрирует рекордный рост в 56% ежегодно.
Лидируют китайские гиганты: Tencent, Ping An Insurance, Baidu. IBM на пятом месте.
Преобладают патенты в областях изображений, видео, текста и речи.
Растет интерес к молекулярным, генетическим и белковым данным.

У кого патенты, - тот и лидер.
Правильной дорогой идут товарищи.

#China #patents #generativeAI
-------
@tsingular
❤‍🔥1
Cloudflare запускает защиту от ИИ-ботов

Компания Cloudflare представила новый инструмент "AIndependence" для защиты веб-ресурсов.
Функционал позволяет одним кликом блокировать ботов, скрайперов и краулеров, использующих ИИ.
Цель разработки - предотвратить несанкционированный сбор данных с сайтов для обучения нейросетей.
Решение обеспечивает владельцам веб-платформ контроль над использованием контента в ИИ-проектах.
Технология призвана защитить интеллектуальную собственность и сохранить конфиденциальность информации в сети.

Следующий шаг, как в ZeroTrust - режим запрета доступа ИИ по умолчанию к веб сайтам.
Платный доступ для роботов, - оплата криптой автоматом через микроплатежи.

#Cloudflare #AIndependence #websecurity
-------
@tsingular