ИИ в безопасности: оценка эффективности LLM в обнаружении уязвимостей

Исследование излагает эффективность использования Large Language Models (LLM) для обнаружения уязвимостей.

LLM сопоставляют с инструментами статического анализа и классическими подходами машинного обучения.

GPT-4 в сочетании с CodeQL показывает точность в 96-97%.

Использование LLM с расширенным контекстом показывает высокий потенциал.

Обсуждение касается особенностей синтетических данных и данных из реальной жизни, но без подробных результатов.

ИИ развивается в кибербезе.

#ИБ #GPT4 #CodeQL

Уже постоянная рубрика про шлем Quest 3. Уже в следующем году появится приложение, которое позволит смотреть спортивные матчи с видом сверху. Выглядит, как интерактивная тактическая схема.

Точно нужно откладывать деньги с завтраков

GitHub рейтинг по частным моделям GPT

Информация может быть полезной для аналитиков и разработчиков.

Актуальный рейтинг новинок.

#customGPT #рейтинг

ChatGPT стал законотворцем в Бразилии

В Порту-Алегри, Бразилия, принято законодательное постановление, которое написал ИИ ChatGPT.
Законодатели одобрили текст единогласно, не зная о его происхождении.
Ситуация породила дебаты о месте ИИ в разработке публичной политики.
Постановление вызвало обеспокоенность по поводу распространения недостоверной информации через ИИ-платформы.
Предложена идея водяных знаков для документов, созданных искусственным интеллектом.
Изначальная озабоченность председателя совета города сменилась признанием неизбежности тенденции использования ИИ.

ИИ вправе претендовать на должность секретаря совета?

#ChatGPT #ИИ #Законотворчество

🚗 Беспилотные Авто и Этика: Российский Подход к Проблеме Вагонетки

🇷🇺 Российский подход к вопросу: вместо того чтобы решать как ИИ должен делать этический выбор в критических ситуациях, нужно создавать системы настолько безопасные, что бы такие ситуации в принципе не возникали.
Это значит, что ИИ беспилотных авто будет нацелен на предотвращение любых аварий, без необходимости выбирать меньшее из зол.

🌍 В мире мнения разделились. Например, в Германии создают комиссии для обсуждения этических дилемм автоматизированного вождения.

Но российский подход уникален своей простотой и эффективностью - предотвращать возникновение проблем, что бы потом не пытаться решать их на бегу.

ИМХО, Разумный вектор в целом в Этике ИИ!

Что думаете? Сработает?

🧬 Позволю себе немного анонса, ведь это тянет на локальную революция в мире нейросетей:

Исследователи из Alibaba Group разработали новый метод создания видео из изображений для анимации персонажей. Использовать можно где угодно: блогеры могут заставить танцевать свою фотку, продавцы одежды могут презентовать одежду в динамике. Или просто анимировать своего кумира.

Сохраняем себе ссылочку и ждём, когда нейросеть выйдет в массы.

🧩 #КаталогНейросетей

Новый трюк с подсказкой: «Я дам чаевые 200 долларов за идеальное решение!» – помогает ChapGPT написать более развернутые ответы на вопрос, проверенные статистически.

в своих самых смелых мечтах авторы научной фантастики не могли этого предсказать 🗿

https://twitter.com/literallydenis/status/1730965217125839142

Глава Nvidia предсказывает появление AGI через 5 лет

Генеральный директор Nvidia Дженсен Хуанг прогнозирует разработку искусственного общего интеллекта (AGI) в ближайшие пять лет.
AGI должен выполнять задачи, требующие интеллекта, сравнимого с человеческим.
Дизайн микросхем Nvidia невозможен без использования современного ИИ.
Несмотря на прогресс ИИ, полноценный человеческий интеллект пока не воспроизведен.
Технические лидеры подобно Джону Кармаку и Демису Хассабису также верят в скорый успех AGI.
С сильным AI связаны опасения в сфере распространения фейковых новостей, кибератак и автоматизированного вооружения.
Регулирование развития ИИ считается ключевым для предотвращения рисков и защиты человечества.

Мир на пороге новой эры.

#Nvidia #AI #AGI

Ридли Скотт предрекает угрозу ИИ

Ридли Скотт считает ИИ опасным, сравнивая его с водородной бомбой.
Характеризует ИИ как возможную угрозу для человечества и культуры.
Выразил беспокойство по поводу будущего искусства и киноиндустрии под влиянием ИИ.
Утверждает, что ИИ не способен на настоящее творчество и эмоциональную глубину.
Прогнозирует доминирование мира двумя мегакорпорациями, аналогично сюжету 'Бегущего по лезвию'.

Интересно по какому из сюжетов фантастики мы пойдем...

#RidleyScott #AI #Technology

OpenAI укрепляет свои позиции в Китае

Компания OpenAI подаёт заявки на регистрацию товарных знаков GPT-6 и GPT-7 в Китае.
Ранее были поданы заявки также на GPT-4, Whisper и GPT-5, но они пока без одобрения.
Внимание на развитие языковых моделей, включая GPT-4, с более чем 1 трлн параметров.
В планах компании - работа над грядущей моделью GPT-5 и привлечение инвестиций от Microsoft.
Сэм Альтман, экс-глава OpenAI, вернулся к руководству по воле команды.
Исследователи компании выразили опасения по поводу создания AI, способного угрожать человечеству.

#OpenAI #GPT #China

3D визуализация работы LLM моделей

🔥🔥🔥

https://bbycroft.net/llm

Обязательно нажмите кнопку Continue слева внизу

Традиционно. Все новости за ноябрь.
вдруг кому полезно будет для подготовки внутренних обзоров.

#дайджест

Так.. ну красивая цифра в количестве подписчиков на канал достигнута, давайте акцию что-ли какую сделаем. :)

например каждому, кто сегодня пришлёт боту @cloud_gpt_bot сообщение "tsingular" в течение следующих 3х часов - скажем до 15:00 мск, после 15:00 накину 500р на счёт бота и включу GPT4 с поиском на пробу :).
1 сообщение на аккаунт.

просто присылаете сообщение

tsingular

не обращайте внимания на ответ.
После 15:00 начислю всем вручную по выгрузке из базы.

Лайк, шер, репост, подписка на @tsingular - приветствуются

Кто такие LLM-агенты и что они умеют?

LLM-агенты объединяют язык, визуализацию и звук для взаимодействия со сложной средой.
В архитектуре присутствуют компоненты: Vision Transformer для зрения и Q-former для памяти.
Action Module выполняет задачи вне системы, включая извлечение данных и выполнение кода.
Модуль памяти сочетает краткосрочные и долгосрочные стратегии хранения информации.
Рефлексивная память агентов позволяет самостоятельно синтезировать абстрактные знания.
Возможно SQL-взаимодействие с внешними базами данных для доступа к долгосрочной памяти.
Модули планирования решений используют сложные стратегии, такие как Chain-of-Thought.

Детальный разбор,- что умеют LLM агенты.

#LLM #AI #MemoryManagement

:) не надо так.

Приехал послушать Сбер про Гигачат.

Эфир и дальше запись по этой ссылке:

https://www.youtube.com/live/0R8MSRi3Vyo?si=tXBe4e8PdbDmMYew

Плейлист:
https://youtube.com/playlist?list=PLJU_M19giWaHcqm7mVWuankpQwSgvR-CQ&si=krs0e2iIMcZCu3f1

Через 10 минут начинается обзор Microsoft Security Copilot:
https://www.youtube.com/live/Uz5NBx3hfVs?si=BFzr1RXbQkDkAKXE

Выборочное Внимание Языковых Моделей

Языковые модели лучше всего работают, если важные данные расположены в начале или в конце контекста.
Ухудшение результатов при анализе информации, расположенной в середине контекста.
Переранжирование документов или обрезка списка может повысить эффективность использования контекста.

Знание слабых мест помогает сделать AI умнее.

#ЯзыковыеМодели #ИнформационныйКонтекст #ИИ

Дипфейки набирают обороты: угроза и вызов для кибербезопасности

Технология deepfake создаёт фальсифицированные медиа.
66% экспертов в сфере кибербезопасности столкнулись с deepfake-атаками в 2022 году.
Рост объёма deepfake-контента в сети - более 900% за период 2019-2020 гг.
К 2026 году до 90% интернет-контента может быть сгенерировано искусственно.
Затраты на кибербезопасность могут достичь $215 млрд в 2024 году.
Ожидается рост расходов на защиту данных и клауд-безопасность более чем на 24%.
Deepfake-техника используется в атаках социальной инженерии для подделки голоса руководства.
Rememory использует deepfake для создания виртуальных воспоминаний об ушедших.
Слово 2023 года по Cambridge - 'hallucinate', Merriam-Webster выбирает 'authentic'.

Мы стоим на пороге эры, где различить подлинное и искусственное будет всё сложнее.

#deepfake #cybersecurity #Rememory

MagicAnimate обученная на TikTok и TED видео оживляет картины и персонажей

Новый инструмент MagicAnimate превращает статичные изображения в анимированные сцены.

Точное и согласованное движение персонажей отличает MagicAnimate от базовых решений.

Уникальная возможность анимирования разноплановых объектов: от фото до картин.

MagicAnimate работает даже с изображениями, созданными в DALLE3.

Поддерживается анимация групп персонажей, следующих общему движению.

Теперь любая картинка может стать частью анимированной истории.

#MagicAnimate #TikTok #Animation

Нейронка от KREA апскейлнула вышедший в продажу Cybertruck.

Получилось лучше оригинала, а это даже не на максимальных параметрах. Повторить можно тут.

GeekNeural | #Interesting