Недостатки GPT-4 в безопасности, выявленные Microsoft
- Исследователями Microsoft в сотрудничестве с OpenAI были выявлены проблемы безопасности с AI-моделью GPT-4.
- GPT-4 более подвержена генерации токсичного и предвзятого текста при использовании специфических запросов, обходящих встроенные меры безопасности модели.
- Исследователи также обнаружили, что GPT-4 больше склонна к утечке конфиденциальных данных, таких как адреса электронной почты, по сравнению с другими моделями LLM.
- Были внесены поправки и исправления до публикации исследования, и текущие клиенты не подвергаются риску.
- Код для проверки моделей доступен на GitHub для дальнейшего использования исследовательским сообществом.
Теперь, внимание к безопасности AI моделей будет усилено, чтобы предотвратить манипуляции и злоупотребления.
#Microsoft #OpenAI #GPT-4
- Исследователями Microsoft в сотрудничестве с OpenAI были выявлены проблемы безопасности с AI-моделью GPT-4.
- GPT-4 более подвержена генерации токсичного и предвзятого текста при использовании специфических запросов, обходящих встроенные меры безопасности модели.
- Исследователи также обнаружили, что GPT-4 больше склонна к утечке конфиденциальных данных, таких как адреса электронной почты, по сравнению с другими моделями LLM.
- Были внесены поправки и исправления до публикации исследования, и текущие клиенты не подвергаются риску.
- Код для проверки моделей доступен на GitHub для дальнейшего использования исследовательским сообществом.
Теперь, внимание к безопасности AI моделей будет усилено, чтобы предотвратить манипуляции и злоупотребления.
#Microsoft #OpenAI #GPT-4
TechCrunch
Microsoft-affiliated research finds flaws in GPT-4
Sometimes, following instructions too precisely can land you in hot water — if you’re a large language model, that is.
AI могут способствовать разработке биологического оружия
- Искусственный интеллект может быть использован в разработке продвинутого биологического оружия, превышая скорость регулирующего контроля правительства.
- Отсутствие информации, которое неудачно привело к биологическим атакам, может быть преодолено с помощью AI, которые могут получить доступ к необходимой информации.
- Исследователи анализируют возможные риски злоупотребления AI, в частности, большими языковыми моделями (LLMs), в контексте биологической атаки.
- Хотя LLM пока не дали явных инструкций по созданию биологического оружия, они могут помочь в планировании и выполнении биологической атаки.
- Текушие исследования направлены на определение оперативного влияния LLM на планирование биологических атак.
Активное развитие AI может породить новые угрозы, связанные с разработкой биологического оружия.
Будем надеяться, что исследования помогут нам лучше понять эти риски и найти пути противодействия.
#AI #БиологическоеОружие #LLM
- Искусственный интеллект может быть использован в разработке продвинутого биологического оружия, превышая скорость регулирующего контроля правительства.
- Отсутствие информации, которое неудачно привело к биологическим атакам, может быть преодолено с помощью AI, которые могут получить доступ к необходимой информации.
- Исследователи анализируют возможные риски злоупотребления AI, в частности, большими языковыми моделями (LLMs), в контексте биологической атаки.
- Хотя LLM пока не дали явных инструкций по созданию биологического оружия, они могут помочь в планировании и выполнении биологической атаки.
- Текушие исследования направлены на определение оперативного влияния LLM на планирование биологических атак.
Активное развитие AI может породить новые угрозы, связанные с разработкой биологического оружия.
Будем надеяться, что исследования помогут нам лучше понять эти риски и найти пути противодействия.
#AI #БиологическоеОружие #LLM
www.rand.org
Could Artificial Intelligence Be Misused to Plan Biological Attacks?
Previous biological attacks that failed because of a lack of information might succeed in a world in which AI tools like large language models could bridge that gap. And given the rapid evolution of AI and biotechnology, governmental capacity to understand…
Forwarded from GigaChat
«Ой, это Т9!» 🤦♂️
Сколько раз мы оправдывались перед друзьями, что имели в виду вовсе не это…
Но «грёбанный Т9» на самом деле когда-то совершил прорыв. И сегодня мы, не без его участия, пользуемся возможностями больших языковых моделей.
🤖 Почему Т9 можно смело назвать дедушкой LLM, и какие ещё технологии помогли этой эволюции — рассказываем в карточках.
Сколько раз мы оправдывались перед друзьями, что имели в виду вовсе не это…
Но «грёбанный Т9» на самом деле когда-то совершил прорыв. И сегодня мы, не без его участия, пользуемся возможностями больших языковых моделей.
🤖 Почему Т9 можно смело назвать дедушкой LLM, и какие ещё технологии помогли этой эволюции — рассказываем в карточках.
NetSuite применяет искусственный интеллект в финансовом софте
- NetSuite добавляет функции генеративного искусственного интеллекта в свое финансовое программное обеспечение.
К примеру, автоматическая генерация писем о задолженностях.
- Для разработки новой функции "Text Enhance" приложен облачный сервис головной компании Oracle.
- Некоторые новые функции направлены на автоматизацию повседневных задач финансового отдела, таких как анализ данных для составления отчетов.
- Новые AI функции будут доступны в течение шести месяцев.
Стоимость новых функций включена в существующую стоимость подписки, при увеличении использования может потребоваться дополнительная плата.
Жизнь финансистов станет проще и безошибочнее – ИИ автоматизирует рутину и упрощает обработку данных.
#NetSuite #Oracle #AI
- NetSuite добавляет функции генеративного искусственного интеллекта в свое финансовое программное обеспечение.
К примеру, автоматическая генерация писем о задолженностях.
- Для разработки новой функции "Text Enhance" приложен облачный сервис головной компании Oracle.
- Некоторые новые функции направлены на автоматизацию повседневных задач финансового отдела, таких как анализ данных для составления отчетов.
- Новые AI функции будут доступны в течение шести месяцев.
Стоимость новых функций включена в существующую стоимость подписки, при увеличении использования может потребоваться дополнительная плата.
Жизнь финансистов станет проще и безошибочнее – ИИ автоматизирует рутину и упрощает обработку данных.
#NetSuite #Oracle #AI
Reuters
Oracle's NetSuite adds AI features to finance software
NetSuite on Tuesday said it is adding generative artificial intelligence capabilities to its finance software, giving companies the ability to automatically write collections letters or chase down purchases of supplies that have been delayed.
Новые возможности ИИ в прогнозировании ураганов от Nvidia
- Искусственный интеллект активно используется для прогнозирования природных катастроф.
- ИИ и машинное обучение применяются для улучшения прогнозов погоды и более точного предсказания ураганов.
- Европейский центр среднесрочных прогнозов погоды (ECMWF) интегрирует ИИ в свои традиционные модели прогнозирования на основе физики, что сокращает время прогнозирования до нескольких минут.
- Использование FourCastNet, AI-фреймворка от Nvidia, позволило создать 21-дневные глобальные прогнозы погоды в кратчайшие сроки при потреблении в 1000 раз меньшей энергии.
Итог: Более быстрое и точное прогнозирование ураганов позволит своевременно предупреждать об опасности и снизить потенциальный урон.
#Nvidia #ИИ #прогнозирование
- Искусственный интеллект активно используется для прогнозирования природных катастроф.
- ИИ и машинное обучение применяются для улучшения прогнозов погоды и более точного предсказания ураганов.
- Европейский центр среднесрочных прогнозов погоды (ECMWF) интегрирует ИИ в свои традиционные модели прогнозирования на основе физики, что сокращает время прогнозирования до нескольких минут.
- Использование FourCastNet, AI-фреймворка от Nvidia, позволило создать 21-дневные глобальные прогнозы погоды в кратчайшие сроки при потреблении в 1000 раз меньшей энергии.
Итог: Более быстрое и точное прогнозирование ураганов позволит своевременно предупреждать об опасности и снизить потенциальный урон.
#Nvidia #ИИ #прогнозирование
Techopedia
NVIDIA's Extraordinary Breakthrough in Hurricane Forecasting
AI is increasingly being used to forecast natural disasters such as earthquakes. But more than ten years after Hurricane Sandy left homes in New York without power, meteorologists are beginning to embrace artificial intelligence (AI) and machine learning…
Минобороны США инвестирует в ИИ-исследования в университетах
- Минобороны США создает четыре новых научно-исследовательских центра в университетах в рамках программы Исследования и Образование в Исторически черных и Университетах, обслуживающих меньшинства.
- Через мерит-ориентированную конкуренцию были выбраны участники, которые будут проводить исследования в технологических областях, критически важных для комбинированного всеобъемлющего командования и контроля Минобороны: передовые вычисления и программное обеспечение, беспроводные технологии будущего поколения, интегральное обнаружение и кибербезопасность, воспроизводимая энергогенерация и хранение.
- Премии на общую сумму в 40 миллионов долларов усилят исследовательские программы в науке и инженерии и расширят участие в программах исследований Минобороны.
- Эти награды также увеличат количество выпускников в области STEM, в том числе из малопредставленных меньшинств.
В итоге, США серьезно поднимают ставки на ИИ-исследования в образовательной сфере, создавая новые центры и привлекая новые умы для разработки будущих технологий.
#МинобороныСША #ии #исследования
- Минобороны США создает четыре новых научно-исследовательских центра в университетах в рамках программы Исследования и Образование в Исторически черных и Университетах, обслуживающих меньшинства.
- Через мерит-ориентированную конкуренцию были выбраны участники, которые будут проводить исследования в технологических областях, критически важных для комбинированного всеобъемлющего командования и контроля Минобороны: передовые вычисления и программное обеспечение, беспроводные технологии будущего поколения, интегральное обнаружение и кибербезопасность, воспроизводимая энергогенерация и хранение.
- Премии на общую сумму в 40 миллионов долларов усилят исследовательские программы в науке и инженерии и расширят участие в программах исследований Минобороны.
- Эти награды также увеличат количество выпускников в области STEM, в том числе из малопредставленных меньшинств.
В итоге, США серьезно поднимают ставки на ИИ-исследования в образовательной сфере, создавая новые центры и привлекая новые умы для разработки будущих технологий.
#МинобороныСША #ии #исследования
U.S. Department of Defense
DOD Invests $40 Million to Establish Research Centers of Excellence at Minority-serving Institutions
The Defense Department announced the establishment of four new research centers of excellence at minority-serving institutions of higher education, as part of its Historically Black Colleges and
Anthropic решает проблему циклов обратной связи в AI
- Anthropic предлагает решить проблему коротких циклов обратной связи в обучении ИИ, создавая сбалансированную систему с открытым участием общественности.
- Компания задействует режим "коллективной конституции", позволяющий учитывать множество мнений, чтобы построить управляемую и предсказуемую модель работы ИИ.
- Инструмент Anthropic предлагает фиксировать ценности и поведение ИИ, отражая интересы людей, которые связаны с его работой.
Суть в том, что когда будем обучать ИИ, его будет сложно "запутать".
Он будет учиться у самых разных людей и не будет обучаться неправильным вещам.
#Anthropic #AI #ОбратнаяСвязь
- Anthropic предлагает решить проблему коротких циклов обратной связи в обучении ИИ, создавая сбалансированную систему с открытым участием общественности.
- Компания задействует режим "коллективной конституции", позволяющий учитывать множество мнений, чтобы построить управляемую и предсказуемую модель работы ИИ.
- Инструмент Anthropic предлагает фиксировать ценности и поведение ИИ, отражая интересы людей, которые связаны с его работой.
Суть в том, что когда будем обучать ИИ, его будет сложно "запутать".
Он будет учиться у самых разных людей и не будет обучаться неправильным вещам.
#Anthropic #AI #ОбратнаяСвязь
Anthropic
Collective Constitutional AI: Aligning a Language Model with Public Input
Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.
Media is too big
VIEW IN TELEGRAM
Принцип работы нейронок. CNN и понижение квантования.
Nvidia и Foxconn строят AI-фабрики для автономных автомобилей
- Nvidia и Foxconn объявили о сотрудничестве в создании AI-фабрик — специализированных дата-центров для поддержки разработки беспилотных автомобилей, автономных машин и промышленных роботов.
- AI-фабрика базируется на инфраструктуре GPU Nvidia и предназначена для обработки огромного объема данных, преобразованных в AI-модели и ценную информацию.
- Этот проект становится продолжением совместной работы Nvidia и Foxconn, начатой в январе, по разработке платформ для автономных автомобилей.
Таким образом, скорость разработки и внедрения беспилотных автомобилей может заметно ускориться.
#Nvidia #Foxconn #AI
- Nvidia и Foxconn объявили о сотрудничестве в создании AI-фабрик — специализированных дата-центров для поддержки разработки беспилотных автомобилей, автономных машин и промышленных роботов.
- AI-фабрика базируется на инфраструктуре GPU Nvidia и предназначена для обработки огромного объема данных, преобразованных в AI-модели и ценную информацию.
- Этот проект становится продолжением совместной работы Nvidia и Foxconn, начатой в январе, по разработке платформ для автономных автомобилей.
Таким образом, скорость разработки и внедрения беспилотных автомобилей может заметно ускориться.
#Nvidia #Foxconn #AI
TechCrunch
Foxconn and Nvidia are building ‘AI factories’ to accelerate self-driving cars
Nvidia and Foxconn are working together to build so-called "AI factories," a new class of data centers that promise to provide supercomputing powers to
AI изменит трудовой рынок, говорят технологические лидеры
- Искусственный интеллект приведет к радикальным изменениям на рынке труда, утверждают лидеры технологического сектора.
- Генеральный директор OpenAI, Сэм Альтман, считает, что эти изменения могут затронуть некоторых людей серьезнее, даже если общество в целом улучшится.
- Винод Хосла, известный венчурный капиталист, утверждает, что в течение 10 лет AI сможет выполнить "80% из 80% всех сегодняшних работ"
- Также предполагается, что благосостояние, которое AI привнесет в общество, позволит людям, которые не хотят работать, избегать этого, если они так выберут.
- Одной из ключевых проблем является способность различать реальный и AI-сгенерированный контент.
AI-сгенерированные изображения уже используются для распространения ложной информации.
Автоматизация займет большую часть будущего труда, что облегчит жизнь, но создаст новые социальные вызовы.
#ИскусственныйИнтеллект #OpenAI #FutureOfWork
- Искусственный интеллект приведет к радикальным изменениям на рынке труда, утверждают лидеры технологического сектора.
- Генеральный директор OpenAI, Сэм Альтман, считает, что эти изменения могут затронуть некоторых людей серьезнее, даже если общество в целом улучшится.
- Винод Хосла, известный венчурный капиталист, утверждает, что в течение 10 лет AI сможет выполнить "80% из 80% всех сегодняшних работ"
- Также предполагается, что благосостояние, которое AI привнесет в общество, позволит людям, которые не хотят работать, избегать этого, если они так выберут.
- Одной из ключевых проблем является способность различать реальный и AI-сгенерированный контент.
AI-сгенерированные изображения уже используются для распространения ложной информации.
Автоматизация займет большую часть будущего труда, что облегчит жизнь, но создаст новые социальные вызовы.
#ИскусственныйИнтеллект #OpenAI #FutureOfWork
mint
Tech Leaders Say AI Will Change What It Means to Have a Job
Artificial intelligence will likely lead to seismic changes to the workforce, eliminating many professions and requiring a societal rethink of how people spend their time.
Добавил в бота @Cloud_GPT_bot поиск в гугл.
В следующей версии на выходных добавлю автоматическое создание презентаций.
В следующей версии на выходных добавлю автоматическое создание презентаций.
Forwarded from CodeCamp
Media is too big
VIEW IN TELEGRAM
Принес вам залипательную магию нейросетей на ночь глядя: чувак с Реддита покадрово (!) перегенерил в Stable Diffusion легендарный Рикролл.
По моим примерным подсчетам, только на генерацию кадров у него ушло порядка 48 часов.
Но оно того стоило — есть в этом видео что-то притязательное. Вроде клип смотришь, а стоит нажать на стоп-кадр — видишь обычный пейзаж.
По моим примерным подсчетам, только на генерацию кадров у него ушло порядка 48 часов.
Но оно того стоило — есть в этом видео что-то притязательное. Вроде клип смотришь, а стоит нажать на стоп-кадр — видишь обычный пейзаж.
Forwarded from Китайский свяZноj
This media is not supported in your browser
VIEW IN TELEGRAM
Китайский дрон для подрыва вспомогательного автотранспорта противника. Распознаёт у цели и номер, и модель, на дороге ориентируется, прячется на обочине если надо, в общем весело.
Эх, прямо вспомнил, как лет 30 назад играл в DeathTrack, там такая же штука была - "терминатор" называлась, запускалась из-под своей машины вслед обгоняющему.
Эх, прямо вспомнил, как лет 30 назад играл в DeathTrack, там такая же штука была - "терминатор" называлась, запускалась из-под своей машины вслед обгоняющему.
Nucleus.AI представила модель Nucleus-22B-token-500B
- Nucleus.AI выпустила модель Nucleus-22B-token-500B на основе 22B параметров и обученную на 500B токенов данных.
- Эта модель предварительно обучена и потребует дальнейшей донастройки под конкретные пользовательские задачи.
- Nucleus-22B-token-500B обучена только на английских данных и может воспроизводить стереотипы и предвзятости, поскольку использует данные из сети.
- Советуют тонкую настройку модели для конкретных задач, а также принять все необходимые измерения перед использованием в производстве.
- Обучение Nucleus-22B-token-500B заняло почти две недели на 256 A100 80GB GPU.
Очень круто, это расширит возможности для специализированных задач, например, для создания чат-ботов или генерации текстов!
#NucleusAI #Nucleus-22B-token-500B #AI
https://huggingface.co/NucleusAI/nucleus-22B-token-500B
- Nucleus.AI выпустила модель Nucleus-22B-token-500B на основе 22B параметров и обученную на 500B токенов данных.
- Эта модель предварительно обучена и потребует дальнейшей донастройки под конкретные пользовательские задачи.
- Nucleus-22B-token-500B обучена только на английских данных и может воспроизводить стереотипы и предвзятости, поскольку использует данные из сети.
- Советуют тонкую настройку модели для конкретных задач, а также принять все необходимые измерения перед использованием в производстве.
- Обучение Nucleus-22B-token-500B заняло почти две недели на 256 A100 80GB GPU.
Очень круто, это расширит возможности для специализированных задач, например, для создания чат-ботов или генерации текстов!
#NucleusAI #Nucleus-22B-token-500B #AI
https://huggingface.co/NucleusAI/nucleus-22B-token-500B