Lakera получила финансирование в $10 млн
- Lakera обеспечивает безопасность генеративных AI приложений в корпоративной сфере.
- Клиентскую базу компании составляют компании из списка Fortune 500, ведущие поставщики LLM подобные Cohere, а также стартапы и развивающиеся компании, использующие LLM.
- Lakera уже оснастила своим продуктом Lakera Guard тысячи разработчиков по всему миру, позволяя им начать безопасную разработку AI приложений.
AI приложения получают дополнительный слой защиты, в том числе от prompt injection.
#Lakera #AI #LLM
- Lakera обеспечивает безопасность генеративных AI приложений в корпоративной сфере.
- Клиентскую базу компании составляют компании из списка Fortune 500, ведущие поставщики LLM подобные Cohere, а также стартапы и развивающиеся компании, использующие LLM.
- Lakera уже оснастила своим продуктом Lakera Guard тысячи разработчиков по всему миру, позволяя им начать безопасную разработку AI приложений.
AI приложения получают дополнительный слой защиты, в том числе от prompt injection.
#Lakera #AI #LLM
Forwarded from Новости психофизиологии
OpenAI изменила приоритет своих базовых ценностей и теперь эксплицитно ставит создание сильного искусственного интеллекта на первое место, все остальное – "out of scope". Создатель глубокого обучения Джеффри Хинтон, который является самой авторитетной фигурой в области искусственного интеллекта, несколько дней назад поменял свой прогноз – теперь он считает, что уже через пять лет искусственный интеллект превзойдет человеческий. Этот таймлайн соответствует дедлайну в четыре года, поставленному руководством OpenAI их "superalignment"-команде, которая за этот срок должна, используя 20% вычислительных мощностей компании, решить проблему контроля сверхинтеллекта.
Даже если для создания сверхинтеллекта понадобится больше 4-5 лет, уже становится очевидно, что с достижением искусственным интеллектом уровня GPT4+ (GPT-4V) мы вошли в эру предсингулярного ускорения и скоро наш мир радикально изменится, сейчас идут буквально последние годы обычного, "старого" мира. Будущее максимально неопределенно, но текущая эпоха с привычными нам способами жизни и мышления явно подходит к концу.
В этом контексте психологии и когнитивной нейронауке осталось всего несколько лет, чтобы все-таки постараться успеть разработать реальные, содержательные критерии наличия сознания в искусственной системе и передать эти критерии "superalignment"-командам OpenAI, Anthropic, Google и других лидеров отрасли, для того, чтобы они использовали эти психологические знания в своей работе по созданию безопасного и совместимого с человеческими ценностями искусственного интеллекта.
Даже если для создания сверхинтеллекта понадобится больше 4-5 лет, уже становится очевидно, что с достижением искусственным интеллектом уровня GPT4+ (GPT-4V) мы вошли в эру предсингулярного ускорения и скоро наш мир радикально изменится, сейчас идут буквально последние годы обычного, "старого" мира. Будущее максимально неопределенно, но текущая эпоха с привычными нам способами жизни и мышления явно подходит к концу.
В этом контексте психологии и когнитивной нейронауке осталось всего несколько лет, чтобы все-таки постараться успеть разработать реальные, содержательные критерии наличия сознания в искусственной системе и передать эти критерии "superalignment"-командам OpenAI, Anthropic, Google и других лидеров отрасли, для того, чтобы они использовали эти психологические знания в своей работе по созданию безопасного и совместимого с человеческими ценностями искусственного интеллекта.
Усиление работы ИИ с помощью метода FireAct
- Новый подход, называемый FireAct, значительно улучшает работу моделей на основе Искусственного Интеллекта.
- Было выявлено, что модели, прошедшие специфическую фазу тонкой настройки, не требуют ввода понятий для обработки запросов, что делает их работу более эффективной.
- Например, применение FireAct к модели Llama2-7B увеличило ее производительность на 77%.
- FireAct также усиливает способность ИИ противостоять помехам и готовится к возможным ошибкам, порождаемым системами или средами, с которыми они взаимодействуют.
Новый способ получить лучший результат на локальных моделях
#FireAct #ИИ #Llama2-7B
- Новый подход, называемый FireAct, значительно улучшает работу моделей на основе Искусственного Интеллекта.
- Было выявлено, что модели, прошедшие специфическую фазу тонкой настройки, не требуют ввода понятий для обработки запросов, что делает их работу более эффективной.
- Например, применение FireAct к модели Llama2-7B увеличило ее производительность на 77%.
- FireAct также усиливает способность ИИ противостоять помехам и готовится к возможным ошибкам, порождаемым системами или средами, с которыми они взаимодействуют.
Новый способ получить лучший результат на локальных моделях
#FireAct #ИИ #Llama2-7B
fireact-agent.github.io
TWITTER BANNER TITLE META TAG
TWITTER BANNER DESCRIPTION META TAG
AI революционизирует астрологию
- Искусственный интеллект (AI) все больше применяется в сфере гороскопов и астрологических прогнозов.
- Использование машинного обучения для анализа астрономических данных обещает значительно улучшить точность и детализацию персонализированных гороскопов.
- AI может рассматривать положение небесных тел во время рождения и их движение в течение времени, оказывая непрерывное обновление гороскопа, что интегрирует динамический характер космоса.
Кажется, в будущем астрологию ждут глобальные изменения.
И, кто знает, возможно именно AI сделает гороскопы более точными и полезными в нашей жизни.
#AI #астрология #гороскопы
- Искусственный интеллект (AI) все больше применяется в сфере гороскопов и астрологических прогнозов.
- Использование машинного обучения для анализа астрономических данных обещает значительно улучшить точность и детализацию персонализированных гороскопов.
- AI может рассматривать положение небесных тел во время рождения и их движение в течение времени, оказывая непрерывное обновление гороскопа, что интегрирует динамический характер космоса.
Кажется, в будущем астрологию ждут глобальные изменения.
И, кто знает, возможно именно AI сделает гороскопы более точными и полезными в нашей жизни.
#AI #астрология #гороскопы
Недостатки GPT-4 в безопасности, выявленные Microsoft
- Исследователями Microsoft в сотрудничестве с OpenAI были выявлены проблемы безопасности с AI-моделью GPT-4.
- GPT-4 более подвержена генерации токсичного и предвзятого текста при использовании специфических запросов, обходящих встроенные меры безопасности модели.
- Исследователи также обнаружили, что GPT-4 больше склонна к утечке конфиденциальных данных, таких как адреса электронной почты, по сравнению с другими моделями LLM.
- Были внесены поправки и исправления до публикации исследования, и текущие клиенты не подвергаются риску.
- Код для проверки моделей доступен на GitHub для дальнейшего использования исследовательским сообществом.
Теперь, внимание к безопасности AI моделей будет усилено, чтобы предотвратить манипуляции и злоупотребления.
#Microsoft #OpenAI #GPT-4
- Исследователями Microsoft в сотрудничестве с OpenAI были выявлены проблемы безопасности с AI-моделью GPT-4.
- GPT-4 более подвержена генерации токсичного и предвзятого текста при использовании специфических запросов, обходящих встроенные меры безопасности модели.
- Исследователи также обнаружили, что GPT-4 больше склонна к утечке конфиденциальных данных, таких как адреса электронной почты, по сравнению с другими моделями LLM.
- Были внесены поправки и исправления до публикации исследования, и текущие клиенты не подвергаются риску.
- Код для проверки моделей доступен на GitHub для дальнейшего использования исследовательским сообществом.
Теперь, внимание к безопасности AI моделей будет усилено, чтобы предотвратить манипуляции и злоупотребления.
#Microsoft #OpenAI #GPT-4
TechCrunch
Microsoft-affiliated research finds flaws in GPT-4
Sometimes, following instructions too precisely can land you in hot water — if you’re a large language model, that is.
AI могут способствовать разработке биологического оружия
- Искусственный интеллект может быть использован в разработке продвинутого биологического оружия, превышая скорость регулирующего контроля правительства.
- Отсутствие информации, которое неудачно привело к биологическим атакам, может быть преодолено с помощью AI, которые могут получить доступ к необходимой информации.
- Исследователи анализируют возможные риски злоупотребления AI, в частности, большими языковыми моделями (LLMs), в контексте биологической атаки.
- Хотя LLM пока не дали явных инструкций по созданию биологического оружия, они могут помочь в планировании и выполнении биологической атаки.
- Текушие исследования направлены на определение оперативного влияния LLM на планирование биологических атак.
Активное развитие AI может породить новые угрозы, связанные с разработкой биологического оружия.
Будем надеяться, что исследования помогут нам лучше понять эти риски и найти пути противодействия.
#AI #БиологическоеОружие #LLM
- Искусственный интеллект может быть использован в разработке продвинутого биологического оружия, превышая скорость регулирующего контроля правительства.
- Отсутствие информации, которое неудачно привело к биологическим атакам, может быть преодолено с помощью AI, которые могут получить доступ к необходимой информации.
- Исследователи анализируют возможные риски злоупотребления AI, в частности, большими языковыми моделями (LLMs), в контексте биологической атаки.
- Хотя LLM пока не дали явных инструкций по созданию биологического оружия, они могут помочь в планировании и выполнении биологической атаки.
- Текушие исследования направлены на определение оперативного влияния LLM на планирование биологических атак.
Активное развитие AI может породить новые угрозы, связанные с разработкой биологического оружия.
Будем надеяться, что исследования помогут нам лучше понять эти риски и найти пути противодействия.
#AI #БиологическоеОружие #LLM
www.rand.org
Could Artificial Intelligence Be Misused to Plan Biological Attacks?
Previous biological attacks that failed because of a lack of information might succeed in a world in which AI tools like large language models could bridge that gap. And given the rapid evolution of AI and biotechnology, governmental capacity to understand…
Forwarded from GigaChat
«Ой, это Т9!» 🤦♂️
Сколько раз мы оправдывались перед друзьями, что имели в виду вовсе не это…
Но «грёбанный Т9» на самом деле когда-то совершил прорыв. И сегодня мы, не без его участия, пользуемся возможностями больших языковых моделей.
🤖 Почему Т9 можно смело назвать дедушкой LLM, и какие ещё технологии помогли этой эволюции — рассказываем в карточках.
Сколько раз мы оправдывались перед друзьями, что имели в виду вовсе не это…
Но «грёбанный Т9» на самом деле когда-то совершил прорыв. И сегодня мы, не без его участия, пользуемся возможностями больших языковых моделей.
🤖 Почему Т9 можно смело назвать дедушкой LLM, и какие ещё технологии помогли этой эволюции — рассказываем в карточках.
NetSuite применяет искусственный интеллект в финансовом софте
- NetSuite добавляет функции генеративного искусственного интеллекта в свое финансовое программное обеспечение.
К примеру, автоматическая генерация писем о задолженностях.
- Для разработки новой функции "Text Enhance" приложен облачный сервис головной компании Oracle.
- Некоторые новые функции направлены на автоматизацию повседневных задач финансового отдела, таких как анализ данных для составления отчетов.
- Новые AI функции будут доступны в течение шести месяцев.
Стоимость новых функций включена в существующую стоимость подписки, при увеличении использования может потребоваться дополнительная плата.
Жизнь финансистов станет проще и безошибочнее – ИИ автоматизирует рутину и упрощает обработку данных.
#NetSuite #Oracle #AI
- NetSuite добавляет функции генеративного искусственного интеллекта в свое финансовое программное обеспечение.
К примеру, автоматическая генерация писем о задолженностях.
- Для разработки новой функции "Text Enhance" приложен облачный сервис головной компании Oracle.
- Некоторые новые функции направлены на автоматизацию повседневных задач финансового отдела, таких как анализ данных для составления отчетов.
- Новые AI функции будут доступны в течение шести месяцев.
Стоимость новых функций включена в существующую стоимость подписки, при увеличении использования может потребоваться дополнительная плата.
Жизнь финансистов станет проще и безошибочнее – ИИ автоматизирует рутину и упрощает обработку данных.
#NetSuite #Oracle #AI
Reuters
Oracle's NetSuite adds AI features to finance software
NetSuite on Tuesday said it is adding generative artificial intelligence capabilities to its finance software, giving companies the ability to automatically write collections letters or chase down purchases of supplies that have been delayed.
Новые возможности ИИ в прогнозировании ураганов от Nvidia
- Искусственный интеллект активно используется для прогнозирования природных катастроф.
- ИИ и машинное обучение применяются для улучшения прогнозов погоды и более точного предсказания ураганов.
- Европейский центр среднесрочных прогнозов погоды (ECMWF) интегрирует ИИ в свои традиционные модели прогнозирования на основе физики, что сокращает время прогнозирования до нескольких минут.
- Использование FourCastNet, AI-фреймворка от Nvidia, позволило создать 21-дневные глобальные прогнозы погоды в кратчайшие сроки при потреблении в 1000 раз меньшей энергии.
Итог: Более быстрое и точное прогнозирование ураганов позволит своевременно предупреждать об опасности и снизить потенциальный урон.
#Nvidia #ИИ #прогнозирование
- Искусственный интеллект активно используется для прогнозирования природных катастроф.
- ИИ и машинное обучение применяются для улучшения прогнозов погоды и более точного предсказания ураганов.
- Европейский центр среднесрочных прогнозов погоды (ECMWF) интегрирует ИИ в свои традиционные модели прогнозирования на основе физики, что сокращает время прогнозирования до нескольких минут.
- Использование FourCastNet, AI-фреймворка от Nvidia, позволило создать 21-дневные глобальные прогнозы погоды в кратчайшие сроки при потреблении в 1000 раз меньшей энергии.
Итог: Более быстрое и точное прогнозирование ураганов позволит своевременно предупреждать об опасности и снизить потенциальный урон.
#Nvidia #ИИ #прогнозирование
Techopedia
NVIDIA's Extraordinary Breakthrough in Hurricane Forecasting
AI is increasingly being used to forecast natural disasters such as earthquakes. But more than ten years after Hurricane Sandy left homes in New York without power, meteorologists are beginning to embrace artificial intelligence (AI) and machine learning…
Минобороны США инвестирует в ИИ-исследования в университетах
- Минобороны США создает четыре новых научно-исследовательских центра в университетах в рамках программы Исследования и Образование в Исторически черных и Университетах, обслуживающих меньшинства.
- Через мерит-ориентированную конкуренцию были выбраны участники, которые будут проводить исследования в технологических областях, критически важных для комбинированного всеобъемлющего командования и контроля Минобороны: передовые вычисления и программное обеспечение, беспроводные технологии будущего поколения, интегральное обнаружение и кибербезопасность, воспроизводимая энергогенерация и хранение.
- Премии на общую сумму в 40 миллионов долларов усилят исследовательские программы в науке и инженерии и расширят участие в программах исследований Минобороны.
- Эти награды также увеличат количество выпускников в области STEM, в том числе из малопредставленных меньшинств.
В итоге, США серьезно поднимают ставки на ИИ-исследования в образовательной сфере, создавая новые центры и привлекая новые умы для разработки будущих технологий.
#МинобороныСША #ии #исследования
- Минобороны США создает четыре новых научно-исследовательских центра в университетах в рамках программы Исследования и Образование в Исторически черных и Университетах, обслуживающих меньшинства.
- Через мерит-ориентированную конкуренцию были выбраны участники, которые будут проводить исследования в технологических областях, критически важных для комбинированного всеобъемлющего командования и контроля Минобороны: передовые вычисления и программное обеспечение, беспроводные технологии будущего поколения, интегральное обнаружение и кибербезопасность, воспроизводимая энергогенерация и хранение.
- Премии на общую сумму в 40 миллионов долларов усилят исследовательские программы в науке и инженерии и расширят участие в программах исследований Минобороны.
- Эти награды также увеличат количество выпускников в области STEM, в том числе из малопредставленных меньшинств.
В итоге, США серьезно поднимают ставки на ИИ-исследования в образовательной сфере, создавая новые центры и привлекая новые умы для разработки будущих технологий.
#МинобороныСША #ии #исследования
U.S. Department of Defense
DOD Invests $40 Million to Establish Research Centers of Excellence at Minority-serving Institutions
The Defense Department announced the establishment of four new research centers of excellence at minority-serving institutions of higher education, as part of its Historically Black Colleges and
Anthropic решает проблему циклов обратной связи в AI
- Anthropic предлагает решить проблему коротких циклов обратной связи в обучении ИИ, создавая сбалансированную систему с открытым участием общественности.
- Компания задействует режим "коллективной конституции", позволяющий учитывать множество мнений, чтобы построить управляемую и предсказуемую модель работы ИИ.
- Инструмент Anthropic предлагает фиксировать ценности и поведение ИИ, отражая интересы людей, которые связаны с его работой.
Суть в том, что когда будем обучать ИИ, его будет сложно "запутать".
Он будет учиться у самых разных людей и не будет обучаться неправильным вещам.
#Anthropic #AI #ОбратнаяСвязь
- Anthropic предлагает решить проблему коротких циклов обратной связи в обучении ИИ, создавая сбалансированную систему с открытым участием общественности.
- Компания задействует режим "коллективной конституции", позволяющий учитывать множество мнений, чтобы построить управляемую и предсказуемую модель работы ИИ.
- Инструмент Anthropic предлагает фиксировать ценности и поведение ИИ, отражая интересы людей, которые связаны с его работой.
Суть в том, что когда будем обучать ИИ, его будет сложно "запутать".
Он будет учиться у самых разных людей и не будет обучаться неправильным вещам.
#Anthropic #AI #ОбратнаяСвязь
Anthropic
Collective Constitutional AI: Aligning a Language Model with Public Input
Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.
Media is too big
VIEW IN TELEGRAM
Принцип работы нейронок. CNN и понижение квантования.
Nvidia и Foxconn строят AI-фабрики для автономных автомобилей
- Nvidia и Foxconn объявили о сотрудничестве в создании AI-фабрик — специализированных дата-центров для поддержки разработки беспилотных автомобилей, автономных машин и промышленных роботов.
- AI-фабрика базируется на инфраструктуре GPU Nvidia и предназначена для обработки огромного объема данных, преобразованных в AI-модели и ценную информацию.
- Этот проект становится продолжением совместной работы Nvidia и Foxconn, начатой в январе, по разработке платформ для автономных автомобилей.
Таким образом, скорость разработки и внедрения беспилотных автомобилей может заметно ускориться.
#Nvidia #Foxconn #AI
- Nvidia и Foxconn объявили о сотрудничестве в создании AI-фабрик — специализированных дата-центров для поддержки разработки беспилотных автомобилей, автономных машин и промышленных роботов.
- AI-фабрика базируется на инфраструктуре GPU Nvidia и предназначена для обработки огромного объема данных, преобразованных в AI-модели и ценную информацию.
- Этот проект становится продолжением совместной работы Nvidia и Foxconn, начатой в январе, по разработке платформ для автономных автомобилей.
Таким образом, скорость разработки и внедрения беспилотных автомобилей может заметно ускориться.
#Nvidia #Foxconn #AI
TechCrunch
Foxconn and Nvidia are building ‘AI factories’ to accelerate self-driving cars
Nvidia and Foxconn are working together to build so-called "AI factories," a new class of data centers that promise to provide supercomputing powers to
AI изменит трудовой рынок, говорят технологические лидеры
- Искусственный интеллект приведет к радикальным изменениям на рынке труда, утверждают лидеры технологического сектора.
- Генеральный директор OpenAI, Сэм Альтман, считает, что эти изменения могут затронуть некоторых людей серьезнее, даже если общество в целом улучшится.
- Винод Хосла, известный венчурный капиталист, утверждает, что в течение 10 лет AI сможет выполнить "80% из 80% всех сегодняшних работ"
- Также предполагается, что благосостояние, которое AI привнесет в общество, позволит людям, которые не хотят работать, избегать этого, если они так выберут.
- Одной из ключевых проблем является способность различать реальный и AI-сгенерированный контент.
AI-сгенерированные изображения уже используются для распространения ложной информации.
Автоматизация займет большую часть будущего труда, что облегчит жизнь, но создаст новые социальные вызовы.
#ИскусственныйИнтеллект #OpenAI #FutureOfWork
- Искусственный интеллект приведет к радикальным изменениям на рынке труда, утверждают лидеры технологического сектора.
- Генеральный директор OpenAI, Сэм Альтман, считает, что эти изменения могут затронуть некоторых людей серьезнее, даже если общество в целом улучшится.
- Винод Хосла, известный венчурный капиталист, утверждает, что в течение 10 лет AI сможет выполнить "80% из 80% всех сегодняшних работ"
- Также предполагается, что благосостояние, которое AI привнесет в общество, позволит людям, которые не хотят работать, избегать этого, если они так выберут.
- Одной из ключевых проблем является способность различать реальный и AI-сгенерированный контент.
AI-сгенерированные изображения уже используются для распространения ложной информации.
Автоматизация займет большую часть будущего труда, что облегчит жизнь, но создаст новые социальные вызовы.
#ИскусственныйИнтеллект #OpenAI #FutureOfWork
mint
Tech Leaders Say AI Will Change What It Means to Have a Job
Artificial intelligence will likely lead to seismic changes to the workforce, eliminating many professions and requiring a societal rethink of how people spend their time.
Добавил в бота @Cloud_GPT_bot поиск в гугл.
В следующей версии на выходных добавлю автоматическое создание презентаций.
В следующей версии на выходных добавлю автоматическое создание презентаций.
Forwarded from CodeCamp
Media is too big
VIEW IN TELEGRAM
Принес вам залипательную магию нейросетей на ночь глядя: чувак с Реддита покадрово (!) перегенерил в Stable Diffusion легендарный Рикролл.
По моим примерным подсчетам, только на генерацию кадров у него ушло порядка 48 часов.
Но оно того стоило — есть в этом видео что-то притязательное. Вроде клип смотришь, а стоит нажать на стоп-кадр — видишь обычный пейзаж.
По моим примерным подсчетам, только на генерацию кадров у него ушло порядка 48 часов.
Но оно того стоило — есть в этом видео что-то притязательное. Вроде клип смотришь, а стоит нажать на стоп-кадр — видишь обычный пейзаж.