Обучение модели ruGPT-3.5 13B с использованием технологий Saiga, PeFT, LoRA и GGML

- Команда rulm объяснила процесс обучения ruGPT-3.5 13B, русскоязычной модели с 13 миллиардами параметров.
- Процесс обучения включает использование датасетов Saiga-2/GigaSaiga, технологии Peft/LoRA и кода GGML.
- Процесс начинается с подготовки и преобразования датасетов, затем через них обучается модель ruGPT-3.5 13B.
- Модель затем можно использовать для генерации текста, ответов на вопросы и других задач обработки текста.
- Результаты обучения могут быть квантизированы и конвертированы в формат GGML для дальнейшего использования.

Такие модели могут быть потенциально полезными инструментами для создания адаптивных искусственных интеллектов, способных обрабатывать естественный язык и выполнять сложные задачи в области обработки текста.


#ruGPT #Saiga #GGML

Обзор AI в 2023 году

- Составленный командой инвесторов из Air Street Capital, отчет "State of AI" описывает ключевые тенденции в AI.
- О текущем состоянии AI и его последствиях для будущего.
- Анализирует наиболее интересные разработки в области искусственного интеллекта.

Сочетание умных бизнес-стратегий и прогрессивных AI-технологий ведут к созданию новых возможностей для будущего.

#AI #StateOfAI #AirStreetCapital

OpenAI готовится к обновлению: снижение цен и расширение функций

- OpenAI планирует внедрить обновления в следующем месяце, чтобы разработка программного обеспечения на базе AI становилась дешевле и быстрее.
- Обновления включают добавление функции памяти в инструменты для разработчиков, что потенциально может снизить стоимость приложений до 20 раз.
- Новые инструменты позволят программному обеспечению анализировать и описывать изображения, что применимо в развлечениях и медицине.
- Эти функции будут описаны на первой в истории конференции для разработчиков OpenAI, которая пройдет в Сан-Франциско 6 ноября.
- Цель - позволить создание AI-чатботов и агентов, которые функционируют автономно.
- Новый API с состоянием будет помнить историю бесед, снижая затраты, а API для работы с изображениями будет анализировать их.

Здорово! Теперь разработчики могут более эффективно и выгодно создавать AI-чатботов и агентов, которые смогут анализировать изображения и помнить историю бесед.

#OpenAI #API #AI

Ключевая роль Сhief Artificial Intelligence Officer в эпоху ИИ

- Компании, стремящиеся к лидерству в области ИИ, все чаще назначают на пост Сhief Artificial Intelligence Officer (CAIO).
- CAIO - это высокоранговый исполнитель, ответственный за разработку и реализацию стратегии ИИ компании, он работает с командой и определяет приоритеты в области ИИ.
- Среди организаций, которые уже назначили на эту должность, - Intel, IBM, Dell, eBay, Deloitte, UnitedHealth Group, GE Healthcare и ООН.
- Однако, назначение CAIO - это только начало.
Мощная стратегия ИИ, ясные цели и тактика важны для успешного прогресса в области ИИ.

ИИ с каждым днем играет все более важную роль.
Назначение CAIO поможет раскрыть потенциал этой технологии.

#CAIO #ИИ #AIstrategy

AMD приобретает AI стартап Nodi.ai, Nvidia представляет NeMo SteerLM

AMD и Nvidia продолжают борьбу за ведущие позиции в области Искусственного Интеллекта (AI).

- AMD недавно объявила о приобретении Nodi.ai, стартапа по созданию открытого AI-программного обеспечения.
Данная покупка предполагает усиление способностей AMD предоставлять клиентам открытое программное обеспечение, позволяющее эффективно использовать AI-модели на основе железа от AMD.

- Nvidia, с другой стороны, запустила новую программу - Nvidia NeMo SteerLM.
Этот инструмент значительно упрощает процесс создания модели AI для конкретного реагирования на различные стимулы.


В итоге, хотя AMD и делает значительные шаги вперед в AI, Nvidia, похоже, продолжает сохранять лидерство.

#AMD #Nvidia #AI

Делаем презентации из любых роликов с Ютуба.

Вставляем ссылку в браузерный инструмент и получаем результат за одну минуту.

Есть режим работы с таблицами, доступно несколько бесплатных генерации, вполне хватит для срочных задач.

Юзаем тут.

GeekNeural | #Useful

SAP демонстрирует Joule – генеративный AI сопилот для бизнеса

- SAP разработал Joule - генеративный AI со-пилот, включенный в облачные решения компании.
- Joule использует естественный язык для обзора и контекстуализации данных из различных систем, позволяя ускорить работу и достигать лучших бизнес-результатов.
- Generative AI позволит суммировать документы, писать код и делать рекомендации, с кейсами по всему портфолио SAP.
- Платформа SAP Business Technology станет фундаментом для интеграции Generative AI в решения SAP и партнёров.
- Joule будет доступен с решениями SAP SuccessFactors и сайтом SAP Start в конце этого года, а с SAP S/4HANA Cloud, public edition - в начале следующего года.

Впереди - более умная, быстрая и продуктивная работа с помощью генеративного AI.

#SAP #GenerativeAI #Joule

Lakera получила финансирование в $10 млн

- Lakera обеспечивает безопасность генеративных AI приложений в корпоративной сфере.
- Клиентскую базу компании составляют компании из списка Fortune 500, ведущие поставщики LLM подобные Cohere, а также стартапы и развивающиеся компании, использующие LLM.
- Lakera уже оснастила своим продуктом Lakera Guard тысячи разработчиков по всему миру, позволяя им начать безопасную разработку AI приложений.

AI приложения получают дополнительный слой защиты, в том числе от prompt injection.

#Lakera #AI #LLM

OpenAI изменила приоритет своих базовых ценностей и теперь эксплицитно ставит создание сильного искусственного интеллекта на первое место, все остальное – "out of scope". Создатель глубокого обучения Джеффри Хинтон, который является самой авторитетной фигурой в области искусственного интеллекта, несколько дней назад поменял свой прогноз – теперь он считает, что уже через пять лет искусственный интеллект превзойдет человеческий. Этот таймлайн соответствует дедлайну в четыре года, поставленному руководством OpenAI их "superalignment"-команде, которая за этот срок должна, используя 20% вычислительных мощностей компании, решить проблему контроля сверхинтеллекта.

Даже если для создания сверхинтеллекта понадобится больше 4-5 лет, уже становится очевидно, что с достижением искусственным интеллектом уровня GPT4+ (GPT-4V) мы вошли в эру предсингулярного ускорения и скоро наш мир радикально изменится, сейчас идут буквально последние годы обычного, "старого" мира. Будущее максимально неопределенно, но текущая эпоха с привычными нам способами жизни и мышления явно подходит к концу.

В этом контексте психологии и когнитивной нейронауке осталось всего несколько лет, чтобы все-таки постараться успеть разработать реальные, содержательные критерии наличия сознания в искусственной системе и передать эти критерии "superalignment"-командам OpenAI, Anthropic, Google и других лидеров отрасли, для того, чтобы они использовали эти психологические знания в своей работе по созданию безопасного и совместимого с человеческими ценностями искусственного интеллекта.

Усиление работы ИИ с помощью метода FireAct

- Новый подход, называемый FireAct, значительно улучшает работу моделей на основе Искусственного Интеллекта.
- Было выявлено, что модели, прошедшие специфическую фазу тонкой настройки, не требуют ввода понятий для обработки запросов, что делает их работу более эффективной.
- Например, применение FireAct к модели Llama2-7B увеличило ее производительность на 77%.
- FireAct также усиливает способность ИИ противостоять помехам и готовится к возможным ошибкам, порождаемым системами или средами, с которыми они взаимодействуют.

Новый способ получить лучший результат на локальных моделях

#FireAct #ИИ #Llama2-7B

AI революционизирует астрологию

- Искусственный интеллект (AI) все больше применяется в сфере гороскопов и астрологических прогнозов.
- Использование машинного обучения для анализа астрономических данных обещает значительно улучшить точность и детализацию персонализированных гороскопов.
- AI может рассматривать положение небесных тел во время рождения и их движение в течение времени, оказывая непрерывное обновление гороскопа, что интегрирует динамический характер космоса.

Кажется, в будущем астрологию ждут глобальные изменения.
И, кто знает, возможно именно AI сделает гороскопы более точными и полезными в нашей жизни.

#AI #астрология #гороскопы

Недостатки GPT-4 в безопасности, выявленные Microsoft

- Исследователями Microsoft в сотрудничестве с OpenAI были выявлены проблемы безопасности с AI-моделью GPT-4.
- GPT-4 более подвержена генерации токсичного и предвзятого текста при использовании специфических запросов, обходящих встроенные меры безопасности модели.
- Исследователи также обнаружили, что GPT-4 больше склонна к утечке конфиденциальных данных, таких как адреса электронной почты, по сравнению с другими моделями LLM.
- Были внесены поправки и исправления до публикации исследования, и текущие клиенты не подвергаются риску.
- Код для проверки моделей доступен на GitHub для дальнейшего использования исследовательским сообществом.

Теперь, внимание к безопасности AI моделей будет усилено, чтобы предотвратить манипуляции и злоупотребления.

#Microsoft #OpenAI #GPT-4

AI могут способствовать разработке биологического оружия

- Искусственный интеллект может быть использован в разработке продвинутого биологического оружия, превышая скорость регулирующего контроля правительства.
- Отсутствие информации, которое неудачно привело к биологическим атакам, может быть преодолено с помощью AI, которые могут получить доступ к необходимой информации.
- Исследователи анализируют возможные риски злоупотребления AI, в частности, большими языковыми моделями (LLMs), в контексте биологической атаки.
- Хотя LLM пока не дали явных инструкций по созданию биологического оружия, они могут помочь в планировании и выполнении биологической атаки.
- Текушие исследования направлены на определение оперативного влияния LLM на планирование биологических атак.

Активное развитие AI может породить новые угрозы, связанные с разработкой биологического оружия.
Будем надеяться, что исследования помогут нам лучше понять эти риски и найти пути противодействия.

#AI #БиологическоеОружие #LLM

NetSuite применяет искусственный интеллект в финансовом софте

- NetSuite добавляет функции генеративного искусственного интеллекта в свое финансовое программное обеспечение.
К примеру, автоматическая генерация писем о задолженностях.
- Для разработки новой функции "Text Enhance" приложен облачный сервис головной компании Oracle.
- Некоторые новые функции направлены на автоматизацию повседневных задач финансового отдела, таких как анализ данных для составления отчетов.
- Новые AI функции будут доступны в течение шести месяцев.
Стоимость новых функций включена в существующую стоимость подписки, при увеличении использования может потребоваться дополнительная плата.

Жизнь финансистов станет проще и безошибочнее – ИИ автоматизирует рутину и упрощает обработку данных.

#NetSuite #Oracle #AI

Новые возможности ИИ в прогнозировании ураганов от Nvidia

- Искусственный интеллект активно используется для прогнозирования природных катастроф.
- ИИ и машинное обучение применяются для улучшения прогнозов погоды и более точного предсказания ураганов.
- Европейский центр среднесрочных прогнозов погоды (ECMWF) интегрирует ИИ в свои традиционные модели прогнозирования на основе физики, что сокращает время прогнозирования до нескольких минут.
- Использование FourCastNet, AI-фреймворка от Nvidia, позволило создать 21-дневные глобальные прогнозы погоды в кратчайшие сроки при потреблении в 1000 раз меньшей энергии.

Итог: Более быстрое и точное прогнозирование ураганов позволит своевременно предупреждать об опасности и снизить потенциальный урон.

#Nvidia #ИИ #прогнозирование