Растущая инфляция приводит к увеличению технологической безработицы

- Из-за роста тарифов на энергию и инфляции компании сокращают расходы.
- Руководители IT-отделов активно сокращают затраты на облачные технологии и программное обеспечение, но при этом они продолжают внедрять генеративный AI.
- AI начинает замещать рядовые позиции в IT, ускоряя тенденцию, начавшуюся с появлением облачных вычислений.
- Сокращение касается в основном начинающих специалистов, при этом активно набирают кадры для работы на старших должностях в It.

Получается, что роботы постепенно оттесняют начинающих специалистов в IT, но в то же время создают новые возможности для опытных разработчиков.

#AI, #ITувольнения, #облачныевычисления

Генеративный AI может увеличить производительность на $4,4 триллиона в год

- Генеративный ИИ принесет экономический эффект в $2,6-4,4 трлн ежегодно.

- Предсказания базируются на анализе воздействия ИИ на более 800 профессий и изучении конкретных сценариев применения ИИ.

- Установлено 63 случая использования генеративного ИИ в 16 бизнес-функциях.
- По прогнозам, инструменты ИИ, особенно генеративные, автоматизируют практически все виды работ между 2030 и 2060 годами.
- Отмечается влияние ИИ на работу высокооплачиваемых и образованных специалистов.

Скоро можно ожидать революцию в трудовых процессах.
Инструменты на базе генеративного ИИ позволят переосмыслить труд и работы, которые раньше считались недосягаемыми для автоматизации.

#GenerativeAI, #McKinsey, #Автоматизация

AI нужен разум и свобода воли

- Нейробиолог Кевин Митчелл в своей книге утверждает, что для полноценного развития AI необходимо обеспечить его свободой воли и физическим взаимодействием с миром.
- Несмотря на прогресс в областях распознавания изображений, речи и прогнозирования текста, AI все еще слаборазвит в областях, которые легко даны людям.

- Опираясь на живые организмы, AI нужно обучать настоящему взаимодействию с окружающим миром, основываясь на своем опыте и исследованиях.

Мы движемся к созданию ИИ, который не просто обрабатывает данные, но и учится на собственном опыте, как человек или животное.

#AI, #КевинМитчелл, #нейробиология

AlphaSense стала "единорогом" благодаря искусственному интеллекту

- AlphaSense, платформа для поиска и маркетинговых исследований на базе AI, стала "единорогом", собрав около $150 млн.
в раунде E.

- Компания оценивается теперь в $2,5 млрд.
- Планы на будущее включают расширение корпоративного решения AlphaSense, усиление AI-возможностей поиска, специализированных рыночных разведок и финансовых моделей большого языка (LLMs) и генеративного AI (GenAI).
- Среди клиентов AlphaSense есть Goldman Sachs, JPMorgan Chase & Co., Wells Fargo & Co.
and Bain Capital.

#AlphaSense, #AI, #искусственный интеллект

AMD покупает эксперта в области открытого AI-программного обеспечения Nod.ai

- AMD объявила о подписании окончательного соглашения о приобретении Nod.ai, расширяя свои возможности открытого AI-программного обеспечения.
- Приобретение Nod.ai позволит AMD ускорить развертывание оптимизированных AI решений на своих высокопроизводительных платформах.

#AMD, #Nod.ai, #AI

LLM становятся менее памяти-зависимыми с методом "attention sinks"

- Большие языковые модели (LLM) страдают от линейного роста памяти и потери связности с увеличением длины контекста.
- "Attention sinks" используют специальные "sink" токены, которые всегда находятся в окне внимания, позволяя моделям сохранять связность даже при удалении старых токенов.
- Эксперименты показывают, что "attention sinks" обеспечивают стабильное использование памяти и стабильность результата даже в очень длинных контекстах.
- Метод улучшает связность ответов при поточной генерации и при обработке многих последовательных запросов, как в чат-боте.

Теперь языковые модели могут обрабатывать гораздо больше данных без потери связанности и стабильности.

#LLM, #attention_sinks, #AI

Replit расширяет доступ к AI-функциям для всех пользователей

- Компания Replit запускает AI-функции для всех пользователей, которые теперь включены по умолчанию.
- Платформа расширяет доступ для 23 миллионов разработчиков.
- Replit также запускает новую версию code-v1.5-3b, 3B LLM обученную на 1T токенах на 30 программных языках.
- Все функции Replit в будущем будут переосмыслены через призму AI.

Теперь разработчикам станет проще внедрять AI функционал.

#Replit, #AI, #LLM

Тесла создает новый дом для сверхкомпьютера Dojo

- В штаб-квартире Tesla в Остине, Техас, строится новое здание, которое будет использоваться для размещения суперкомпьютера Dojo.
- Dojo создан для обработки ИИ-программного обеспечения, необходимого для реализации функций автономного вождения в автомобилях Tesla.
- В будущем Tesla планирует использовать Dojo для продажи облачных услуг другим компаниям, аналогично Amazon Web Services, заявил генеральный директор компании Илон Маск.

Dojo выведет Tesla за рамки простого производства электромобилей.

#Tesla, #Dojo, #ИлонМаск

🧬 Второй пилот экипажа, обладающий искусственным интеллектом, повышает точность действий человека для обеспечения безопасности полетов

Представьте, что вы находитесь в самолете с двумя пилотами, одним человеком и одним компьютером. У обоих “руки” на пультах управления, но они всегда следят за разными вещами. Если они оба уделяют внимание одному и тому же, человек получает возможность управлять. Но если человек отвлекается или что-то упускает, компьютер быстро берет управление на себя. Это ИИ Air-Guardian- система, разработанная исследователями Лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL). Система может следить за человеком, отслеживая движения глаз и работу ЦНС полагаясь на нечто, называемое "картами значимости", которые точно указывают, куда направлено внимание. Разработанный для обеспечения безопасного неба, “Air-Guardian” сочетает человеческую интуицию с точностью машины, создавая более симбиотические отношения между пилотом и самолетом.

🧩 #AINews #ВысокиеТехнологии

Китайский квантовый компьютер установил новый рекорд скорости

- Китайский квантовый компьютер JiuZhang 3 показал увеличение скорости вычислений в миллион раз по сравнению с предшественником.
- Исследовательская команда во главе с Пань Cянвеем из Университета прикладных наук Китая использовала новый квантовый компьютер для решения сложной задачи на основе Гауссовой бозонной выборки.
- Быстрейший классический суперкомпьютер Frontier справился бы с поставленной задачей в течение 20 миллиардов лет, в то время как JiuZhang 3 решил ее всего за одну миллионную секунды.

Нужно срочно увеличивать длину и сложность паролей.

#КвантовыйКомпьютер, #JiuZhang3, #Китай

OpenText расширяет AI-платформу Aviator

- Aviator позволяет организациям использовать ИИ для различных приложений.

- В состав Aviator входит два основных направления: Aviator for Business и Aviator for Technologists.

- Aviator for Business нацелен на решение бизнес-задач с помощью ИИ, помогая улучшать процессы, снижать затраты и улучшать взаимодействие с клиентами.
IT Operations: управление ИТ инфраструктурой.
DevOps: оптимизация среды ПО.
Content: маркетинг.
Experience: эффективность коммуникации.
Cybersecurity: защита от угроз.
Business Network: логистика и цепочки поставок.

- Aviator for Technologists - это инструменты и решения для управления данными, аналитики, IoT и создания кастомных решений на базе ИИ.
Platform: управление данными.
Search: интерактивные запросы и поиск.
IoT: интернет вещей.
Thrust & Studio: разработка на AI.
Lab: прототипирование AI.

#OpenText #AI #Aviator

Тюнинг моделей на основе больших языковых моделей (LLM) с помощью машинно сгенерированных данных

- Эксперименты на основе датасета COCO проводились с использованием GPT-4, что позволило собрать 158 тысяч уникальных образцов с тестами на уровне языка и изображений.
- Данные включали в себя более 58 тысяч разговоров, 23 тысячи подробных описаний и 77 тысяч отдельных образцов сложного мышления.

- LLaVa использует интеграцию CLIP ViT-L/14 и модели Vicuna для обучения.

- Эксперименты показали, что LLaVa достигает 85,1% относительного балла в сравнении с GPT-4.
- Новый подход может значительно повысить возможности применения машинного обучения в мультимодальных настройках.

Разработка такого подхода позволит увеличить эффективность работы с большими языковыми моделями и обучением на разнообразных типах данных.

#LLaVa #GPT4 #CLIPViT-L

Вышел ежегодный State of AI 2023. Как обычно, там больше 150 слайдов, подводящих черту под всеми крупными направлениями работы и разных индустрий. Буду постепенно листать и интересное оформлю в виде какой-то заметки или может даже видео.

Пока остановимся на блоке предсказаний. На 2023й:
— Nvidia, хоть и без прямого партнерства, становится авангардом AI революции, с которым все хотят работать, чтобы получить железо
— Модели генерации звука привлекут много внимания (более 1 миллиона пользователей у ведущих игроков рынка)
— Инвестиции в $10B в AGI-focused компания (Microsoft -> OpenAI)
— Сайты, ориентированные на User Generated Content, начали заключать соглашения о предоставлении данных для тренировки моделей
— Хоть финального акта регулирования AGI и не получилось, люди и политики обсуждают всерьёз введение ограничений и проводят аналогии с биологическим оружием

Всего сбылось 5.5 предсказаний из 10. А вот десятка на 2024й:
— Продюсер голливудского уровня использует AI для создания эффектов
— Generative AI компания будет вовлечена в расследование, связанное с неправильным использованием её сервисов во время выборов президента США-2024
— Самоулучшающийся AI-агент разнесёт в щепки текущие решения для сложных задач (крупные игры, научная работа, etc.). Немного широко сформулировано, так как не выделены области, где нужно следить
— IPO как минимум одной AI-focuesed компании
— На тренировку одной из моделей будет потрачено $1B
— FTC/CMA начнут расследование сделки Microsoft и OpenAI
— Будет совсем небольшой прогресс в регуляции AI, который, быть может, ограничится лишь верхнеуровневыми волонтерскими ("пацанскими") договорённостями в духе "нет ну плохо мы делать не будем а будем делать хорошо"
— (HOT) Финансовые институты запустят аналог венчурных инвестиций, но с точки зрения вычислительных мощностей (прим.: сейчас у AGI-focused компаний примерно 90% денег уходит на оплату GPU)
— Песня, сгенерированная AI, попадет в топ (например, Spotify Top Hits 2024)
— Будет значительный рост затрат на инференс моделей, поэтому один из крупных игроков поглотит производителя чипов, чтобы начать разработки по снижению цен на железо для своих специфичных задач
————————————
Почитать анонс
Презентация

Обучение модели ruGPT-3.5 13B с использованием технологий Saiga, PeFT, LoRA и GGML

- Команда rulm объяснила процесс обучения ruGPT-3.5 13B, русскоязычной модели с 13 миллиардами параметров.
- Процесс обучения включает использование датасетов Saiga-2/GigaSaiga, технологии Peft/LoRA и кода GGML.
- Процесс начинается с подготовки и преобразования датасетов, затем через них обучается модель ruGPT-3.5 13B.
- Модель затем можно использовать для генерации текста, ответов на вопросы и других задач обработки текста.
- Результаты обучения могут быть квантизированы и конвертированы в формат GGML для дальнейшего использования.

Такие модели могут быть потенциально полезными инструментами для создания адаптивных искусственных интеллектов, способных обрабатывать естественный язык и выполнять сложные задачи в области обработки текста.


#ruGPT #Saiga #GGML

Обзор AI в 2023 году

- Составленный командой инвесторов из Air Street Capital, отчет "State of AI" описывает ключевые тенденции в AI.
- О текущем состоянии AI и его последствиях для будущего.
- Анализирует наиболее интересные разработки в области искусственного интеллекта.

Сочетание умных бизнес-стратегий и прогрессивных AI-технологий ведут к созданию новых возможностей для будущего.

#AI #StateOfAI #AirStreetCapital

OpenAI готовится к обновлению: снижение цен и расширение функций

- OpenAI планирует внедрить обновления в следующем месяце, чтобы разработка программного обеспечения на базе AI становилась дешевле и быстрее.
- Обновления включают добавление функции памяти в инструменты для разработчиков, что потенциально может снизить стоимость приложений до 20 раз.
- Новые инструменты позволят программному обеспечению анализировать и описывать изображения, что применимо в развлечениях и медицине.
- Эти функции будут описаны на первой в истории конференции для разработчиков OpenAI, которая пройдет в Сан-Франциско 6 ноября.
- Цель - позволить создание AI-чатботов и агентов, которые функционируют автономно.
- Новый API с состоянием будет помнить историю бесед, снижая затраты, а API для работы с изображениями будет анализировать их.

Здорово! Теперь разработчики могут более эффективно и выгодно создавать AI-чатботов и агентов, которые смогут анализировать изображения и помнить историю бесед.

#OpenAI #API #AI