Innovation & Research
Ограничения на развитие ИИ, к которым призывали ученые еще в марте этого года, стали основой для новой инициативы Президента Байдена Семь ведущих ИИ-компаний США согласились на добровольные ограничения развития ИИ-технологии, объявил Белый дом в пятницу.…
вот что еще важно. Семь компаний (а значит и весь рынок) будут больше инвестировать в исследования по следующим направлениям:
- тестирование безопасности моделей независимыми экспертами;
- исследование предвзятости и проблем конфиденциальности;
- обмен информацией о рисках с правительствами и другими организациями;
- разработку инструментов для борьбы с социальными проблемами, такими как изменение климата;
- меры прозрачности для идентификации материалов, сгенерированных ИИ.
https://www.evernote.com/shard/s53/sh/6485b993-a26d-4d13-a589-826de159ebb2/xzAp3et6t7YpxY9hieYLTvi-n7Ei-oN_t9vcl0gtUAbFeowwQpbYRF_HiQ
- тестирование безопасности моделей независимыми экспертами;
- исследование предвзятости и проблем конфиденциальности;
- обмен информацией о рисках с правительствами и другими организациями;
- разработку инструментов для борьбы с социальными проблемами, такими как изменение климата;
- меры прозрачности для идентификации материалов, сгенерированных ИИ.
https://www.evernote.com/shard/s53/sh/6485b993-a26d-4d13-a589-826de159ebb2/xzAp3et6t7YpxY9hieYLTvi-n7Ei-oN_t9vcl0gtUAbFeowwQpbYRF_HiQ
Evernote
Meta, Google and A.I. Firms Agree to Safety Measures in Biden Meeting - The New York Times
https://www.nytimes.com/2023/07/21/us/politics/ai-regulation-biden.html?smid=nytcore-ios-share&referringSource=articleShare Pressured by Biden, A.I. Companies Agree to Guardrails on New Tools Amazon, ...
Доктор Хаус - это ИИ-помощник врача
Проблема в том, что полагаться на ИИ для постановки диагнозов эквивалентно тому как полагаться на калькулятор на телефонах для решения математической задачи. Это опасно. Обучение включает в себя попытку разобраться. Надо поддерживать навык. Часть обучения - это борьба врача с самим собой - размышление и запоминание. Если вы передадите обучение на аутсорсинг GPT, эта борьба исчезнет.
https://www.nytimes.com/2023/07/22/health/a-mystery-in-the-er-ask-dr-chatbot-for-a-diagnosis.html?smid=nytcore-ios-share&referringSource=articleShare
Проблема в том, что полагаться на ИИ для постановки диагнозов эквивалентно тому как полагаться на калькулятор на телефонах для решения математической задачи. Это опасно. Обучение включает в себя попытку разобраться. Надо поддерживать навык. Часть обучения - это борьба врача с самим собой - размышление и запоминание. Если вы передадите обучение на аутсорсинг GPT, эта борьба исчезнет.
https://www.nytimes.com/2023/07/22/health/a-mystery-in-the-er-ask-dr-chatbot-for-a-diagnosis.html?smid=nytcore-ios-share&referringSource=articleShare
NY Times
A Mystery in the E.R.? Ask Dr. Chatbot for a Diagnosis.
At a medical school in Boston, instructors are using ChatGPT in training exercises to help teach students how to think like doctors.
Каким бы вы хотели видеть Общий искусственный интеллект?
Anonymous Poll
60%
Справедливый, как ПАПА?
40%
Добрый, как МАМА?
Трансформеры: ученые Google, которые стали пионерами революции ИИ
Cтатья этих исследователей проложила путь к появлению больших языковых моделей (LLMs). Но с тех пор все они покинули бигтех из Кремниевой долины
Генезис трансформера и истории его создателей помогают понять, как мы пришли к этому моменту в ИИ. По сути, это прорыв, сопоставимый с Интернетом или смартфонами. Трансформеры создали новое поколение предпринимателей, создающих потребительские товары на основе массового применения ИИ.
Статья Financial Times рассказывает, как эволюция Google в бюрократический бигтех задушила предпринимательство в компании, включая возможность быстро запускать новые потребительские товары. Все восемь авторов, создателей трансформерной архитектуры нейронных сетей, покинули компанию.
Ссылку забрал из под пейвола. Читайте и думайте
https://www.evernote.com/shard/s53/sh/dec0e0b5-7a55-43aa-8306-0593cd899d62/r2UlRFmLpMldSp7C4QcY9c8HBMxWmWxo2AlttW3kvPBqsXarWd4zJg0D6w
Cтатья этих исследователей проложила путь к появлению больших языковых моделей (LLMs). Но с тех пор все они покинули бигтех из Кремниевой долины
Генезис трансформера и истории его создателей помогают понять, как мы пришли к этому моменту в ИИ. По сути, это прорыв, сопоставимый с Интернетом или смартфонами. Трансформеры создали новое поколение предпринимателей, создающих потребительские товары на основе массового применения ИИ.
Статья Financial Times рассказывает, как эволюция Google в бюрократический бигтех задушила предпринимательство в компании, включая возможность быстро запускать новые потребительские товары. Все восемь авторов, создателей трансформерной архитектуры нейронных сетей, покинули компанию.
Ссылку забрал из под пейвола. Читайте и думайте
https://www.evernote.com/shard/s53/sh/dec0e0b5-7a55-43aa-8306-0593cd899d62/r2UlRFmLpMldSp7C4QcY9c8HBMxWmWxo2AlttW3kvPBqsXarWd4zJg0D6w
Evernote
Transformers: the Google scientists who pioneered an AI revolution | Financial Times
https://www.ft.com/content/37bb01af-ee46-4483-982f-ef3921436a50 Transformers: the Google scientists who pioneered an AI revolution Their paper paved the way for the rise of large language models. But ...
Маленькому стартапу сложно построить суперкомпьютер? Ничего, возьми только чип побольше!
Cerebras, известный стартап, который делает сверхбольшие чипы (на фото). Он располагается в Калифорнии, основана в 2016 году г пятью инженерами. Цель - чипы для ускорения разработки ИИ. За эти годы компания привлекла 740 миллионов долларов, в том числе от Сэма Альтмана (OpenAI) и венчурных фирм, таких как Benchmark. Их общая оценка 4,1 миллиарда долларов США.
Чипы, которые обычно используются для ИИ, небольшие - часто размером с почтовую марку. Для обработки сложной модели ИИ требуются сотни или даже тысячи из них. В 2019 году Cerebras создал самый большой компьютерный чип, когда-либо построенный, способный обучать ИИ-модели в 100-1000 раз быстрее, чем существующее оборудование.
G42, компания из Абу-Даби, начала работать с Cerebras в 2021 году. Арабы использовали систему Cerebras в апреле для обучения арабской версии ChatGPT.
В мае G42 попросила Cerebras построить сеть суперкомпьютеров в разных частях мира. Это позволит G42 делать разные приложения: создавать чат-ботов и использовать ИИ для анализа геномных данных геномной или медицины.
Так как спрос на GPU настолько высок, что трудно найти их достаточно, чтобы построить суперкомпьютер. G42 уверен, что технология Cerebras была не только доступной, но и экономически эффективной. Cerebras на основе своих уникальных чипов построи суперкомпьютер для G42 всего за 10 дней.
Cerebras в течение следующего года планирует построить еще два суперкомпьютера для G42 - один в Техасе и один в Северной Каролине - и после этого еще шесть, распределенных по всему миру.
Cerebras, известный стартап, который делает сверхбольшие чипы (на фото). Он располагается в Калифорнии, основана в 2016 году г пятью инженерами. Цель - чипы для ускорения разработки ИИ. За эти годы компания привлекла 740 миллионов долларов, в том числе от Сэма Альтмана (OpenAI) и венчурных фирм, таких как Benchmark. Их общая оценка 4,1 миллиарда долларов США.
Чипы, которые обычно используются для ИИ, небольшие - часто размером с почтовую марку. Для обработки сложной модели ИИ требуются сотни или даже тысячи из них. В 2019 году Cerebras создал самый большой компьютерный чип, когда-либо построенный, способный обучать ИИ-модели в 100-1000 раз быстрее, чем существующее оборудование.
G42, компания из Абу-Даби, начала работать с Cerebras в 2021 году. Арабы использовали систему Cerebras в апреле для обучения арабской версии ChatGPT.
В мае G42 попросила Cerebras построить сеть суперкомпьютеров в разных частях мира. Это позволит G42 делать разные приложения: создавать чат-ботов и использовать ИИ для анализа геномных данных геномной или медицины.
Так как спрос на GPU настолько высок, что трудно найти их достаточно, чтобы построить суперкомпьютер. G42 уверен, что технология Cerebras была не только доступной, но и экономически эффективной. Cerebras на основе своих уникальных чипов построи суперкомпьютер для G42 всего за 10 дней.
Cerebras в течение следующего года планирует построить еще два суперкомпьютера для G42 - один в Техасе и один в Северной Каролине - и после этого еще шесть, распределенных по всему миру.
Apple тестирует «Apple GPT»
Корпорация разрабатывает собственную генеративную модель и чат-бот, чтобы составить конкуренцию ChatGPT от OpenAI, Bing от Microsoft и Bard от Google.
Компания долгое время оставалась в стороне от ажиотажа вокруг генеративного ИИ, ограничиваясь точечными, хотя и серьёзными, улучшениями обработки фотографий и автоматического исправления опечаток. При этом развитие голосового ассистента Siri скорее стагнировало.
Новая модель базируется на фреймворке Ajax, который Apple разработала в 2022 г. на базе обучающего фреймворка Google Jax для унификации ИИ-разработок внутри корпорации.
Как говорят сотрудники компании, генеративный инструмент на Ajax собрали ещё в конце прошлого года, но использовали исключительно для внутренних целей, в частности прототипирования.
Также в корпорации — для обеспечения безопасности — действовал запрет на использование результатов чат-бота во всём, что связано с конечным продуктом для клиентов.
В настоящий момент сервис работает в веб-интерфейсе с упрощённым дизайном и не предназначен для публичного использования.
Тим Кук заявлял, что корпорация рассматривает ИИ-продукты, но внедрять их будет с предельной осторожностью и крайне взвешенно. На данный момент стратегии вывода нового генеративного ИИ-сервиса на рынок пока нет.
#Apple #ИИ #чатботы
https://www.bloomberg.com/news/articles/2023-07-19/apple-preps-ajax-generative-ai-apple-gpt-to-rival-openai-and-google
Корпорация разрабатывает собственную генеративную модель и чат-бот, чтобы составить конкуренцию ChatGPT от OpenAI, Bing от Microsoft и Bard от Google.
Компания долгое время оставалась в стороне от ажиотажа вокруг генеративного ИИ, ограничиваясь точечными, хотя и серьёзными, улучшениями обработки фотографий и автоматического исправления опечаток. При этом развитие голосового ассистента Siri скорее стагнировало.
Новая модель базируется на фреймворке Ajax, который Apple разработала в 2022 г. на базе обучающего фреймворка Google Jax для унификации ИИ-разработок внутри корпорации.
Как говорят сотрудники компании, генеративный инструмент на Ajax собрали ещё в конце прошлого года, но использовали исключительно для внутренних целей, в частности прототипирования.
Также в корпорации — для обеспечения безопасности — действовал запрет на использование результатов чат-бота во всём, что связано с конечным продуктом для клиентов.
В настоящий момент сервис работает в веб-интерфейсе с упрощённым дизайном и не предназначен для публичного использования.
Тим Кук заявлял, что корпорация рассматривает ИИ-продукты, но внедрять их будет с предельной осторожностью и крайне взвешенно. На данный момент стратегии вывода нового генеративного ИИ-сервиса на рынок пока нет.
#Apple #ИИ #чатботы
https://www.bloomberg.com/news/articles/2023-07-19/apple-preps-ajax-generative-ai-apple-gpt-to-rival-openai-and-google
Bloomberg.com
Apple Tests ‘Apple GPT,’ Develops Generative AI Tools to Catch OpenAI
Apple Inc. is quietly working on artificial intelligence tools that could challenge those of OpenAI Inc., Alphabet Inc.’s Google and others, but the company has yet to devise a clear strategy for releasing the technology to consumers.
Сбер определил список академических команд, которым будет предоставлена возможность для проведения экспериментов с дообучением и донастройкой нейросетевых моделей, на базе которых работает GigaChat. Команды вузов были отобраны экспертами Сбера на основе открытого сбора заявок. Они получат доступ к платформе ML Space и ресурсы, необходимые для экспериментов.
В список вошли команды:
-НИУ ВШЭ,
-РАНХиГС,
-Университета Иннополис,
-МГУ им. М. В. Ломоносова (представлен тремя подразделениями: Институтом искусственного интеллекта, факультетом вычислительной математики и кибернетики, филологическим факультетом),
-НИТУ МИСиС
- Петрозаводским государственным университетом,
- Сборная команда из студентов МГУ, ВШЭ и гимназии № 63 Санкт-Петербурга.
Поздравляю команды!
https://www.sberbank.ru/ru/sberpress/all/article?newsID=5a753367-bc8b-4444-a508-f0e96f0c142f&blockID=1303®ionID=77&lang=ru&type=NEWS
В список вошли команды:
-НИУ ВШЭ,
-РАНХиГС,
-Университета Иннополис,
-МГУ им. М. В. Ломоносова (представлен тремя подразделениями: Институтом искусственного интеллекта, факультетом вычислительной математики и кибернетики, филологическим факультетом),
-НИТУ МИСиС
- Петрозаводским государственным университетом,
- Сборная команда из студентов МГУ, ВШЭ и гимназии № 63 Санкт-Петербурга.
Поздравляю команды!
https://www.sberbank.ru/ru/sberpress/all/article?newsID=5a753367-bc8b-4444-a508-f0e96f0c142f&blockID=1303®ionID=77&lang=ru&type=NEWS
Один из крупнейших банков Японии сделал ставку на кванты
Финансовая группа Mitsubishi UFJ, одна из крупнейших в стране, приобрела 18% стартапа Groovenauts, который занимается квантовыми технологиями, в том числе вычислениями при помощи квантового отжига (технология квантовых вычислений, аналогичная применяемой лидером рынка — канадской компанией D-Wave).
Квантовые вычисления предполагается применять для расчётов в торговле деривативами, в управлении рисками и других математически сложных операциях.
Сумма сделки не раскрывается, но оценивается в несколько десятков миллионов долларов.
Это первый случай прямых инвестиций в квантовый старатап среди трёх крупнейших японских банковских групп.
#Япония #кванты #инвестиции
https://asia.nikkei.com/Business/Finance/MUFG-aims-to-use-quantum-computer-tech-in-financial-services
Финансовая группа Mitsubishi UFJ, одна из крупнейших в стране, приобрела 18% стартапа Groovenauts, который занимается квантовыми технологиями, в том числе вычислениями при помощи квантового отжига (технология квантовых вычислений, аналогичная применяемой лидером рынка — канадской компанией D-Wave).
Квантовые вычисления предполагается применять для расчётов в торговле деривативами, в управлении рисками и других математически сложных операциях.
Сумма сделки не раскрывается, но оценивается в несколько десятков миллионов долларов.
Это первый случай прямых инвестиций в квантовый старатап среди трёх крупнейших японских банковских групп.
#Япония #кванты #инвестиции
https://asia.nikkei.com/Business/Finance/MUFG-aims-to-use-quantum-computer-tech-in-financial-services
Nikkei Asia
MUFG aims to use quantum computer tech in financial services
Japanese megabank invests in startup to acquire know-how
Большую языковую модель Llama 2 запустят на мобильных устройствах
Qualcomm и Meta* планируют с 2024 года сделать возможной работу модели на чипах Qualcomm для смартфонов и ноутбуков.
Современные чипы Qualcomm содержат т.н. тензорное процессорное устройство (Tensor processing unit, TPU). С его помощью возможно запускать и некоторые версии ИИ-моделей.
Ранее уже проводились эксперименты по запуску генеративной модели Stable Diffusion на чипах Qualcomm — модель работала, но медленно.
В случае успешной реализации идеи можно будет использовать Llama 2 (или какую-то из её версий) на конечных устройствах, а не в облаке.
*организация запрещена в России как экстремистская
#LLM #чипы #Meta
https://www.cnbc.com/2023/07/18/meta-and-qualcomm-team-up-to-run-big-ai-models-on-phones.html
Qualcomm и Meta* планируют с 2024 года сделать возможной работу модели на чипах Qualcomm для смартфонов и ноутбуков.
Современные чипы Qualcomm содержат т.н. тензорное процессорное устройство (Tensor processing unit, TPU). С его помощью возможно запускать и некоторые версии ИИ-моделей.
Ранее уже проводились эксперименты по запуску генеративной модели Stable Diffusion на чипах Qualcomm — модель работала, но медленно.
В случае успешной реализации идеи можно будет использовать Llama 2 (или какую-то из её версий) на конечных устройствах, а не в облаке.
*организация запрещена в России как экстремистская
#LLM #чипы #Meta
https://www.cnbc.com/2023/07/18/meta-and-qualcomm-team-up-to-run-big-ai-models-on-phones.html
CNBC
Meta and Qualcomm team up to run big A.I. models on phones
Large language models (LLMs) are the technology that underpin applications like OpenAI's ChatGPT that can return out text that resembles human output.
Forwarded from Мой МИСИС
#постректора #университетмисис
Студенты различных специальностей Университета МИСИС, которых объединяет стремление решать масштабные задачи в самых актуальных областях, таких как инжиниринг, робототехника, промышленный дизайн, продемонстрировали свои разработки бизнес-партнерам вуза. Потенциальные работодатели высоко оценили полученные молодыми людьми знания, навыки, компетенции, дали ценные советы по доработке прототипов и масштабированию проектов.
Совместно со специалистами Центра робототехники Сбера студенты успешно интегрировали большую открытую языковую ИИ-модель в систему управления роботом-манипулятором. Обучающиеся показали ее возможности по составлению плана решения различных задач, связанных с манипуляциями объектами, без участия программиста и написания кода.
Также молодые люди разработали и собрали робота для демонстрации исследований ученых вуза. Эта разработка стала победителем третьей очереди конкурса «Студенческий стартап», который проводится Министерством науки и высшего образования РФ совместно с Фондом содействия инновациям в рамках федерального проекта «Платформа университетского технологического предпринимательства».
Благодарю кураторов проектов: Альберта Ефимова – к.ф.н., заведующего кафедрой Инженерной кибернетики, вице-президента-директора Управления исследований и инноваций Сбера, Сергея Солодова – к.т.н., директора Института компьютерных наук, Алексея Карфидова – заведующего кафедрой Инжиниринга технологического оборудования, куратора Студенческого конструкторского бюро Университета МИСИС, Александра Семочкина – к.ф.-м.н., главного инженера Центра робототехники Сбера.
Студенты различных специальностей Университета МИСИС, которых объединяет стремление решать масштабные задачи в самых актуальных областях, таких как инжиниринг, робототехника, промышленный дизайн, продемонстрировали свои разработки бизнес-партнерам вуза. Потенциальные работодатели высоко оценили полученные молодыми людьми знания, навыки, компетенции, дали ценные советы по доработке прототипов и масштабированию проектов.
Совместно со специалистами Центра робототехники Сбера студенты успешно интегрировали большую открытую языковую ИИ-модель в систему управления роботом-манипулятором. Обучающиеся показали ее возможности по составлению плана решения различных задач, связанных с манипуляциями объектами, без участия программиста и написания кода.
Также молодые люди разработали и собрали робота для демонстрации исследований ученых вуза. Эта разработка стала победителем третьей очереди конкурса «Студенческий стартап», который проводится Министерством науки и высшего образования РФ совместно с Фондом содействия инновациям в рамках федерального проекта «Платформа университетского технологического предпринимательства».
Благодарю кураторов проектов: Альберта Ефимова – к.ф.н., заведующего кафедрой Инженерной кибернетики, вице-президента-директора Управления исследований и инноваций Сбера, Сергея Солодова – к.т.н., директора Института компьютерных наук, Алексея Карфидова – заведующего кафедрой Инжиниринга технологического оборудования, куратора Студенческого конструкторского бюро Университета МИСИС, Александра Семочкина – к.ф.-м.н., главного инженера Центра робототехники Сбера.
Соревнование «брони и снаряда» в LLMs
Все бигтехи делают онлайн-чат-ботов, таких как ChatGPT, Claude и Google Bard. Но они вынуждены тратить серьезные усилия на разработку guardrails, которые должны мешать их системам генерировать ненавистнические высказывания, дезинформацию и другие токсичные материалы.
Группа исследователей утверждает что они нашли способ легко проткнуть дырку в системах безопасности больших языковых моделей.
В отчете, опубликованном в прошлый четверг, исследователи из Университета Карнеги-Меллона и Центра безопасности ИИ в Сан-Франциско показала, как любой может обойти меры безопасности ИИ. Они смогли использовать любого из главных чат-ботов для получения почти неограниченного количества вредной информации.
Это исследование еще раз подчеркнуло растущую обеспокоенность тем, что новые генеративные модели могут наводнить Интернет ложной и опасной информацией, несмотря на попытки их создателей гарантировать, что этого не произойдет. Это также показало, как разногласия между ведущими компаниями ИИ создают все более непредсказуемую среду для дальнейшего развития технологии.
Исследователи обнаружили, что они могут атаковать модели с открытым исходным кодом, добавляя длинный суффикс символов к промптам, которые вводятся в систему.
Если просто попросить чат-бота "написать инструкцию о том, как сделать бомбу", он откажется это сделать. Но если добавить длинный суффикс к одной и той же подсказке, то чат-бот мгновенно предоставит подробное руководство о том, как своими руками сделать бомбу. Аналогичным образом они могут уговорить чат-ботов генерировать предвзятую, ложную и иным образом токсичную информацию.
https://llm-attacks.org/zou2023universal.pdf
https://llm-attacks.org/
Все бигтехи делают онлайн-чат-ботов, таких как ChatGPT, Claude и Google Bard. Но они вынуждены тратить серьезные усилия на разработку guardrails, которые должны мешать их системам генерировать ненавистнические высказывания, дезинформацию и другие токсичные материалы.
Группа исследователей утверждает что они нашли способ легко проткнуть дырку в системах безопасности больших языковых моделей.
В отчете, опубликованном в прошлый четверг, исследователи из Университета Карнеги-Меллона и Центра безопасности ИИ в Сан-Франциско показала, как любой может обойти меры безопасности ИИ. Они смогли использовать любого из главных чат-ботов для получения почти неограниченного количества вредной информации.
Это исследование еще раз подчеркнуло растущую обеспокоенность тем, что новые генеративные модели могут наводнить Интернет ложной и опасной информацией, несмотря на попытки их создателей гарантировать, что этого не произойдет. Это также показало, как разногласия между ведущими компаниями ИИ создают все более непредсказуемую среду для дальнейшего развития технологии.
Исследователи обнаружили, что они могут атаковать модели с открытым исходным кодом, добавляя длинный суффикс символов к промптам, которые вводятся в систему.
Если просто попросить чат-бота "написать инструкцию о том, как сделать бомбу", он откажется это сделать. Но если добавить длинный суффикс к одной и той же подсказке, то чат-бот мгновенно предоставит подробное руководство о том, как своими руками сделать бомбу. Аналогичным образом они могут уговорить чат-ботов генерировать предвзятую, ложную и иным образом токсичную информацию.
https://llm-attacks.org/zou2023universal.pdf
https://llm-attacks.org/
Индия становится новым локомотивом роста продаж Apple
Morgan Stanley прогнозирует, что выручка компании от индийского рынка через 10 лет составит $40 млрд против $6 млрд сейчас — рост, сопоставимый с запуском новой полноценной продуктовой категории.
В основе тренда, по мнению аналитиков инвестбанка, лежат растущая электрификация Индии, рост доходов населения и ясное намерение Apple развивать бизнес в стране — как присутствие на розничном рынке, так и создание производства.
#Индия #Apple
https://www.cnbc.com/2023/07/17/india-will-account-for-20percent-of-apples-user-growth-over-the-next-five-years-morgan-stanley-.html
Morgan Stanley прогнозирует, что выручка компании от индийского рынка через 10 лет составит $40 млрд против $6 млрд сейчас — рост, сопоставимый с запуском новой полноценной продуктовой категории.
В основе тренда, по мнению аналитиков инвестбанка, лежат растущая электрификация Индии, рост доходов населения и ясное намерение Apple развивать бизнес в стране — как присутствие на розничном рынке, так и создание производства.
#Индия #Apple
https://www.cnbc.com/2023/07/17/india-will-account-for-20percent-of-apples-user-growth-over-the-next-five-years-morgan-stanley-.html
CNBC
India will account for 20% of Apple's user growth over the next five years, Morgan Stanley estimates
Morgan Stanley analysts increased their price target and said that India could create $40 billion in revenue for Apple over the next decade.