⚡️1 лауреат Нобелевской +3 лауреата премии Тьюринга написали статью об управлении рисками ИИ

Свежая статья вышла сегодня под названием «Управление экстремальными рисками ИИ в условиях быстрого прогресса».

Вот основные моменты:

1. Компании участвуют в гонке за создание универсальных систем искусственного интеллекта(AGI), которые соответствуют/ превосходят способности человека в большинстве когнитивных работ.

2. ИИ-чипы становятся в 1,4 раза более экономичными, а алгоритмы обучения ИИ в 2,5 раза более эффективными с каждым годом.

3. Нет никакой фундаментальной причины, чтобы прогресс ИИ замедлялся/ останавливался на человеческом уровне.

4. ИИ уже превзошел человеческие способности в узких областях, таких как игра в го прогнозирование того, как сворачиваются белки.

5. Мы точно не знаем, как будет развиваться будущее ИИ. Тем не менее, мы должны серьезно отнестись к возможности того, что очень мощные AGI, которые превосходят человеческие способности во многих критически важных областях, будут разработаны в течение этого десятилетия или следующего.

6. Мы ожидаем значительного увеличения развертывания ИИ, возможностей и рисков. При тщательном управлении и справедливом распределении ИИ может помочь человечеству вылечить болезни, повысить уровень жизни и защитить экосистемы. Возможности огромны.

7. Но наряду с этим есть и крупномасштабные риски.

Системы ИИ угрожают усилить социальную несправедливость, подорвать социальную стабильность, обеспечить широкомасштабную преступную деятельность и облегчить автоматизированную войну, индивидуальные массовые манипуляции и широко распространенное наблюдение.

8. Как только автономные системы ИИ будут преследовать нежелательные цели, мы не сможем держать их под контролем.

Что предлагают ученые?

- призывают частный бизнес и госсектор выделить 1/3 своего бюджета на НИОКР на решение проблем НИОКР и обеспечение безопасности и этического использования ИИ.

- нужны национальные институты и международное управление для обеспечения соблюдения стандартов, которые предотвращают безрассудство и злоупотребление ИИ.

- нужны меры управления, которые подготовят к внезапным прорывам ИИ, будучи политически осуществимыми, несмотря на разногласия и неопределенность в отношении сроков ИИ. Ключевым моментом являются политики, которые автоматически запускаются, когда ИИ достигает определенных этапов возможностей.

- регуляторы могут и должны требовать, чтобы разработчики frontier AI предоставляли внешним аудиторам на месте, всеобъемлющий («white-box») и точно настраивающий доступ с самого начала разработки модели

- нужны строгие методы для привлечения и оценки возможностей ИИ и прогнозирования их перед обучением.

- нужно научиться оценивать не только опасные возможности, но и риски в общеском контексте, со сложными взаимодействиями и уязвимостями.

- нужны инструменты для обнаружения и защиты от угроз с помощью ИИ, таких как крупномасштабные операции влияния, биологические риски и кибератаки. Однако, по мере того, как системы искусственного интеллекта становятся более способными, они в конечном итоге смогут обойти созданную человеком защиту. Чтобы обеспечить более мощную защиту на основе ИИ, сначала нужно научиться делать системы ИИ безопасными и согласованными.

Росатом предложил создать госпрограмму развития фотоники до 2035г.

И получил поддержку М. Мишустина, передовая фотоника нужна и для развития беспилотного транспорта, космоса, аддитивных технологий и аппаратного обеспечения для исследований ИИ.

Мишустин заявил, что главное — это локализовать всю технологическую цепочку производства от специальных материалов до сборки готовых устройств.

Росатом должен представить новую госпрограмму уже в конце года.

Сколково оказалось девелоперским проектом, а не центром, где рождаются инновации и единороги

Об этом говорит тот факт, что сразу фиксирует свою прибыль девелоперская компания Михаила Гуцериева, которая продала свой бизнес-центр «Стратос» без единого арендатора в инновационном центре «Сколково» оценочно за 9–10 млрд руб. технополису «Москва», контролируемому мэрией столицы.

«Сафмар», продав объект в Сколково, фиксирует прибыль и сокращает общую долговую нагрузку.

За все время существования Сколково мы не увидели ни одного стартапа, который бы взлетел и зафиксировал прибыль.

Это чистый эпизод из «Черного зеркала»: Сатья #Наделла говорит, что новые ПК #Microsoft будут иметь функцию фотографической памяти под названием #Recall, которая будет запоминать и понимать все, что вы делаете на своем компьютере, постоянно делая снимки экрана.

Обязательно отключите эту «функцию».

Вчера Microsoft представили Copilot Plus PC — новый бренд, которым будут обозначаться ноутбуки на Windows от разных производителей, оснащённые аппаратным обеспечением для работы ИИ и поддерживающие функции ИИ во всей операционной системе.

Все основные партнёры Microsoft из числа производителей ноутбуков - Dell, Lenovo, Samsung, HP, Acer и Asus.

Microsoft представит и 2 собственных решения в рамках линейки Surface. Портативные компьютеры Copilot Plus PC будут предлагаться с процессорами Intel и AMD, а также с Arm-процессорами.

За работу ИИ будут отвечать нейронные процессоры. Одна из флагманских функций, которую будут поддерживать Copilot Plus PC, называется Recall. Это своего рода фотографическая память для вашего компьютера — ИИ будет запоминать всё, что вы делали и видели на своём ПК, и при необходимости позволит вспомнить или найти нужную информацию.

Всего в ноутбуках Copilot Plus PC будет использоваться более 40 моделей ИИ. Они войдут в состав Windows 11. Встроенный ИИ-ассистент Microsoft Copilot также получит поддержку модели OpenAI #GPT-4o, которая была представлена на прошлой неделе.

1C - не рыночный продукт, выяснилось сегодня на ЦИПРе

Что интересного мы узнали об отечественном ПО?

М. Мишустин спросил глав Камаза и 1С будут ли они работать вместе? Видимо, все плохо в их отношениях, что это вынесли в публичную плоскость (смотрите видео).

Б. Нуралиев 1С нечетко ответил, а С. Когогин, Камаз, ответил прямо - нет.

Камаз не готов переходить на 1С, они по-прежнему пользуются SAP, потому что 1С невыгодный для них продукт.

Разработчик инструментов обучения нейросетей Scale AI привлек $1млрд и оценен в $13.8млрд

Scale AI привлекла в серии F $1 млрд при оценке своей платформы разметки данных в $13,8 млрд.

Раунд возглавил Accel, а также приняли участие Amazon, Meta, Nvidia, Intel, AMD и другие.

Scale AI создана в 2016 году, является одним из лидеров в области разметки данных для обучения нейросетей. Она работает, в частности, с OpenAI, Microsoft и Meta(запрещенная в РФ организация).

У компании есть контракт на тестирование и оценку различных ИИ-моделей от министерства обороны США.

Сергей Безбогов, ВТБ - у нас в стране нет собственного высокопроизводительного железа, поэтому в России мы насилуем софт.

Сказал, как отрезал. 😎

Вот это круто! Самым молодым международным гроссмейстером в истории России стал Иван Землянский.

В 13 лет и 8 месяцев он набрал очки на турнире в ОАЭ и выполнил необходимую норму.

Виталик Бутерин: нам нужен открытый децентрализованный (без оператора и управления) протокол для быстрого перемещения активов с одного уровня L2 на другой и для его интеграции в интерфейс отправки кошельков по умолчанию.

Он также сказал, что ENS — самое успешное нефинансовое приложение (блокчейн).

Российские цифровые технологии без идей, плана и вдохновения

Мы живем в том мире, когда сегодня человеку больше всего нужно вдохновение и доверие то, чтобы жить, развиваться и работать.

Наш канал на протяжении уже почти 8 лет наблюдает за множеством российских и международных мероприятий, которые проводят ИТ-компании или для ИТ-компаний.

За основу возьмем международные конференции ключевых игроков: Tesla AI, Apple, NVIDIA, Amazon, Google, Microsoft и тд.

Основная цель всех этих конференций - поиск и найм сотрудников в свои компании. Через конференции они просеивают поток людей.

Из конференций они создают массивные и красивые шоу, которые дают им отличный PR-эффект, чего стоит последняя презентация NVIDIA.

Сегодня мы посмотрели 1-й день конференции ЦИПР, на котором не было того, на что молодое поколение готово было бы посмотреть и пойти. Нет продуктов, идей, истинных героев российских технологий.

Если вы хотите узнать, как развивается та или иная отрасль в стране. Просто попросите отраслевую ассоциацию помодерировать об этом дискуссию.

Ассоциация посадит основных игроков в один ряд и даст им высказаться. А из-за того, что нет чёткого понимания, что является итогом дискуссии и ее целью, то вы зафиксируете все: хаос, слабые места, но ни малейшего понимания, куда все это идет.

Александр Крайнов, глава ИИ в Яндексе - сегодня российская наука не влияет на мировую науку в ИИ, нет кадров.

Почему российская наука в ИИ сегодня не влияет на мировую? Александр Крайнов, глава ИИ в Яндексе раскрывает данный вопрос

Например доля российских научных публикаций на топовых конференциях по ИИ по сравнению с другими странами минимальна, находится на уровне ниже 1%, даже если есть какой-то рост, то он незаметный.

Два вывода Крайнова:

1. Нужно принимать экстра усилия, чтобы двигаться быстрее.
2. Те усилия, которые были ранее совершены, они работают.

Microsoft представил биомедицинскую базовую ИИ-модель для анализа изображений - BiomedParse

BiomedParse - ИИ - модель для анализа изображений всего и везде одновременно.

ИИ может совместно выполнять сегментацию, обнаружение и распознавание 82 типов объектов с использованием 9 методов визуализации.

Как генеративный ИИ может быть применен в финансах? Ответ на этот вопрос есть в новом исследовании Deloitte, они приводят кейсы конкретные и пояснения https://t.iss.one/alwebbci/2231

США выделили грант $5млн на разработку ИИ, который будет работать с нейроинтерфейсом

Центр нейротехнологий USC разрабатывает системы интерфейс мозг-компьютер для лечения лечения психических расстройств.

Целью гранта BRAIN initiative является разработка новых мультимодальных ИИ для персонализации лечения психических состояниях.

В рамках этого гранта будут собирать сигналы мозга, физиологические сигналы, такие как частота сердечных сокращений или уровень кортизола, и поведенческие сигналы от пациентов, а затем разработают мультимодальные алгоритмы ИИ, которые расшифровывают психические состояния путем слияния всех этих сигналов.

Секвенирование генома, которое делает машинное обучение… это время не остановить https://t.iss.one/alwebbci/2243