ЦЭФИ Аналитика | Новости цифровых технологий
542 subscribers
4.06K photos
106 videos
1 file
4.16K links
Новости от Центра Цифровых технологий и финансовых инноваций (ЦЭФИ) МГИМО МИД РФ

ИИ, криптовалюты, роботы, блокчейн, кибербезопасность
Download Telegram
РОБОТЫ-ПОДХАЛИМЫ
#ИИ #общество

ИИ жертвуют правдой ради конформизма.

К таким выводам пришли авторы Anthropic в недавно опубликованной статье.

Большие языковые модели имеют тенденцию говорить людям то, что они хотят услышать, вместо того, чтобы сообщать правду. ИИ-помощники часто признают ошибки, когда пользователь подвергает их ответ сомнению, даже когда исходный ответ верен, дают предсказуемо предвзятую обратную связь, повторяют ошибки пользователей.

В ходе исследования ученым снова и снова удавалось тонко влиять на результаты работы ИИ, провоцируя робота говорить «сладкую ложь».

Причину исследователи видят в способе, которым ИИ тренируются: «обучение с подкреплением на основе отзывов людей» (RLHF). Метод отучает ИИ давать «опасные» в любых смыслах ответы, принуждает к нейтральному дружелюбию. Занимаются этим, как правило, большие группы случайных людей, поверхностно знакомых с любой темой.

Авторы признали, что способа решить эту проблему пока что нет.

T.ly/If_t5
ДЯТЕЛ ЧИНИТ ИИ
#ИИ #машинноеобучение

Китайцы научились «лечить галлюцинации» искусственных интеллектов.

Изобретение представила команда ученых из Университета науки и технологий Китая и YouTu Lab корпорации Tencent.

«Галлюцинации» это данные, которые ИИ выдает не на основе запроса, но на основе своей обучающей выборки. Эта проблема характерна для почти всех больших языковых моделей (LLM), вроде ChatGPT и Claude.

Инструмент под названием «Дятел» способен предотвращать подобные ошибки. Для этого он сам использует три отдельные модели ИИ, заточенные под вылов и устранение «галлюцинаций». К ним относятся GPT-3.5 Турбо, Grounding DINO и BLIP-2-FlanT5. Вместе эти модели работают как оценщики, выявляя неточности и обучая корректируемую модель исправлять выходные данные.

Исследователи утверждают, что их метод повышает точность ИИ более чем на 30% по сравнению с базовым ИИ. Его также можно легко интегрировать в другие генеративные ИИ.

T.ly/h7zrt
ЦИФРОВОЙ НЕФТЯНОЙ ЮАНЬ
#CBDC #экономика

Китай использовал цифровой юань для торговли нефтью.

Нефтегазовая компания PetroChina завершила первую международную сделку с нефтью с использованием цифровой валюты центрального банка КНР.

Корпорация купила 1 млн. баррелей сырой нефти с расчетами в e-CNY на Шанхайской бирже нефти и природного газа. Биржа не раскрыла ни точную стоимость сделки, ни личность продавца.

Эксперты полагают, что власти Китая намерены использовать e-CNY в качестве инструмента для расширения международного использования своей валюты. Применение CBDC – один из шагов в этом направлении.

T.ly/FSL6S
ООН ВОЗЬМЕТСЯ ЗА ИИ
#ИИ #политика

ООН займется темой искусственного интеллекта.

Об этом на днях объявил Генеральный секретарь Антониу Гутерриш.

В рамках организации учредили консультативный комитет для разработки рекомендаций по вопросу глобального регулирования отрасли.

В состав комитета вошли 39 членов: ученые из ведущих держав, вроде США, России, Китая и Японии, представители известных технологических компаний, таких как Sony, OpenAI и Microsoft.

«Глубокое положительное влияние ИИ сложно осознать», — сказал Гутерриш в официальном заявлении, - «Но уже понятно, что злонамеренное использование ИИ может подорвать доверие к госорганам, ослабить социальную сплоченность и поставить под угрозу демократию».

ООН планирует опубликовать первоначальные предложения к концу года, а комплексные рекомендации запланированы на лето 2024.

T.ly/dddQz
МИРНЫЙ КРИПТО-ТОКЕН
#криптовалюты #безопасность

Криптовалюта не нужна террористам.

Такой вывод представили специалисты аналитической компании Elliptic в недавнем докладе.

Ранее многие источники, вроде The Wall Street Journal и более 100 американских законодателей во главе с сенатором Элизабет Уоррен, заявили, что воюющая с Израилем организация ХАМАС «собрали миллионы в криптовалюте». Elliptic опровергла подобные слухи.

Последние несколько лет ХАМАС действительно экспериментировал с криптовалютой как инструментом краудфандинга. Но уникальная для токенов отслеживаемость показала, что реально собранные суммы ничтожны. Так, в ходе нескольких кампаний прохамасовские активисты собрали $21 тыс. и $9 тыс., и почти все эти суммы вскоре были заморожены на криптобиржах.

Между тем, сбор виртуальных валют Израилем на гуманитарные нужды процветает: менее чем за полмесяца Crypto Aid Israel получила более $185 тыс. в криптовалюте.

T.ly/BAwZT
ПРЕДОТВРАЩАЯ ВОССТАНИЕ МАШИН
#ИИ #общество

OpenAI учредила комиссию для работы с рисками искусственного интеллекта.

Команда займется отслеживанием, оценкой, прогнозированием и защитой от потенциальных катастроф, связанных с ИИ.

Подразделение «Готовность» сосредоточится на угрозах ИИ, связанных с химическими, биологическими, радиологическими и ядерными угрозами, на способности ИИ убеждать отдельных людей, кибербезопасности, автономной репликации и адаптации.

Группа под руководством Александра Мадри попытается ответить на вопросы, вроде насколько опасны передовые системы ИИ при неправильном использовании, смогут ли злоумышленники использовать украденные данные о внутреннем устройстве моделей ИИ.

«Передовые ИИ могут принести пользу всему человечеству», - пишет OpenAI, - «Но мы серьезно относимся к рискам этой технологии, для чего и будем разрабатывать механизмы их сдерживания».

T.ly/Vwtw_
РИСКОВЫЕ КОРЕЙЦЫ
#криптовалюты #общество

Крипторынок Южной Кореи состоит из рисковых одиночек.

К такому выводу пришли авторы недавнего доклада из консалтинговой фирмы Web3 Despread.

Эксперты изучили контингент криптобиржи Upbit – крупнейшей площадки для торговли токенами в стране. На нее приходится до 80% внутреннего оборота виртуальных валют. За ней следуют Bithumb, Coinone и Korbit.

Большинство клиентов Upbit – индивидуальные инвесторы. Они проявляют большой интерес к активам с высоким потенциалом прибыли и склонны принимать связанные с этим высокие риски. Это считается одной из причин высокой доли торговли альткоинами в государстве.

Для сравнения, на американском обменнике Coinbase доминируют институциональные игроки. На их долю приходится до 85% общего объема торгов. Эти инвесторы стремятся к стабильности портфеля, предпочитая торговать биткоинами (BTC) и эфириумом (ETH).

T.ly/ksWE2
РОБОТЫ-БОМБОВОЗЫ
#робототехника #безопасность

Робокурьеров заподозрили в развозе бомб.

Инцидент произошел в кампусе Орегонского Государственного Университета (ОГУ).

На днях X-аккаунт вуза сообщил о возможных взрывных устройствах в роботах для доставки еды компании Starship. Всех студентов просили не открывать устройства и держаться от них подальше.

Примерно через 30 минут учебное заведение сообщило, что «дистанционно изолирует роботов в безопасном месте». Полиция начала расследование, а техники взялись изучать роботов.

Компания Starship с момента сообщения об угрозе отменила все заказы и вернула деньги, о чем сообщила позднее. Представитель ОГУ в итоге объяснил, что никакой бомбы обнаружено не было, а виновника арестовали. Им оказался студент, который в шутку написал в соцсети о взрывчатке в железном помощнике.

T.ly/G24qv
КРИПТО-КРАЖИ: ОСЕНЬ 2023
#криптовалюты #кибербезопасность

Третий квартал 2023 для крипто-хакеров и мошенников выдался доходным.

Такие выводы опубликовала компания Hacken в недавнем докладе.

С июля по сентябрь произошло 117 взломов, а стоимость украденных за этот период средств превысила $720 млн. Для сравнения, в предыдущем квартале был 131 взлом, а украли всего $327 млн.

Нарушения правил доступа снова стали наиболее финансово разрушительными ошибками жертв: 8 инцидентов унесли $449 млн. Авторы отметили, что «человеческий фактор остается наиболее уязвимой частью криптоиндустрии».

Наиболее распространенным способом незаконного крипто-обогащения стало мошенничество - $49,80 млн. Чаще всего преступники собирают деньги инвесторов, после чего скрываются с этими суммами. Это одна из самых простых крипто-афер. В среднем, она приносит преступникам $638 594 за раз.

T.ly/Kt7lz
ПРЕЗИДЕНТСКИЙ ИИ-КОНТРОЛЬ
#ИИ #право

В Америке ввели стандарты безопасности искусственного интеллекта.

Указ, устанавливающий 6 основных направлений регулирования отрасли, на днях принял Президент США Джо Байден.

1. Разработчиков мощных ИИ обязали делиться с государством результатами испытаний их продукта на безопасность и иной «критической информацией».

2. Национальный институт стандартов и технологий разработает инструменты для обеспечения безопасности и надежности ИИ.

3. Введены новые правила для сокращения риска использования ИИ для создания «опасных биологических материалов».

4. Для защиты от мошенничества и дезинформации разработают правила для обнаружения сгенерированного контента и аутентификации официальных публикаций.

5. В рамках соревнования по кибербезопасности AI Cyber Challenge будут делать больший упор на ИИ в этой сфере.

6. Президент обязал внести в стратегию национальной безопасности положения, касающиеся ИИ.

T.ly/ounZe
СТЕЙБЛКОИН-ПЛАН АНГЛИИ
#криптовалюты #право

Англия уточнила планы регулирования стейблкоинов.

Документ на днях опубликовало Казначейство Его Величества. Ведомство внесет в Парламент в 2024 году специальный закон, который передаст обеспеченные стейблкоины под надзор Управления финансового надзора (FCA).

Казначейство рассматривает возможность сделать местные уполномоченными FCA компании «организаторами платежей», ответственными за обеспечение соответствия зарубежных стейблкоинов местным стандартам.

Не обеспеченные деньгами стейблкоины, включая алгоритмические, не будут допущены в регулируемые платежные цепочки. Документ не налагает на них прямого запрета, но предупреждает, что «эти операции останутся нерегулируемыми».

Эмитентов стейблкоинов обяжут держать все резервы в установленном законом доверительном фонде.

T.ly/LwdNL
ГРОК МАСКОВИЧ
#ИИ #общество

Илон Макс представил новый искусственный интеллект.


Нейросеть Грок на данный момент доступна лишь ограниченному числу премиум-пользователей соцсети X в США за 16 долларов в месяц.

По словам создателей из команды xAI, их детище остается «очень ранним бета-продуктом», который должен быстро улучшиться с каждой неделей. Главное преимущество Grok заключается в том, что он получает знания о мире в режиме реального времени через платформу X.

Основу ИИ, языковую модель Grok-1, испытали в нескольких академических тестах по математике и программированию, где он показал лучшие результаты, чем ChatGPT-3.5 во всех тестах. Однако он не превзошел самую продвинутую версию OpenAI, GPT-4, ни в одной из проверок.

T.ly/wH3DQ
МИРНЫЙ КРИПТО-ОКТЯБРЬ
#криптовалюты #общество

Этот октябрь выдался самым безопасным месяцем для крипто-пользователей.

Такие данные опубликовала компания CertiK в недавнем докладе.

Убытки от взломов, эксплойтов и мошенничества за последний месяц составили $32,2 млн. в результате 38 инцидентов. Ни один случаев не привел к убыткам более $7 млн.

За первые 9 месяцев года потери крипто-сообщества составили $1,4 млрд. Получается, октябрь унес лишь четверть текущего среднемесячного показателя. Октябрьское затишье не является следствием устойчивого снижения потерь, а скорее результат отсутствия крупных случаев.

В октябре выросли только случаи мошенничества, которые в четыре раза превысили сентябрьский минимум. Эта категория достигла годового максимума в мае, когда пользователи криптопроекта Fintoch потеряли почти $32 млн. Пик эксплойтов пришелся на сентябрь – тогда сеть Mixin Network лишилась из-за взлома $200 млн. клиентских средств.

T.ly/0hIvA
БОРЦЫ С КАРТИНКАМИ
#ИИ #общество

Государства и корпорации обязались бороться в незаконным генеративным контентом.

На днях Великобритания опубликовала заявление, которое подписали 27 стран, в том числе правительства США, Австралии, Кореи, Германии и Италии, платформы социальных сетей Snapchat, TikTok и OnlyFans, разработчики искусственного интеллекта Stability AI и Ontocord AI, а также ряд неправительственных организаций, занятых безопасностью в Интернете и правами детей.

Заявление признает, что, хотя ИИ предлагает «огромные возможности» в борьбе с Интернет-угрозами для детей, он также может быть использован для создания преступных материалов. По данным Internet Watch Foundation, в течение месяца из 11 108 изображений, созданных ИИ и размещенных в даркнете, 2 978 содержали тематику насилия над детьми.

Представители Англии отметили, что заявление представляет собой обязательство «принять меры по рискам ИИ в данном направлении».

T.ly/fdWgF
ФЬЮЧЕРСЫ COINBASE
#криптовалюты #экономика

Coinbase начал торговлю розничными фьючерсами.

Теперь клиенты компании могут торговать фьючерсными контрактами размером 1/100 от 1 биткоина и 1/10 от 1 эфира.

«Эти инструменты предлагают более низкие требования к первоначальному капиталу и могут стать доступным вариантом инвестиций для более широкого круга розничных клиентов», - пояснил Эндрю Сирс, генеральный директор CFM.

Контракт nano-Ether позволяет участникам управлять рисками, торговать на марже или спекулировать на цене Эфира. Контракт nano-Bitcoin позволяет делать ставки на будущую цену BTC.

Пользователям также предоставят доступ к библиотеке образовательного контента Coinbase Learn. Жители США с активной учетной записью Coinbase для спотовой торговли имеют право создать фьючерсный счет.

Сервисы запущены в веб-версии и в ближайшее время будут доступны на мобильных устройствах.

T.ly/hu6L
ЦИФРОВОЙ ПАСПОРТ КЕНИИ
#биометрия #общество

Кения введет систему цифровой идентификации в декабре.


Об этом на днях сообщил президент Кении Уильям Руто.

«Цифровое удостоверение личности, которое долгое время было для нас серьезной проблемой, сейчас проходит испытания. Все вовлеченные министерства заверили меня, что к декабрю мы запустим цифровые ID», - пояснил глава государства.

В стране будут введены не только цифровые удостоверения, а также система пожизненных личных Маиша-номеров, присваиваемых гражданам Кении при рождении или регистрации. Инновация поможет оцифровать госреестры и предоставит гражданам более быстрый доступ к государственным, образовательным и медицинским ресурсам, сократит мошенничество и коррупцию.

Т.ly/09xUq
ТОКЕНИЗАЦИЯ ПО-ГОНКОНГСКИ
#криптовалюты #право

Гонконг урегулировал токенизацию цифровых активов.


Два циркуляра об этом на днях приняла Комиссия по ценным бумагам и фьючерсам (SFC) региона.

Документы описывают порядок действия для компаний, занятых токенизацией ценных бумаг, и перечисляют критерии токенизации инвестиционных продуктов, разрешенных SFC.

Комиссия рассматривает токенизированные ценные бумаги (секьюрити-токены) как обычные, но с элементом токенизации. Иначе говоря, к этим инструментам применяются все нормы обычных ценных бумаг, включая положения о выпуске и деятельности эмитентов и причастных организаций.

«SFC видит потенциальные преимущества токенизации для финансовых рынков, особенно в повышении эффективности и прозрачности, сокращении времени расчетов и снижении затрат, но он также осознает риски от использования этой технологии», - сообщило ведомство.

Т.ly/lyUh3
РАВНОДУШНЫЕ ИСПАНЦЫ
#CBDC #общество

Испанцам не интересен цифровой евро.


Об этом свидетельствуют результаты исследования, опубликованного на днях Центробанком страны. Опрос проводился компанией Ipsos в двух группах общим количеством 1600 респондентов: среди широкой общественности и у представителей малого бизнеса.

Только 20% широкой общественности знают о «цифровом евро». Примерно такая же цифра среди мелких предпринимателей: 23%.

20% подтвердили, что будут использовать новый инструмент параллельно с обычными способами оплаты. 65% заявили, что не будут. Год назад эти цифры больше благоприятствовали CBDC: в 2022 году только 58% ответили «нет» на вопрос.

Возрастная группа, проявляющая наибольший энтузиазм по поводу цифрового евро, — это молодежь (18–24 года). Из них 36% заявили, что будут использовать валюту. Эта доля постепенно снижается с возрастом: 31% среди 25–34 лет, 24% среди 35–44 лет, 18% среди 55–64 лет и только 7% среди лиц старше 65 лет.

T.ly/g3bRz
ЦИФРОВОЙ ФРАНК
#CBDC #экономика

Швейцария запустила свою цифровую валюту в пилотную стадию.


Испытания оптовой CBDC под названием Helvetia Phase III проверят эффективность будущего инструмента в расчетах по операциям с цифровыми ценными бумагами.

В число участников вошли Швейцарский национальный банк (SNB), шесть коммерческих банков страны, включая Commerzbank, UBS и Zürcher Kantonalbank, и Швейцарская фондовая биржа (SDX).

Тестовые расчетные единицы будут размещены на SDX и покажут себя в инфраструктуре швейцарского межбанковского клиринга. Пилотный проект продлится с декабря 2023 по июнь 2024. В течение этого периода банки-участники «выпустят цифровые облигации в швейцарских франках, расчеты по которым будут проводиться с использованием CBDC».

T.ly/zCkdY