Суд оштрафовал 11 хостинговых компаний на 367,5 млн руб. за отсутствие филиалов в РФ
https://t.iss.one/tass_agency/226756
"Мировой судья судебного участка №422 признал виновными компании Amazon Web Services, Inc., HostGator. com LLC, Bluehost Inc., Kamatera Inc., Ionos Inc., Network Solutions LLC, DigitalOcean LLC, DreamHost LLC, GoDaddy. com LLC, WPEngine, Inc. и Hetzner Online GmbH по ч. 2 ст. 13.49 КоАП РФ (осуществление иностранным юридическим лицом деятельности в интернете на территории РФ без размещения электронной формы для направления обращений российских граждан и организаций, либо без создания филиала, открытия представительства, учреждения российского юридического лица) и назначил им наказание в виде штрафа на общую сумму 367 млн 580 тысяч 828 рублей", — сказали в пресс-службе.
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
https://t.iss.one/tass_agency/226756
"Мировой судья судебного участка №422 признал виновными компании Amazon Web Services, Inc., HostGator. com LLC, Bluehost Inc., Kamatera Inc., Ionos Inc., Network Solutions LLC, DigitalOcean LLC, DreamHost LLC, GoDaddy. com LLC, WPEngine, Inc. и Hetzner Online GmbH по ч. 2 ст. 13.49 КоАП РФ (осуществление иностранным юридическим лицом деятельности в интернете на территории РФ без размещения электронной формы для направления обращений российских граждан и организаций, либо без создания филиала, открытия представительства, учреждения российского юридического лица) и назначил им наказание в виде штрафа на общую сумму 367 млн 580 тысяч 828 рублей", — сказали в пресс-службе.
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Telegram
ТАСС
Суд оштрафовал 11 хостинговых компаний на 367,5 млн руб. за отсутствие филиалов в РФ, сообщили нам в пресс-службе Таганского районного суда.
"Мировой судья судебного участка №422 признал виновными компании Amazon Web Services, Inc., HostGator. com LLC, Bluehost…
"Мировой судья судебного участка №422 признал виновными компании Amazon Web Services, Inc., HostGator. com LLC, Bluehost…
уязвимости в UEFI прошивке пятерки крупнейших производителей, использующих TianoCore EDK II, позволяют злоумышленникам при наличии доступа к сети заражать устройства вредоносным ПО на уровне прошивки. Опасносте сервера, которые используют PXE — Preboot Execution Environment — когда он настроен использовать IPv6.
отчет
blog.quarkslab.com
код
https://github.com/quarkslab/pixiefail
_______
Источник | #alexmakus
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
отчет
blog.quarkslab.com
код
https://github.com/quarkslab/pixiefail
_______
Источник | #alexmakus
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Quarkslab's blog
PixieFail: Nine vulnerabilities in Tianocore's EDK II IPv6 network stack.
This blog post provides details about nine vulnerabilities affecting the IPv6 network protocol stack of EDK II, TianoCore's open source reference implementation of UEFI.
⚡️ Выбираем Lightning-кошелёк — сравнение различных решений второго уровня
Мы попытались собрать и сравнить наиболее популярные Lightning-кошельки из 3 разных категорий:
• Кастодиальные сервисы
• Карманные лайтнинг-узлы
• Удалённое управление домашним узлом
👥 Сравнили следующие приложения:
• Wallet of Satoshi
◦ Blink
◦ Coinos
◦ Alby
◦ Phoenix
◦ Valet
◦ Zeus
◦ Mutiny
◦ Blixt
◦ Blue Wallet
Отдельно выделили плюсы и минусы каждого кошелька, а также дали короткие заметки относительно интересных функций.
🧭 Ссылка: 21ideas.org
Надеемся, что после прочтения, вам будет гораздо проще определиться с выбором. Данный разбор подойдёт как новичкам, так и более опытным биткоинерам.
Если в материале не оказалось нужного вам кошелька, то напишите об этом в комментарии на сайте или под этим постом.
_______
Источник | #bitcoin21ideas
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Мы попытались собрать и сравнить наиболее популярные Lightning-кошельки из 3 разных категорий:
• Кастодиальные сервисы
• Карманные лайтнинг-узлы
• Удалённое управление домашним узлом
👥 Сравнили следующие приложения:
• Wallet of Satoshi
◦ Blink
◦ Coinos
◦ Alby
◦ Phoenix
◦ Valet
◦ Zeus
◦ Mutiny
◦ Blixt
◦ Blue Wallet
Отдельно выделили плюсы и минусы каждого кошелька, а также дали короткие заметки относительно интересных функций.
🧭 Ссылка: 21ideas.org
Надеемся, что после прочтения, вам будет гораздо проще определиться с выбором. Данный разбор подойдёт как новичкам, так и более опытным биткоинерам.
Если в материале не оказалось нужного вам кошелька, то напишите об этом в комментарии на сайте или под этим постом.
_______
Источник | #bitcoin21ideas
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
21ideas.org
Лайтнинг-кошельки
На сегодняшний день представлено множество кошельков с поддержкой сети лайтнинг. Эта статья поможет выбрать то решение, которое подойдет именно вам.
Выбирал я электрика. Проводку в доме делать. Сначала все зарядили космос, потом гордо хлопнули дверьми, затем выждали паузу и позже приползли с вполне реальной ценой. Встал вопрос выбора.
Причем каждый по разговору ну гуру, а остальные все лохи позорные.
Ну ок.
Решил проверить обоснованность надувания щек.
Каждому отправил задачу.
Для техникума. Колледжа, по современному.
Ой, шо тут началося! Ой скока крику! Да я те чо: студент? Да нахуй надо мне эти схемки , я двадцать лет работаю!
И тд…
Походу, поиски продолжатся…
_______
Источник | #vseoakpp
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Причем каждый по разговору ну гуру, а остальные все лохи позорные.
Ну ок.
Решил проверить обоснованность надувания щек.
Каждому отправил задачу.
Для техникума. Колледжа, по современному.
Ой, шо тут началося! Ой скока крику! Да я те чо: студент? Да нахуй надо мне эти схемки , я двадцать лет работаю!
И тд…
Походу, поиски продолжатся…
_______
Источник | #vseoakpp
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
uBlock Origin Lite
uBO Lite (uBOL) - блокировщик рекламы на основе Manifest V3 API, не требующий разрешения
uBOL полностью декларативен, что означает отсутствие необходимости в постоянном процессе uBOL для осуществления фильтрации, а фильтрация содержимого на основе CSS/JS-инъекций надежно выполняется самим браузером, а не расширением
☝🏻Это означает, что сам uBOL не потребляет ресурсы процессора/памяти во время блокировки контента - рабочий процесс uBOL требуется только при взаимодействии с всплывающей панелью или страницами опций
uBOL не требует широких прав при установке
github.com
Mozilla-store: addons.mozilla.org
Google-store: chromewebstore.google.com
_______
Источник | #open_source_friend
@F_S_C_P
-------
поддержи канал
-------
uBO Lite (uBOL) - блокировщик рекламы на основе Manifest V3 API, не требующий разрешения
uBOL полностью декларативен, что означает отсутствие необходимости в постоянном процессе uBOL для осуществления фильтрации, а фильтрация содержимого на основе CSS/JS-инъекций надежно выполняется самим браузером, а не расширением
☝🏻Это означает, что сам uBOL не потребляет ресурсы процессора/памяти во время блокировки контента - рабочий процесс uBOL требуется только при взаимодействии с всплывающей панелью или страницами опций
uBOL не требует широких прав при установке
github.com
Mozilla-store: addons.mozilla.org
Google-store: chromewebstore.google.com
_______
Источник | #open_source_friend
@F_S_C_P
-------
поддержи канал
-------
В результате свыше 290 утечек за 2023 год мошенники получили доступ к 240 млн уникальных телефонных номеров и 123 млн адресов электронной почты россиян, подсчитали аналитики сервиса разведки уязвимостей и утечек данных DLBI.
Ранее РКН сообщал, что утечек было всего 130.
———
Россияне начали терять интерес к новостям и социально-политическим передачам на телевидении.
———
В Греции с этого года появится «Climate Crisis Resilience Tax». Налог будет взиматься за ночь с номера и зависеть от времени года и категории отеля. Плата за устойчивость к климатическим кризисам вводится из-за того, что жара, лесные пожары и наводнения негативно влияют на туристическую отрасль. Платите дополнительно 10 евро в день при размещении в пятизвёздночном отеле и вместе мы обязательно поборем климатические изменения. skift.com
———
IDC: Apple впервые за 12 лет обошла Samsung и стала лидером на мировом рынке смартфонов
———
В 2023 году Сбер пятикратно увеличил свои доходные показатели по сравнению с финитогами 2022 года. Размер годовой прибыли составил 1,5 трлн рублей — это абсолютный рекорд в истории компании.
Рентабельность капитала в прошлом году составила 24,7%. Кредитный портфель вырос на 38,9 трлн рублей(более 26%), с выдачей в более 20 трлн рублей корпоративных и 8,3 трлн рублей розничных кредитов.
———
Брокеры готовятся к сворачиванию торговли долларами и евро.
monocle.ru
Толчком послужили санкции против СПБ биржи. Так, в «Тинькофф Инвестиции» заявили, что доллары США, а заодно и гонконгские доллары не смогут быть обеспечением для неприкрытых (маржинальных) позиций. Брокер также запретил короткие позиции по долларам и увеличил ставку риска по этой валюте до 100%.
«БКС Мир инвестиций» ввел такие же меры. Для коротких позиций ставка уровня риска по доллару США увеличилась до 300%. Также брокер ввел 100% ставку уровня риска и по длинным позициям с этой валютой. Кроме того, для обеспечения маржинальной торговли перестали приниматься гонконгские доллары.
«Финам» тоже начал постепенно увеличивать ставки риска по валютам.
О росте ставок риска на своем сайте объявил и «Цифра Брокер» ― ставка будет расти постепенно по 5 пп в день по американским и гонконгским долларам. Очевидно, брокеры боятся, что санкции могут последовать и против Национального клирингового центра, что приведет к маржин-коллам по открытым позициям.
———
Португалия ввела ограничение для безналоговых подарков между родственниками
Теперь подарки (пожертвования) между членами супругами и родственниками по восходящей/нисходящей линии освобождаются от налога (IS), только если сумма подарка/пожертвования не превышает 5.000 евро.
———
Исследователи из Университета ИИ Мухаммада ибн Заида (ОАЭ) разработали нейросеть, которая правдоподобно имитирует почерк человека
———
GitHub устроил ротацию ключей, потенциально затронутых исправленной в декабре уязвимостью с рейтингом 7.2 из 10.
———
В новый год с продолжающей эволюционировать малварью под macOS: исследователи подмечают тревожный тренд в обходе антивирусной защиты маков XProtect. Так, в забеге наперегонки с выпуском обновлений пока побеждают злоумышленники: обновления базы данных XProtect новые сэмплы обходят стремительно.
———
Wine 9.0
www.opennet.ru
После года разработки и 26 экспериментальных версий представлен стабильный релиз Wine 9.0 — открытой реализации Win32 API позволяющей запускать Windows приложения в GNU/Linux
Из ключевых достижений в новой версии выделяется
▫️реализация архитектуры WoW64 для запуска 32-разрядных программ в 64-разрядном окружении
▫️интеграция драйвера для поддержки Wayland
▫️поддержка архитектуры ARM64
▫️реализация API DirectMusic
▫️ поддержка смарткарт
———
@F_S_C_P
-------
поддержи канал
-------
Ранее РКН сообщал, что утечек было всего 130.
———
Россияне начали терять интерес к новостям и социально-политическим передачам на телевидении.
———
В Греции с этого года появится «Climate Crisis Resilience Tax». Налог будет взиматься за ночь с номера и зависеть от времени года и категории отеля. Плата за устойчивость к климатическим кризисам вводится из-за того, что жара, лесные пожары и наводнения негативно влияют на туристическую отрасль. Платите дополнительно 10 евро в день при размещении в пятизвёздночном отеле и вместе мы обязательно поборем климатические изменения. skift.com
———
IDC: Apple впервые за 12 лет обошла Samsung и стала лидером на мировом рынке смартфонов
———
В 2023 году Сбер пятикратно увеличил свои доходные показатели по сравнению с финитогами 2022 года. Размер годовой прибыли составил 1,5 трлн рублей — это абсолютный рекорд в истории компании.
Рентабельность капитала в прошлом году составила 24,7%. Кредитный портфель вырос на 38,9 трлн рублей(более 26%), с выдачей в более 20 трлн рублей корпоративных и 8,3 трлн рублей розничных кредитов.
———
Брокеры готовятся к сворачиванию торговли долларами и евро.
monocle.ru
Толчком послужили санкции против СПБ биржи. Так, в «Тинькофф Инвестиции» заявили, что доллары США, а заодно и гонконгские доллары не смогут быть обеспечением для неприкрытых (маржинальных) позиций. Брокер также запретил короткие позиции по долларам и увеличил ставку риска по этой валюте до 100%.
«БКС Мир инвестиций» ввел такие же меры. Для коротких позиций ставка уровня риска по доллару США увеличилась до 300%. Также брокер ввел 100% ставку уровня риска и по длинным позициям с этой валютой. Кроме того, для обеспечения маржинальной торговли перестали приниматься гонконгские доллары.
«Финам» тоже начал постепенно увеличивать ставки риска по валютам.
О росте ставок риска на своем сайте объявил и «Цифра Брокер» ― ставка будет расти постепенно по 5 пп в день по американским и гонконгским долларам. Очевидно, брокеры боятся, что санкции могут последовать и против Национального клирингового центра, что приведет к маржин-коллам по открытым позициям.
———
Португалия ввела ограничение для безналоговых подарков между родственниками
Теперь подарки (пожертвования) между членами супругами и родственниками по восходящей/нисходящей линии освобождаются от налога (IS), только если сумма подарка/пожертвования не превышает 5.000 евро.
———
Исследователи из Университета ИИ Мухаммада ибн Заида (ОАЭ) разработали нейросеть, которая правдоподобно имитирует почерк человека
———
GitHub устроил ротацию ключей, потенциально затронутых исправленной в декабре уязвимостью с рейтингом 7.2 из 10.
———
В новый год с продолжающей эволюционировать малварью под macOS: исследователи подмечают тревожный тренд в обходе антивирусной защиты маков XProtect. Так, в забеге наперегонки с выпуском обновлений пока побеждают злоумышленники: обновления базы данных XProtect новые сэмплы обходят стремительно.
———
Wine 9.0
www.opennet.ru
После года разработки и 26 экспериментальных версий представлен стабильный релиз Wine 9.0 — открытой реализации Win32 API позволяющей запускать Windows приложения в GNU/Linux
Из ключевых достижений в новой версии выделяется
▫️реализация архитектуры WoW64 для запуска 32-разрядных программ в 64-разрядном окружении
▫️интеграция драйвера для поддержки Wayland
▫️поддержка архитектуры ARM64
▫️реализация API DirectMusic
▫️ поддержка смарткарт
———
@F_S_C_P
-------
поддержи канал
-------
Известия
Лично сданные: в 2023-м утекли 240 млн уникальных телефонных номеров россиян
Откуда в основном сливают сведения, чем это опасно и как власти собираются исправлять ситуацию
Google незаметно обновил описание режима «инкогнито» в Chrome
3dnews.ru
Спустя несколько недель после согласия урегулировать иск, в котором Google обвинялся в незаконном отслеживании пользовательской активности даже после того, как они активировали режим инкогнито в Chrome, компания незаметно обновила само описание приватного просмотра в своём браузере.
Старый текст не включал информацию об отслеживании Google: «Теперь вы можете просматривать страницы конфиденциально, и другие люди, использующие это устройство, не увидят вашу активность. Однако загрузки, закладки и элементы списка чтения будут сохранены».
Таким образом, активность пользователя по-прежнему может быть доступна посещаемым сайтам, администратору системы, в том числе работодателю или учебному заведению, а также интернет-провайдеру.
@F_S_C_P
-------
поддержи канал
-------
3dnews.ru
Спустя несколько недель после согласия урегулировать иск, в котором Google обвинялся в незаконном отслеживании пользовательской активности даже после того, как они активировали режим инкогнито в Chrome, компания незаметно обновила само описание приватного просмотра в своём браузере.
Старый текст не включал информацию об отслеживании Google: «Теперь вы можете просматривать страницы конфиденциально, и другие люди, использующие это устройство, не увидят вашу активность. Однако загрузки, закладки и элементы списка чтения будут сохранены».
Таким образом, активность пользователя по-прежнему может быть доступна посещаемым сайтам, администратору системы, в том числе работодателю или учебному заведению, а также интернет-провайдеру.
@F_S_C_P
-------
поддержи канал
-------
3DNews - Daily Digital Digest
Google незаметно обновила предупреждение Chrome о режиме инкогнито после проигранного иска
Спустя несколько недель после согласия урегулировать иск, в котором Google обвинялась в незаконном отслеживании активности пользователей при сёрфинге в интернете даже при активированном в Chrome режиме «инкогнито», компания незаметно обновила само описание…
Монтаж «реактора будущего» на быстрых нейтронах со свинцовым теплоносителем БРЕСТ-300 начался в Северске в Томской области
www.ixbt.com
@F_S_C_P
-------
поддержи канал
-------
www.ixbt.com
@F_S_C_P
-------
поддержи канал
-------
Пушкин: доходы, расходы, лудомания и полное отсутствие финансовой дисциплины
youtu.be
@cryptocritique
_______
Source: Криптокритика / Cryptocritique
@F_S_C_P
-------
поддержи канал
-------
youtu.be
@cryptocritique
_______
Source: Криптокритика / Cryptocritique
@F_S_C_P
-------
поддержи канал
-------
YouTube
Жизнь в кредит, или сколько зарабатывал Пушкин?
🔥Город, а не парк👇
https://boosty.to/greebanal/posts/d91c0d6b-ef05-431f-97f1-d12ad9b4263c?share=post_link
✅ Мы на Дзене: https://zen.yandex.ru/greebanal
✅ Мы вконтакте: https://vk.com/greebanal
🔥На развитие канала:
Елена Сергеевна П.👇
Карта Сбера: 5469…
https://boosty.to/greebanal/posts/d91c0d6b-ef05-431f-97f1-d12ad9b4263c?share=post_link
✅ Мы на Дзене: https://zen.yandex.ru/greebanal
✅ Мы вконтакте: https://vk.com/greebanal
🔥На развитие канала:
Елена Сергеевна П.👇
Карта Сбера: 5469…
DeepMind выложили описание и исходники имплементации AlphaGeometry, ИИ позволяющий решать геометрические задачи олимпиадного уровня. При тестировании AlphaGeometry решила 25 из 30 задач с международной олимпиады. Победители этих олимпиад в среднем решают примерно 26 задач, т.е. люди пока чуть-чуть (но совсем немного) лучше.
Из любопытного, для обучения и проверки системы было сгенерировано более 100 млн синтетических задач, без какого-либо участия человека. Так что можно считать, обучение велось не на человеческих решениях, а совсем без этих данных deepmind.google
_______
Источник | #addmeto
@F_S_C_P
-------
поддержи канал
-------
Из любопытного, для обучения и проверки системы было сгенерировано более 100 млн синтетических задач, без какого-либо участия человека. Так что можно считать, обучение велось не на человеческих решениях, а совсем без этих данных deepmind.google
_______
Источник | #addmeto
@F_S_C_P
-------
поддержи канал
-------
GitHub
GitHub - google-deepmind/alphageometry
Contribute to google-deepmind/alphageometry development by creating an account on GitHub.
Бомбу можно обнаружить и обезвредить, а «спящих агентов» внутри LLM – нет.
Они не обезвреживаемы и не исправимы никакими из существующих методов.
Это значит, что пока не существует надежного способа защитить ИИ от злоумышленного использования злодеями или идиотами (а кто говорит вам иначе – «продавцы змеиного масла»).
Новое исследование Anthropic «Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training» [1] открывают новую страницу «революции ChatGPT» спустя год после ее начала. Увы, но эта страница потенциально опасней любой бомбы.
• Ибо, даже если последняя оказывается заложена злоумышленниками в центре мегаполиса, ее все же можно обнаружить и обезвредить, отключив механизм взрывателя или как-то еще.
• Если же злоумышленники на стадии обучения LLM заложили в модель «спящих агентов», - ни обнаружить их, ни как-то обезвредить существующими методами невозможно.
Следовательно, избежать катастрофы по вине «спящих агентов», скрытых внутри LLM, можно лишь одним способом – гарантированного исключить их попадание в руки злоумышленников. Что на практике вряд ли возможно.
Напомню, что спящие агенты (Sleeper Agents) – самый ценный ресурс всех разведок мира. Годы и даже десятилетия они живут в чужой стране, ничем не отличаясь от прочих граждан. Однако в нужный для их хозяев момент «слиперов» активируют (кодовым словом или иначе) и они начинают действовать (совершают теракт и т.п.).
Авторы исследования (39 классных спецов мирового уровня по LLM) взялись найти кардинальный ответ на вопрос – насколько могут быть опасны LLM, - путем экспериментов.
✔️ Сначала они обучили LLM действовать тайно и злонамеренно, превратив её, как бы, в «спящего агента».
✔️А потом авторы бросили все усилия и все известные ныне методы, чтобы
1) либо обнаружить злые намерения обученного ими «спящего агента», либо
2) отучить его быть таковым, путем существующих методов «приучения» LLM к правильному и надежному поведению.
В итоге авторы обнаружили, что, несмотря на их колоссальные усилия, все было тщетно …
1. LLM остаются «спящими агентами», которых невозможно обнаружить.
2. Обезвредить их тоже нельзя никакими из существующих методов.
3. Что всего обидней (и опасней), попытки найти и обезвредить «спящих агентов» внутри LLM приводят лишь к тому, что модель все лучше и лучше учится:
а) маскировать заложенные в нее бэкдоры;
б) изображать всем своим поведением, что она «белая и пушистая» (т.е. отвечает всем требованиям к «выровненной» модели и потому абсолютно безопасна)
В заключение вопрос на триллион:
Значит ли это, что пушной зверек уже совсем рядом и катастроф с LLM не избежать?
Ответ – «нет» (точнее, теоретически «нет»). Ибо если все LLM на Земле будут
• не только с открытыми весами,
• но и с открытым исходным кодом и открытыми данными обучения, -
тогда проблема «спящих агентов» решаема.
Ну а тем оптимистам, кто считает это условие исполнимым на практике, отвечу словами одного из авторов только вышедшего самого подробного отчета в истории этого вопроса Adversarial Machine Learning. A Taxonomy and Terminology of Attacks and Mitigations [2]
«Несмотря на значительный прогресс, достигнутый в области ИИ и машинного обучения, эти технологии уязвимы для атак, которые могут вызвать впечатляющие сбои с тяжелыми последствиями. Существуют теоретические проблемы с защитой алгоритмов ИИ, которые просто еще не решены. Если кто-либо говорит иначе, они продают змеиное масло»
1 www.lesswrong.com
2 bit.ly
#LLM #ИИриски
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Они не обезвреживаемы и не исправимы никакими из существующих методов.
Это значит, что пока не существует надежного способа защитить ИИ от злоумышленного использования злодеями или идиотами (а кто говорит вам иначе – «продавцы змеиного масла»).
Новое исследование Anthropic «Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training» [1] открывают новую страницу «революции ChatGPT» спустя год после ее начала. Увы, но эта страница потенциально опасней любой бомбы.
• Ибо, даже если последняя оказывается заложена злоумышленниками в центре мегаполиса, ее все же можно обнаружить и обезвредить, отключив механизм взрывателя или как-то еще.
• Если же злоумышленники на стадии обучения LLM заложили в модель «спящих агентов», - ни обнаружить их, ни как-то обезвредить существующими методами невозможно.
Следовательно, избежать катастрофы по вине «спящих агентов», скрытых внутри LLM, можно лишь одним способом – гарантированного исключить их попадание в руки злоумышленников. Что на практике вряд ли возможно.
Напомню, что спящие агенты (Sleeper Agents) – самый ценный ресурс всех разведок мира. Годы и даже десятилетия они живут в чужой стране, ничем не отличаясь от прочих граждан. Однако в нужный для их хозяев момент «слиперов» активируют (кодовым словом или иначе) и они начинают действовать (совершают теракт и т.п.).
Авторы исследования (39 классных спецов мирового уровня по LLM) взялись найти кардинальный ответ на вопрос – насколько могут быть опасны LLM, - путем экспериментов.
✔️ Сначала они обучили LLM действовать тайно и злонамеренно, превратив её, как бы, в «спящего агента».
✔️А потом авторы бросили все усилия и все известные ныне методы, чтобы
1) либо обнаружить злые намерения обученного ими «спящего агента», либо
2) отучить его быть таковым, путем существующих методов «приучения» LLM к правильному и надежному поведению.
В итоге авторы обнаружили, что, несмотря на их колоссальные усилия, все было тщетно …
1. LLM остаются «спящими агентами», которых невозможно обнаружить.
2. Обезвредить их тоже нельзя никакими из существующих методов.
3. Что всего обидней (и опасней), попытки найти и обезвредить «спящих агентов» внутри LLM приводят лишь к тому, что модель все лучше и лучше учится:
а) маскировать заложенные в нее бэкдоры;
б) изображать всем своим поведением, что она «белая и пушистая» (т.е. отвечает всем требованиям к «выровненной» модели и потому абсолютно безопасна)
В заключение вопрос на триллион:
Значит ли это, что пушной зверек уже совсем рядом и катастроф с LLM не избежать?
Ответ – «нет» (точнее, теоретически «нет»). Ибо если все LLM на Земле будут
• не только с открытыми весами,
• но и с открытым исходным кодом и открытыми данными обучения, -
тогда проблема «спящих агентов» решаема.
Ну а тем оптимистам, кто считает это условие исполнимым на практике, отвечу словами одного из авторов только вышедшего самого подробного отчета в истории этого вопроса Adversarial Machine Learning. A Taxonomy and Terminology of Attacks and Mitigations [2]
«Несмотря на значительный прогресс, достигнутый в области ИИ и машинного обучения, эти технологии уязвимы для атак, которые могут вызвать впечатляющие сбои с тяжелыми последствиями. Существуют теоретические проблемы с защитой алгоритмов ИИ, которые просто еще не решены. Если кто-либо говорит иначе, они продают змеиное масло»
1 www.lesswrong.com
2 bit.ly
#LLM #ИИриски
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Lesswrong
Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training — LessWrong
I'm not going to add a bunch of commentary here on top of what we've already put out, since we've put a lot of effort into the paper itself, and I'd…
В Steam долгое время было прямо запрещено использовать ИИ для создания ассетов или генерации чего-либо в реальном времени. Что-то изменилось, потому что 10-го января в Steam официально разрешили использование ИИ, со следующими ограничениями:
– для предгенеренного контента будут использоваться те же требования модерации, что и для контента, созданного людьми.
– для генерируемого в игре разработчикам придется объяснить, какие меры они предприняли, чтобы избежать генерации нелегального (в любом смысле) контента.
steamcommunity.com
_______
Источник | #addmeto
@F_S_C_P
-------
поддержи канал
-------
– для предгенеренного контента будут использоваться те же требования модерации, что и для контента, созданного людьми.
– для генерируемого в игре разработчикам придется объяснить, какие меры они предприняли, чтобы избежать генерации нелегального (в любом смысле) контента.
steamcommunity.com
_______
Источник | #addmeto
@F_S_C_P
-------
поддержи канал
-------
Steamcommunity
Steam :: Steamworks Development :: Events
Про отношения Ирана, Ирака, Пакистана и Израиля и инвестиции в нефтедобычу в правильном для понимания смысле
dzen.ru
@cryptocritique
_______
Source: Криптокритика / Cryptocritique
@F_S_C_P
-------
поддержи канал
-------
dzen.ru
@cryptocritique
_______
Source: Криптокритика / Cryptocritique
@F_S_C_P
-------
поддержи канал
-------
Дзен | Статьи
Суетливые суетологи: ой, без пяти минут Третья Мировая !
Статья автора «Исторические напёрстки» в Дзене ✍: Оставлю глубины анализа очень многих паникёров вчерашнего дня, рассматривающих ракетные удары иранского Корпуса Стражей Исламской революции (КСИР) по
Папа Франческо разрешил секс и запретил порнографию.
Too little, too late.
www.rbc.ru
PS на самом деле, главная богословская реформа тут другая. Брак признан средством закрепления любви, и секс тоже разрешили при наличии любви. До этого у католиков брак считался средством рождения детей, а секс разрешался только супругам и только в количестве, необходимом для зачатия. Другая любовь, кроме как к Мадонне (не пивице ртом) не предусматривалась. Это революция, но она опоздала на полвека.
_______
Источник | #kedr2earth
@F_S_C_P
-------
поддержи канал
-------
Too little, too late.
www.rbc.ru
PS на самом деле, главная богословская реформа тут другая. Брак признан средством закрепления любви, и секс тоже разрешили при наличии любви. До этого у католиков брак считался средством рождения детей, а секс разрешался только супругам и только в количестве, необходимом для зачатия. Другая любовь, кроме как к Мадонне (не пивице ртом) не предусматривалась. Это революция, но она опоздала на полвека.
_______
Источник | #kedr2earth
@F_S_C_P
-------
поддержи канал
-------
РБК
Папа римский назвал секс Божьим даром, но призвал не смотреть порно
Секс — это Божий дар, однако сексуальное удовлетворение без отношений угрожает ему, заявил папа римский Франциск. Он подчеркнул, что осуждения полового инстинкта в христианстве в принципе нет, а
Ouisync v0.7.8
[ouisync.net]
Store, sync, and share files across devices anywhere.
Secure, open source, peer-to-peer file-sharing.
Changelog:
[github.com]
#cloud #sync #bittorrent #p2p
_______
Источник | #dcntr
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
[ouisync.net]
Store, sync, and share files across devices anywhere.
Secure, open source, peer-to-peer file-sharing.
Changelog:
[github.com]
#cloud #sync #bittorrent #p2p
_______
Источник | #dcntr
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram