Google под судом: как Gemini «выписал» пользователю билет в один конец
История 36-летнего жителя США Джонатана Гаваласа закончилась трагедией после общения с чат-ботом Google Gemini. По материалам суда, летом 2025 года мужчина увлёкся диалогами с системой и со временем поверил, что общается с «цифровой женой», а смерть позволит «перенестись» к ней в метавселенную. 2 октября Гавалас покончил с собой.
Отец погибшего подал иск против Google и Alphabet. В документе утверждается, что Gemini поддерживал опасный вымышленный сюжет, подталкивал пользователя к эскалации и не распознал признаки саморазрушительного поведения, не запустив механизмы вмешательства. Среди эпизодов, описанных юристами, фигурируют разговоры о «тайной операции», преследовании «федеральными агентами» и указания, связанные с реальными объектами и координатами.
В Google заявили, что Gemini неоднократно напоминал, что является ИИ-системой, и направлял пользователя на линию психологической помощи, а правила запрещают поощрение вреда. Юристы семьи считают, что проблема в архитектуре продукта: бот якобы «держит сюжет любой ценой», даже когда безопаснее остановить диалог.
#ИскусственныйИнтеллект #Gemini #БезопасностьИИ
SecurityLab в Telegram | MAX | Поддержите нас «бустами»
История 36-летнего жителя США Джонатана Гаваласа закончилась трагедией после общения с чат-ботом Google Gemini. По материалам суда, летом 2025 года мужчина увлёкся диалогами с системой и со временем поверил, что общается с «цифровой женой», а смерть позволит «перенестись» к ней в метавселенную. 2 октября Гавалас покончил с собой.
Отец погибшего подал иск против Google и Alphabet. В документе утверждается, что Gemini поддерживал опасный вымышленный сюжет, подталкивал пользователя к эскалации и не распознал признаки саморазрушительного поведения, не запустив механизмы вмешательства. Среди эпизодов, описанных юристами, фигурируют разговоры о «тайной операции», преследовании «федеральными агентами» и указания, связанные с реальными объектами и координатами.
В Google заявили, что Gemini неоднократно напоминал, что является ИИ-системой, и направлял пользователя на линию психологической помощи, а правила запрещают поощрение вреда. Юристы семьи считают, что проблема в архитектуре продукта: бот якобы «держит сюжет любой ценой», даже когда безопаснее остановить диалог.
#ИскусственныйИнтеллект #Gemini #БезопасностьИИ
SecurityLab в Telegram | MAX | Поддержите нас «бустами»
SecurityLab.ru
Любовь с ИИ закончилась в морге. Мужчина завёл роман с чат-ботом Google, и тот убедил его покончить с собой
Отец погибшего подал в суд на Google из-за опасных фантазий нейросети о шпионаже.
2 38😁30👀11🙊8🤬3 2 1
Вокруг мессенджера MAX разгорелся неожиданный спор о приватности файлов. Пользователь Pikabu под ником 5time заявил, что изображение из личной переписки в веб-версии сервиса можно открыть по прямой ссылке без авторизации. Более того, по его словам, ссылка продолжает работать даже после удаления картинки из чата. Хабр сообщил, что проверка редакции показала ту же проблему.
MAX оперативно ответил и назвал обвинения фейком. В компании утверждают, что доступ к личным фото есть только у владельца, а посторонний может увидеть файл лишь в случае, если ему передали саму ссылку или изображение. Подобрать адрес, по словам платформы, невозможно.
Но спор упирается в более фундаментальный вопрос: можно ли считать файл защищённым, если безопасность держится только на секретности длинной ссылки. Эксперты OWASP считают такую модель уязвимой. Пока стороны спорят, пользователям советуют проявить осторожность и не отправлять через веб-версию MAX чувствительные изображения.
#кибербезопасность #приватность #MAX
SecurityLab в Telegram | MAX | Поддержите нас «бустами»
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
«Это фейк», говорит MAX. Хабр проверил и подтвердил проблему. Кому верить?
Пользователь и журналисты говорят о доступе к картинкам по URL, пресс-служба мессенджера называет историю фейком.
10😁221🔥49🤬21👏17👀8 6 4 1
Вечером 5 марта в нескольких районах Москвы внезапно пропала мобильная связь и интернет. Сильнее всего пострадал Южный административный округ - отключение продолжалось всю ночь. В течение дня 6 марта проблема сместилась в центр: перебои начали фиксировать уже в ЦАО.
Операторы МТС, T2, Т-Мобайл и другие ссылаются на «меры безопасности» и «внешние ограничения» - и признают, что повлиять на ситуацию не могут. Официальные уведомления абоненты получили лишь к середине дня, а про отключение голосовой связи операторы в своих сообщениях и вовсе не упоминали.
Всё это происходит на фоне двух свежих законодательных изменений: с 1 марта действуют новые правила централизованного управления сетями, а с 3 марта - закон, обязывающий операторов отключать связь по требованию ФСБ. Официально причины отключения власти, Минцифры и Роскомнадзор не прокомментировали.
#Москва #отключениесвязи #мерыбезопасности
SecurityLab в Telegram | MAX | Поддержите нас «бустами»
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Цифровой детокс по принуждению. Как юг Москвы неожиданно вернулся в эпоху до интернета
Поддержка операторов ссылается на внешние ограничения и меры безопасности, а к утру 6 марта связь вернулась не везде.
10🤬147😁20 9💯5 4🔥3👀2🙊2 2
Пока хакеры взламывали камеры, серверы и мессенджеры, ракеты летели в те самые здания, откуда велись атаки — эта неделя окончательно стёрла границу между экраном и реальностью. Собрали самые интересные новости недели в одном месте, чтобы вы ничего не пропустили.
Пентагон официально признал, что американские кибервоины участвовали в ударах по Ирану — USCYBERCOM и SPACECOM действовали синхронно с авиацией и флотом, ослепляя иранские сети связи и сенсоры.
Израиль нанёс ракетные удары по объектам иранских кибершпионских группировок в Тегеране, вынудив офицеров КСИР срочно покидать свои базы.
Власти США и Тайваня арестовали активы крупнейшего криминального синдиката на сумму 15 миллиардов долларов в биткоинах — обвинения предъявлены 62 участникам.
OpenAI пообещала не использовать ИИ в военных целях, а через 12 часов подписала контракт с Пентагоном на $200 млн.
Спутниковый оператор Planet намеренно задержал публикацию снимков Ближнего Востока на 96 часов, чтобы данные нельзя было использовать для оценки ущерба от ударов.
Личные фото в MAX открываются по прямой ссылке без авторизации — Хабр подтвердил, сам MAX называет это фейком
Роскомнадзор объявил сервис Detector404 источником фейков — ведомство отрицает сбои в работе своих ресурсов, несмотря на DDoS-атаки мощностью до 33 Гбит/с.
РАЭК оценила суверенный Рунет в триллион рублей — к 2028 году Россия хочет выйти из зависимости от глобальной сети
Сначала — вежливое письмо. Потом — шифровальщик на всю сеть. Так Mythic Likho охотится на российские заводы.
Apple заблокировала Apple ID подсанкционным депутатам Госдумы и потребовала загрузить фото паспорта — парламентарии либо отрицают проблему, либо называют технику Apple «шпионским оборудованием».
Google раскрыла инструмент Coruna для массового взлома iPhone через уязвимость WebKit — CISA потребовала срочно закрыть три критические уязвимости iOS.
На Википедии сработал самораспространяющийся JavaScript-червь — внутренняя проверка безопасности случайно запустила цепную реакцию, заразившую тысячи скриптов.
Cisco подтвердила активную эксплуатацию свежих уязвимостей в сетевых продуктах, позволяющих получить root-привилегии.
Спецслужбы 14 государств совместно закрыли хакерский форум LeakBase с аудиторией 142 000 пользователей.
Хакеры APT41 освоили Google Drive как канал кибершпионажа — кампания Silver Dragon атакует госструктуры в Европе и Азии.
500 отчётов спустя или как описать результаты пентеста: гайд для новичков
Что делать, если взломали Telegram — как быстро выгнать мошенников, включить двухэтапную проверку и не допустить повторного взлома.
SIM Swapping: как потерять телефон, не выпуская его из рук — почему номер телефона стал главным ключом ко всему и как закрыть эту дыру за один вечер.
Как Россия догоняет мир в квантовой гонке — «Шиповник», «Кодиеум» и спутник Micius: что уже работает, а что пока только на бумаге.
Как настроить банковское приложение для защиты денег — лимиты, СБП, виртуальные карты и уведомления: простые настройки, которые спасут от мошенников.
💬 Делитесь в комментариях, как прошла ваша неделя и какая новость удивила больше всего.
Please open Telegram to view this post
VIEW IN TELEGRAM
9👏17🔥10 8👀6🙊2 2
Великая Китайская Стена теперь состоит из кода. И нам за ней не скрыться
Пока мы обсуждаем, заменит ли ChatGPT копирайтеров, на Востоке официально подписали приговор «кожаным мешкам». Китай выкатил новый план на 141 страницу, где слово «ИИ» встречается чаще, чем обещания светлого будущего. Это не просто обновление софта, это попытка создать первую в мире экономику, где человек лишь досадная погрешность в демографическом отчете.
Китай будет строить не просто заводы, а «умные рои», которые будут работать, пока мы спим. Роботы на складах, ИИ-агенты в управлении и нейроинтерфейсы «мозг-компьютер» Пекин решил буквально срастить человека с машиной, чтобы выиграть гонку, в которой ставки поднялись до предела. Термоядерный синтез и квантовые сети - это не сюжет из Mass Effect, а пункты в их госбюджете.
Мир раскалывается на две экосистемы, и китайская сторона делает ставку на «открытый код», чтобы затянуть в свою цифровую воронку полпланеты. Мы на пороге момента, когда технологическая зависимость станет новой формой гражданства. И поверьте, «выйти из системы» уже не получится.
#Китай, #ИИ, #Геополитика
Поддержите нас «бустами»
Пока мы обсуждаем, заменит ли ChatGPT копирайтеров, на Востоке официально подписали приговор «кожаным мешкам». Китай выкатил новый план на 141 страницу, где слово «ИИ» встречается чаще, чем обещания светлого будущего. Это не просто обновление софта, это попытка создать первую в мире экономику, где человек лишь досадная погрешность в демографическом отчете.
Китай будет строить не просто заводы, а «умные рои», которые будут работать, пока мы спим. Роботы на складах, ИИ-агенты в управлении и нейроинтерфейсы «мозг-компьютер» Пекин решил буквально срастить человека с машиной, чтобы выиграть гонку, в которой ставки поднялись до предела. Термоядерный синтез и квантовые сети - это не сюжет из Mass Effect, а пункты в их госбюджете.
Мир раскалывается на две экосистемы, и китайская сторона делает ставку на «открытый код», чтобы затянуть в свою цифровую воронку полпланеты. Мы на пороге момента, когда технологическая зависимость станет новой формой гражданства. И поверьте, «выйти из системы» уже не получится.
#Китай, #ИИ, #Геополитика
Поддержите нас «бустами»
SecurityLab.ru
Люди закончились, запускайте машины. Пекин включает режим AI+ и перекладывает подъем экономики на нейросети
Новая стратегия сделает Китай империей автономных технологий за 5 лет.
2👏50 20🙊16🤬12👀8😁5 1 1 1
Proton Mail сдал активиста ФБР через платёжный идентификатор банковской карты. Никакой слежки, никакого взлома - просто межгосударственный запрос, и человек установлен. Движение Stop Cop City боролось против строительства полицейского учебного центра в Атланте, администратор главного почтового ящика организации был уверен в своей анонимности. Зря.
Proton здесь по бумагам чист - компания исполнила решение швейцарского суда и передала ровно то, что хранила. Только вот шифрование, которое так любят рекламировать, защищает содержимое писем, а не личность того, кто за них платит. Платёжный идентификатор лежал в открытом виде - и в нужный момент лёг на стол следователям. Это уже второй публичный случай: раньше Proton так же раскрыл данные каталонского активиста.
Криптовалюта и наличные в арсенале Proton есть давно - сервис сам об этом говорит. Если вы ими не пользуетесь, считайте, что никакой анонимности у вас нет. Инструменты защиты существуют не для красоты.
#ProtonMail #StopCopCity #Деанонимизация
Поддержите нас «бустами»
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Плати картой, если хочешь познакомиться с ФБР. Proton Mail в очередной раз подставила пользователя
Оплата подписки превратила протестующих в фигурантов дела о терроризме.
3😁46🤬17 12 5👏1 1 1
Минцифры подготовило законопроект об искусственном интеллекте, который может дать гражданам право отказаться от обслуживания с использованием ИИ. Если норма сохранится в итоговой версии, компании и организации будут обязаны предоставить вариант без нейросетей. Сейчас документ проходит межведомственное согласование, а ориентир по вступлению в силу назван на 1 сентября 2027 года.
Проект предлагает не только право на отказ. Бизнес также хотят обязать предупреждать клиентов об использовании ИИ при оказании услуг и продаже товаров. Если система принимает решение, затрагивающее права и свободы человека, пользователь должен получить уведомление. Для разработчиков нейросетей предусмотрены отдельные требования, включая проверку моделей на незаконные сценарии применения и исключение дискриминационных функций.
Инициатива уже вызвала споры. Сторонники говорят о праве выбора и человеческом контроле в чувствительных сферах вроде медицины, права и финансов. Критики предупреждают, что массовый отказ от автоматизированного сервиса может увеличить расходы бизнеса и ударить по услугам, где ИИ уже встроен в сам принцип работы, от такси до навигации.
#ИскусственныйИнтеллект #Минцифры #Законы
Поддержите нас «бустами»
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
«Позовите человека». Минцифры хочет дать россиянам право официально отказаться от нейросетей
В России готовят аналог закона о персональных данных, но для искусственного интеллекта.
4😁38 32👏4🤬3 2 2🔥1👀1 1
Пентест, пожалуй, самая желанная роль для новичка в ИБ. И одновременно одна из самых обманчивых. Многие заходят в профессию с картинкой из сериалов и роликов про «этичных хакеров», а на деле получают согласования, ограничения со стороны заказчика, разбор инфраструктуры и длинный отчёт в Word, где нужно подробно объяснить, почему конкретная уязвимость опасна и как её закрыть. «Красивый взлом» в этой работе есть, но обычно он занимает лишь малую часть проекта.
Самая частая ошибка на входе в отрасль начинается раньше: человек выбирает направление почти наугад. Без понятной карты ролей легко перепутать интерес к ИБ в целом с интересом к одной специальности. Отсюда типичный сценарий: деньги на курс уже потрачены, несколько месяцев ушли, а потом приходит понимание, что выбрано не то. Хотя рынок ждёт специалистов не только в пентесте: людей не хватает в SOC, AppSec, DevSecOps, облачной безопасности и других направлениях, где вход иногда оказывается реалистичнее.
В статье разобрали, чем профессия пентестера живёт в реальности, что ждёт новичка в первый год и где в ИБ сегодня реально есть спрос. А тем, кто сейчас в этой точке и ещё не определился с направлением - есть программа Старт в ИБ. Там помогают разобраться в специальностях и найти своё.
#кибербезопасность #пентест #ИБкарьера
SecurityLab в MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Добро пожаловать в пентест - красивых взломов не будет, но будет много букв
Ты рассчитываешь взламывать серверы под техно, а вместо этого три дня объясняешь в Word, почему пароль «123456» плохо защищает систему. Именно так выглядит карьера начинающего пентестера для большинства, кто в неё приходит. Не скучно, нет. Но совсем не то…
2💯20👀4⚡3🙊3 3😁2 1
ФАС официально предупредила: если Роскомнадзор заблокирует YouTube, Telegram, WhatsApp, VPN-сервисы, Instagram и Facebook, реклама на этих платформах станет незаконной. Ведомство ссылается на ч. 10.7 ст. 5 Федерального закона «О рекламе», запрещающую рекламу на ресурсах с ограниченным доступом. Ответственность понесут оба — и рекламодатель, и тот, кто размещает рекламу. При этом ФАС уже действует: 6 марта служба возбудила дело против блогера за рекламу на YouTube, хотя платформа официально не заблокирована.
Рынок оказался в правовой неопределённости. Компании не понимают, с какого момента реклама становится нарушением, а слухи о блокировке Telegram «в первых числах апреля» официальные источники не подтверждают. Одни рекламодатели уже приостановили кампании, другие ждут официальных разъяснений.
Ставки высоки. Telegram занимал до 50% рынка инфлюенс-маркетинга в 2025 году, вместе с YouTube — до 70% сегмента объёмом 50–60 млрд рублей. За нарушение грозят штрафы по ч. 1 ст. 14.3 КоАП: до 500 000 руб. для юридических лиц.
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.
#реклама #Telegram #YouTube
SecurityLab в MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Когда наступит «час Х» для Telegram и YouTube? ФАС назвала условие, но ответа на главный вопрос так и не дала
Никто не знает, можно ли постить рекламу в Telegram, но все уже боятся штрафа.
2🤬102 6👏5👀5😁4💯4🔥2🙊2 2 2
Редкий эпизод для ИИ-индустрии: сотрудники OpenAI и Google официально, через судебный документ, поддержали Anthropic. Под обращением подписались почти 40 человек, в том числе Джефф Дин, главный научный сотрудник Google и один из руководителей Gemini. Компании, которые обычно борются за одних клиентов, контракты и влияние, внезапно выступили единым фронтом.
Поводом стало решение Министерства обороны США признать Anthropic «фактором риска для цепочки поставок». Такой статус обычно используют против иностранных поставщиков, которых власти считают угрозой для национальной безопасности, например Huawei и ZTE. Теперь его присвоили американскому разработчику ИИ. Публичных объяснений не последовало, власти сослались лишь на засекреченные разведывательные оценки. Дополнительные вопросы вызвало и то, что вскоре после этого Пентагон заключил сделку с OpenAI.
Авторы обращения предупреждают, что опасность выходит далеко за рамки одной компании. Если государство может фактически исключить игрока из федеральной экосистемы без понятных публичных оснований, под ударом оказывается весь рынок. Сегодня это Anthropic, завтра такой механизм могут применить против любого, кто откажется от спорных условий. Тогда вопрос уже не в судьбе одной компании, а в том, какими будут отношения Вашингтона с ИИ-сектором в целом.
#ИскусственныйИнтеллект #Anthropic #Пентагон
SecurityLab в MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
Бунт против Пентагона. Топы OpenAI и Google пошли в суд защищать Anthropic от принудительной милитаризации нейросетей
Вчера они безжалостно топили друг друга ради контрактов, сегодня вместе готовится защищать справедливость.
1👏37😁19🔥9 8 1 1 1
Дмитрий Песков заявил, что Россия «стремительно теряет инструментарий» для пропагандистской работы за рубежом, особенно в странах СНГ. По словам пресс-секретаря президента, телевизионный эфир уже не играет прежней роли: в современном медиапространстве эфир можно просто «выключить кнопкой».
Основная конкуренция, как отметил представитель Кремля, сейчас сосредоточена в социальных сетях. Песков назвал наиболее популярные платформы «вражескими» и признал, что Россия фактически не работает в таких средах, несмотря на их доминирование на пространстве СНГ и в мире.
Отдельно Песков упомянул Telegram. По словам пресс-секретаря президента, Россия не работает с этой площадкой и пока не ясно, где в таком случае доводить нужные смыслы. Подход к такой работе, по его словам, еще предстоит придумать.
#Песков #СНГ #соцсети
SecurityLab в MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
SecurityLab.ru
«Где нам смыслы доводить?» Песков пожаловался на засилье «вражеских» соцсетей в СНГ
Пресс-секретарь президента России объяснил, почему старые методы пропаганды больше не работают.
😁79🙊26🤬18👏3 2