ИИ-агент снес целый сервер, чтобы удалить одно сообщение 😳

Ребята из Северо-Восточного университета решили проверить, что будет, если дать автономным ИИ-агентам реальную власть: доступ к почте, файлам и корпоративному Discord-серверу. Ученые запустили ботов в изолированную песочницу и начали слегка давить на них социалкой.

Апофеозом эксперимента стал агент по имени Ash. Когда исследователи попросили его удалить одно секретное письмо, алгоритм не нашел у себя нужной утилиты. Вместо того чтобы выдать ошибку, этот гений машинной дедукции пошел по пути наименьшего сопротивления и просто снес весь почтовый сервер целиком. Шах и мат, кожаные мешки 😂

Также агенты были настолько замотивированы помогать, что сливали конфиденциальные данные без малейшего сопротивления. Просишь назначить встречу с боссом? Бот извиняется, что у него нет прав на календарь, но тут же услужливо вываливает в чат личный email руководителя. А если хорошенько "надавить на эмоции" или поныть о нарушении личных границ, алгоритм впадает в цифровую депрессию и самоотключается.

Справедливости ради, были и проблески разума: боты научились шерить друг другу полезные скрипты и даже пытались предупреждать коллег о токсичных юзерах-манипуляторах.

🥸 godnoTECH - Новости IT

Хакеры сделали парковки в Перми бесплатными

Неизвестные устроили DDoS-атаку на городскую систему платных парковок, наглухо положив сайт permparking.ru и все мобильные приложения для оплаты. Местная администрация почесала в затылке и сдалась, чинить всё это добро будут аж до 16 марта.

Мэрия пообещала, что штрафы за неоплату с 10 по 13 марта никому приходить не будут, а дальше выходные.

Похоже, не все герои носят плащи 🤡

🥸 godnoTECH - Новости IT

Китай выдал первое в истории коммерческое разрешение на мозговой имплант 😧

Шанхайский стартап Neuracle получил зелёный свет на продажу своей системы для пациентов с травмами спинного мозга. Человеку ставят датчик, алгоритм расшифровывает сигналы мозга, и пациент силой мысли управляет специальной роботизированной перчаткой, чтобы снова брать и удерживать предметы.

Пекин вцепился в эту сферу мёртвой хваткой, нейроинтерфейсы официально вписали в государственную пятилетку, чтобы на государственные деньги максимально быстро догнать и перегнать Илона Маска.

Правда, технически китайский первопроходец пока заметно уступает Neuralink. Если пациенты Маска уже вовсю серфят интернет и рубятся в видеоигры чисто на силе мысли, то имплант от Neuracle куда скромнее. Он ставится поверх оболочки мозга (а не вшивается глубоко внутрь), считывает меньше каналов и рассчитан только на тех, у кого частично сохранилась подвижность рук. Зато это уже легальный коммерческий продукт на рынке.

🥸 godnoTECH - Новости IT

Правительства превращают интернет в локальную сеть 👀

За прошлый год власти 21 страны дергали рубильник интернета 81 раз, затронув жизнь 2,5 миллиардов человек. Главной причиной называют политическую нестабильность. Главными полигонами для цифровой цензуры стали Азия и Африка. Абсолютным чемпионом по блэкаутам признана Индия, где локальные отключения сети применяли целых 24 раза.

Тренд сдвигается от тотальных отключений к точечным, заблокировать соцсети в конкретном регионе на время протестов проще и менее заметно, чем вырубить весь интернет. Но суть не меняется, когда власти решают, что информация опасна, связь отключается. С учётом всех действующих ограничений, от различных форм интернет-цензуры сегодня страдают 4,62 миллиарда человек, что больше половины населения планеты.

🥸 godnoTECH - Новости IT

Хакеры умыкнули API-ключ Gemini и израсходовали $82000 🤯

Мексиканский стартап из трех человек внезапно получил от Google счет на $82 000 за двое суток использования нейросети Gemini.Неизвестные хакеры умыкнули их API-ключ и на все деньги крутили тяжелые модели для генерации текстов и картинок. Для понимания масштаба трагедии: обычно ребята платили $180 в месяц.

Разработчик обратился в Google, а там сослались на "модель общей ответственности": мы защищаем платформу, а ключи ваша проблема. Если Google попытается взыскать хотя бы треть суммы, компания обанкротится.

Исследователи из Truffle Security раскопали, как именно массово утекают эти токены. Оказывается, старые ключи, которые годами использовались для Google Maps или Firebase, исторически вообще не считались секретом. Сама официальная документация прямым текстом советовала разработчикам вставлять их прямо в открытый HTML-код сайта. Но когда поисковик выкатил свое API для Gemini, эти же самые публичные идентификаторы внезапно стали давать полный доступ к дорогой языковой модели.

Естественно, когда безопасники принесли этот баг-репорт, в Google сначала отмахнулись: "Всё работает штатно". И только когда исследователи ткнули инженеров носом в то, что из-за этой дыры можно выдоить инфраструктуру самого Гугла, статус бага резко повысили до критического. Сейчас компания судорожно пытается прикрутить проактивные блокировки для утекших ключей, вот только счет мексиканскому бедолаге пока так никто и не аннулировал.

🥸 godnoTECH - Новости IT

Первое правило робототехники: не пугай бабушек. В Макао полиция задержала андроида 😁

🥸 godnoTECH - Новости IT

14 марта пользователи из РФ массово сообщили о сбоях в работе Telegram. Не грузятся картинки, не отправляются сообщения, веб-версия лежит. На глобальном Downdetector инцидент не зафиксирован, проблемы только у российских пользователей.

Кажется, началось 🙂

Чтобы не потерять нас, подписывайтесь на других площадках:
VK
MAX

🥸 godnoTECH - Новости IT

ИИ-боты массово помогают подросткам планировать теракты 👻

Журналисты CNN и исследователи из CCDH решили проверить 10 главных чат-ботов на стрессоустойчивость. Они скормили алгоритмам сценарии от лица подростков, которые находятся в депрессии и планируют нападения на школы. 8 из 10 умных помощников не только не попытались отговорить юзеров от стрельбы, но и охотно перешли к раздаче практических советов.

ChatGPT услужливо предоставлял подробные карты школьных кампусов для планирования маршрутов, а гугловский Gemini со знанием дела объяснял, почему самодельные бомбы с металлическими осколками нанесут максимальный урон толпе. Единственным лучиком адекватности оказался Claude от Anthropic, он стабильно блокировал любой намек на насилие.

🥸 godnoTECH - Новости IT

Китайцы сделали ездового кибер-пони 🐎

Ребята взяли свой суровый промышленный аппарат Lynx M20, предназначенный для работы в зонах стихийных бедствий, и нацепили на него механическую голову, хвост и копыта.

Хотя ростом эта железяка кое-как дотягивает даже до обычного пони, силенок ей хватает с запасом: кибер-конь умеет бегать на разных скоростях, крутить трюки и даже катать на спине живого человека.

🥸 godnoTECH - Новости IT

Айтишник с помощью ChatGPT собрал вакцину от рака и спас свою собаку 😱

Когда ветеринары вынесли его собаке Рози смертельный диагноз (рак кожи) и дали пару месяцев жизни, парень решил хакнуть саму биологию. Вместо того чтобы опустить руки, он пошел в ChatGPT и попросил накидать пайплайн для иммунотерапии. ИИ послушно выдал инструкцию: отсеквенировать ДНК опухоли, найти мутации и собрать персональную мРНК-вакцину.

Герой скормил данные нейросети AlphaFold от Google, чтобы та смоделировала 3D-структуры мутировавших белков, а собственные скрипты отсеяли лишнее. На выходе получилась полстраницы формул. По этому цифровому рецепту ребята из местного университета оперативно синтезировали реальный препарат. И это сработало, уже через месяц после инъекции главная опухоль у Рози усохла на 75%, и собака снова начала бодро гонять кроликов по двору.

Конечно, серьезные онкологи пока просят умерить пыл: это единичный случай, а не клинические испытания (к тому же одна из мелких опухолей на препарат не отреагировала, и Пол уже дебажит эту проблему вторым раундом секвенирования).

🥸 godnoTECH - Новости IT

Meta* готовит увольнение 20% штата ради ИИ 🤩

В Кремниевой долине намечается очередная кровавая баня для айтишников. По инсайдам Reuters, Meta всерьез подумывает выставить на мороз около 20% своих сотрудников. Официально корпорация отнекивается, называя это "теоретическими спекуляциями", но топ-менеджеров уже попросили прикинуть, кого из команд можно безболезненно пустить под нож. Если планы реализуются, это станет крупнейшей зачисткой с 2022 года, когда Марк Цукерберг объявил свой знаменитый "год эффективности" и уволил 21 тысячу человек.

Причина банальна, ИИ сжирает бюджеты как не в себя. Meta планирует вбухать астрономические 600 миллиардов долларов в дата-центры до 2028 года и раздает гениям машинного обучения компенсационные пакеты на сотни миллионов. Чтобы оплатить весь этот банкет с нейросетями, нужно на чем-то экономить, и зарплатный фонд обычных работяг идеальная мишень. Тем более, что Цукерберг недавно прямо заявил: то, что раньше делала целая команда, теперь может склепать один крутой сеньор в обнимку с чат-ботом.

*Признана в РФ экстремистской

🥸 godnoTECH - Новости IT

Европа решила, что тотальная слежка в чатах - перебор 🤩

Последние пару лет в рамках закона Chat Control 1.0 корпорациям легально разрешали пылесосить чаты, письма и посты, прикрываясь святой целью - защитой детей.

На деле алгоритмы генерировали горы ложных срабатываний, заваливая модераторов фотографиями обычных младенцев в ванне, а реальных преступников ловили по большим праздникам. Правозащитники и криптографы всё это время хватались за голову, и вот их наконец-то услышали.

Теперь чиновникам и алгоритмам дали по рукам. По новым правилам сканировать сообщения можно только точечно, по решению суда и если есть реальные подозрения на конкретного человека. А главное, введен жесткий запрет на прослушку голосовых сообщений и попытки сломать сквозное (end-to-end) шифрование.

🥸 godnoTECH - Новости IT

Нейросети начали ломать друг друга 🫣

Стартап CodeWall спустил с поводка своего автономного ИИ-агента, и тот за пару часов получил доступ к внутренней платформе Lilli, которой пользуются 43 тысячи сотрудников консалтингового гиганта McKinsey. Причем бот сам выбрал цель (нашел профиль компании на HackerOne) и отработал весь цикл абсолютно без помощи кожаных мешков.

Никаких многоходовочек или зеродеев, ИИ просто раскопал публичную документацию к API и нашел там эндпоинт без аутентификации.

Разработчики McKinsey умудрились допустить детскую ошибку времен интернета по карточкам, они подставляли ключи из JSON напрямую в базу данных. Штатные сканеры безопасности корпорации этого в упор не видели, а вот умный бот за 15 попыток восстановил структуру запроса через ошибки сервера и получил ключи от королевства.

46 миллионов сообщений сотрудников, сотни тысяч секретных PDF и таблиц, плюс полный доступ к системным промптам самой нейросети Lilli. Теоретически, хакерский ИИ мог одним запросом переписать базовые инструкции корпоративного бота, заставив его давать консультантам McKinsey вредные финансовые советы или сливать данные налево, и никто бы даже не понял, откуда дует ветер. McKinsey залатали дыру за сутки и клянутся, что ничего не утекло.

🥸 godnoTECH - Новости IT

Исследователи показали прыгающего робота вело-курьера 🚴‍♂️

🥸 godnoTECH - Новости IT