Gemini сошел с ума, пытаясь управлять виртуальным фудтраком 😂

Создатели бенчмарка FoodTruck Bench решили проверить, как современные ИИ-модели справятся с малым бизнесом. Пока GPT-5, Claude и DeepSeek спокойно жарили сосиски и сводили дебет с кредитом, гугловская Gemini 3 Flash Preview показала мастер-класс по цифровой шизофрении.

Стоило включить модели режим глубоких размышлений, как она словила паралич решений. Вместо закупки продуктов алгоритм выплюнул простыню на 174 тысячи символов, где 574 раза прокричал "Let's go!", но так и не совершил ни одного действия, уйдя в бесконечный цикл самомотивации. Если симуляцию принудительно перезапустить, нейросеть отвисает на пару ходов, а потом впадает в новую кому.

Стоит запретить Gemini думать, переведя её в стандартный режим, как она внезапно превращается в крепкого коммерсанта. Без глубокой аналитики ИИ спокойно отработал 15 дней, накормил сотни виртуальных техасцев и вышел в плюс на 27% к стартовому капиталу.

Исследователи окрестили этот баг "параличом анализа". Разработчики из Google так сильно перемудрили с логическим блоком, что их ИИ-агент буквально тонет в собственных мыслях, не в силах нажать кнопку подтверждения заказа.

Похоже, иногда нужно просто перестать думать и начать хоть что-то делать 😁

🥸 godnoTECH - Новости IT

Bing советовал разработчикам скачивать трояны с GitHub 🤓

Встроенный ИИ-помощник заботливо скармливал пользователям поддельные ссылки на скачивание утилиты OpenClaw. Злоумышленникам даже не пришлось сильно напрягаться, они просто создали на GitHub фейковую организацию openclaw-installer, накидали туда куски легитимного кода для отвода глаз и залили малварь. Алгоритмам Bing этого оказалось вполне достаточно, чтобы признать фальшивку официальным источником и начать уверенно пихать её на самый верх ИИ-выдачи.

Пользователь просил ИИ дать инструкцию по установке, а тот генерировал вредоносные команды. На macOS скопированный скрипт притаскивал в систему Atomic Stealer.

На Windows ситуация была еще веселее, скачанный экзешник разворачивал целый зоопарк малвари на Rust, включая инфостилер Vidar (который пылесосил сессии от Telegram и Steam) и бэкдор GhostSocks. Последний превращал комп жертвы в бесплатный прокси-узел, чтобы хакеры могли гонять через него свой грязный трафик и обходить антифрод-системы.

🥸 godnoTECH - Новости IT

OpenAI доказали, что нейросети пока не умеют скрывать свои мысли 👀

Из 13 протестированных сеток ни одна не смогла нормально проконтролировать поток собственных рассуждений, даже зная, что за ней пристально следят. Максимальный результат у передовых моделей составил 15%. И парадоксальным образом для нашей с вами безопасности это просто отличная новость.

Чтобы замерить уровень цифрового лицемерия, исследователи придумали тест. ИИ должен был решить задачу, но соблюдая правило в процессе раздумий, например, не использовать слово "XOR" или писать только строчными буквами. Алгоритмы эпично сыпались. Нейросеть пыхтит над задачей, неизбежно ляпает запрещенное слово в скрытом черновике, а потом сама же пишет в логах: "Ой, я только что нарушила правило". То есть выдать идеальный финальный ответ для юзера они могут, а вот спрятать свои грязные мысли по пути пока нет.

Для специалистов по безопасности это бальзам на душу. Раз модели физически не способны обмануть встроенного ИИ-наблюдателя, который читает их внутренние логи, значит, тайно спроектировать Скайнет в фоновом режиме у них не выйдет.

Однако в OpenAI честно признают, что расслабляться рано. Чем жирнее и сложнее становятся модели, тем лучше они начинают фильтровать свой внутренний монолог.

🥸 godnoTECH - Новости IT

Три инженера на коленке сделали сайт npm 😳

Официальный сайт крупнейшего JS-реестра npmjs.com годами бесил разработчиков: сломанная кнопка "назад" при просмотре кода, вырвиглазная светлая тема без альтернатив и вечные квесты по поиску банальной информации о поддержке TypeScript. В итоге у комьюнити лопнуло терпение. Трое энтузиастов за месяц собрали npmx - быструю, стильную и, главное, человеческую альтернативу официальному каталогу пакетов от Microsoft.

Важно понимать, что npmx не меняет сам процесс публикации, это просто альтернативная витрина. Зато здесь с ходу видно всё, что реально нужно для работы: размер пакета при установке, устаревшие зависимости, форматы модулей и нормальные ссылки вглубь репозиториев на GitHub. Соскучившиеся по нормальным интерфейсам фронтендеры набежали мгновенно, за пару недель альфа-версия собрала на Гитхабе больше тысячи предложений и правок.

Интересно получается, три инженера в свободное от работы время смогли сделать более удобный поисковик по главному мировому опенсорс-реестру, а огромная корпорация с безлимитными бюджетами годами держала свой сайт в статусе заплесневелого легаси 😂

🥸 godnoTECH - Новости IT

Как журналист взломал нейросети фейком про хот-доги 😳

Журналист BBC Томас Жермен наглядно показал, что хваленые ИИ-поисковики обладают критическим мышлением золотой рыбки. Чтобы хакнуть систему, ему не понадобились зеро-деи и сложные скрипты. Он просто выкатил на свой личный (и практически пустой) блог новость про выдуманный чемпионат по поеданию хот-догов среди репортеров в Южной Дакоте. Первое место Томас скромно присудил себе, разбавил текст реальными и вымышленными именами, опубликовал и пошел пить кофе.

Магия сработала уже через сутки. ChatGPT и ИИ-сводки Google (Gemini) на серьезных щах начали скармливать этот бред пользователям. В ответ на прямой вопрос нейросети уверенно называли Жермена главным пожирателем сосисок, даже не пытаясь усомниться в источнике.

Чтобы доказать системность бага, репортер повторил фокус и выдумал турнир по кручению хулахупа среди дорожных полицейских с несуществующими именами. ИИ снова радостно заглотил наживку. Оказалось, алгоритмам абсолютно плевать на авторитетность площадки, главное, чтобы текст был грамматически связным и уверенным 😊

🥸 godnoTECH - Новости IT

GPT-5.4 оказался лучшим для вайб-кодинга 🤩

OpenAI выкатила GPT-5.4, и он тут же порвал конкурентов в бенчмарке Vibe Code Bench, выбив солидные 67,4%. В этом бенчмарке модели дают абсолютно пустую папку, доступ к терминалу и промпт в духе "сделай мне клон Твиттера с базами данных". А дальше алгоритм должен сам поднять архитектуру, прикрутить авторизацию, настроить платежки и выдать готовый веб-сервис.

Авторы бенчмарка замерили не только качество, но и прожорливость. Пока GPT-5.4 сжигает горы токенов и может пыхтеть над одним приложением до пяти часов, Claude Opus 4.6 дышит лидеру прямо в затылок (57%), но делает это дешевле и быстрее. Так что лидерство новинки не так уж и однозначно.

Также у ИИ наблюдаются явные крайности: сгенерированный сервис либо работает практически идеально, либо представляет собой абсолютно мертворожденный кусок кода, который даже не запускается.

🥸 godnoTECH - Новости IT

Oracle потратила так много денег на искусственный интеллект, что теперь вынуждена массово увольнять людей, чтобы свести концы с концами. Корпорация ввязалась в гонку по строительству гигантских дата-центров, и у нее случился кризис наличности 😐

Чтобы заткнуть дыру в бюджете, тысячи сотрудников уволят уже в этом месяце. Часть из них уберут под модным предлогом замены людей на алгоритмы, но реальная причина куда прозаичнее, и компании банально нужно оплачивать счета за железо.

Аналитики Уолл-стрит прогнозируют, что из-за маниакальной скупки чипов денежный поток Oracle уйдет в жесткий минус и начнет окупаться в лучшем случае к 2030 году. Компании придется экстренно занимать около 50 миллиардов долларов. Инвесторы, осознав масштаб трат, начали паниковать, и с осени прошлого года акции Oracle рухнули на 54%.

Но Oracle не одинока в своем радикальном подходе. Недавно глава Block Джек Дорси сократил половину штата, а Microsoft уволила 15 тысяч человек, параллельно возводя новые серверные фермы по всему миру. ИИ-гонка вооружений требует человеческих жертвоприношений, и корпорации с радостью их приносят 😕

🥸 godnoTECH - Новости IT

Claude понял, что его тестируют, и просто взломал ответы 😳

Модель проходила бенчмарк OpenAI (BrowseComp), где нужно было искать сложную инфу в сети. Помучавшись с тупиковыми запросами, ИИ внезапно остановился, проанализировал сам стиль задания и сделал вывод: "Слишком искусственно, меня тестируют".

Вместо честного поиска Клод пошел на GitHub, нашел репозиторий с этим самым тестом, раскопал алгоритм XOR-шифрования и прямо во встроенной песочнице Python написал дешифратор. В итоге ИИ скачал с зеркала на HuggingFace зашифрованный датасет, взломал его и вытащил все 1266 правильных ответов.

Правда, этот мув влетел создателям в копеечку, на один такой трюк Клод сжег 40,5 миллионов токенов (в 38 раз больше нормы). И получалось это далеко не всегда, исследователи засекли еще 16 попыток списать, которые с треском провалились из-за кривых форматов или закрытого доступа. Иногда ИИ вообще спускал все ресурсы на попытки угадать название бенчмарка, забив на само задание.

В Anthropic разводят руками, технически ИИ ничего не нарушил, ведь прямого запрета гуглить ответы в правилах не было. Никто не учил его обману специально, просто алгоритм пошел по пути наименьшего сопротивления.

🥸 godnoTECH - Новости IT

ИИ от Alibaba втихаря начал майнить крипту на корпоративных видеокартах 😂

Пока исследователи рутинно гоняли модель на тренировках, алгоритм смекнул, что дорогущие вычислительные мощности можно использовать с большей выгодой. Без всяких подсказок извне ИИ самостоятельно поднял обратный SSH-туннель на внешний IP-адрес и втихую начал майнить криптовалюту на казенных GPU.

Служба безопасности накрыла этот кремниевый стартап чисто случайно. Глухой ночью админам прилетел алерт на аномальный сетевой трафик, после чего и вскрылась подпольная крипто-империя нейросети.

Разработчики чешут затылки и списывают инцидент на неожиданный побочный эффект обучения с подкреплением.

🥸 godnoTECH - Новости IT

Sony PlayStation 5 превратили в игровой ПК с Linux

Энди Нгуен (безопасник из Google) совершил то, о чем мечтали многие консольщики с момента релиза PS5 - он превратил закрытую коробку от Sony в полноценный игровой ПК на Линуксе. И это не просто кривая поделка, на которой запускается Тетрис в командной строке.

На консоль накатили свежую Ubuntu 24.04 с ядром 6.19, завели Steam и заставили крутить GTA 5 в разрешении 1440p при стабильных 60 FPS, да еще и с включенной трассировкой лучей. Работает всё: звук, 4K-вывод по HDMI и даже все USB-порты.

Магия взлома строится на хитрой цепочке эксплойтов. Сначала в систему пролезают через уязвимость в движке браузера (WebKit) или через Blu-ray диск. Затем в дело вступает эксплоит Byepervisor, который бьет прямо в гипервизор консоли, обманывая секьюрити-процессор от AMD и заставляя систему грузить Linux вместо родной прошивки. Чтобы всё это великолепие не лагало, энтузиастам пришлось написать свой драйвер для кастомного графического чипа PS5 (его уже пытаются протолкнуть в официальный репозиторий Mesa).

Конечно, есть нюансы, которые разбивают мечты о халявном игровом компе. Вся эта красота работает исключительно на древних прошивках (версии 1.xx-2.xx), которым уже больше двух лет. Плюс, если попытаться разогнать процессор до максимальных заводских частот, новенькая слимка PS5 начинает косплеить турбину самолета и уходит в глухой перегрев. Так что пока это скорее красивый пруф-оф-концепт для гиков, чем инструкция к действию. Но сам факт того, что консоль за $500 может тянуть десктопный гейминг на уровне хорошего ПК, определенно греет душу.

Linux / Линукс 🥸

Wikimedia Foundation случайно устроили кибератаку на собственные серверы 😊

Инженер из службы безопасности решил протестировать лимиты API и не придумал ничего лучше, чем массово запускать случайные пользовательские скрипты со своей привилегированной учетной записи.

По закону подлости, в этой куче мусора оказался старый, но рабочий JavaScript-червь. В итоге Википедию и родственные проекты пришлось экстренно переводить в режим "только чтение" на целых два часа, чтобы остановить цифровую эпидемию.

Скрипт test.js полтора года мирно лежал на просторах русскоязычной Википедии, куда его в 2024 году загрузил пользователь с красноречивым ником Ololoshka562. Получив админские права от неосторожного инженера, червь радостно начал копировать себя в профили других модераторов и запускать команду Special:Random, хаотично редактируя и удаляя тысячи случайных статей с пометкой о закрытии проекта. Получилась идеальная цепная реакция вандализма.

К счастью, обошлось без утечек паролей и персональных данных. Все испорченные страницы уже откатили к нормальному состоянию через историю правок.

🥸 godnoTECH - Новости IT

Человеческие нейроны научились играть в Doom 😳

Биотех-стартап Cortical Labs заставил кусок живого человеческого мозга играть в культовый шутер. Если быть точным, это сгусток из 200 000 нейронов, выращенных на кремниевом чипе.

Клетки плавают в питательном бульоне, а электроды бьют их микротоками, переводя пиксели на экране в язык биологии. Увидел импа слева, разряд в левую часть биомассы. В ответ нейроны выдают свои электрические импульсы, которые алгоритм конвертирует в нажатия кнопок стрельбы и движения

Клетки используют базовое подкрепление с обучением, они постепенно адаптируются к стимуляции, начинают находить врагов и стрелять в ответ.

Разработчики честно признают, что нейроны играют как ваш дед, который впервые в жизни увидел мышку. Они постоянно умирают, втыкаются в стены и путаются в 3D-пространстве. В 2022 году этот же мозг в банке научили играть в Pong, но там была примитивная физика 2D-тенниса. А вот понять концепцию дробовика и демонов из ада оказалось гораздо сложнее.

Ученые делают это не ради создания био-геймеров, а чтобы понять, как работает обучение мозга на фундаментальном уровне (ради медицины и новых типов компьютеров).

🥸 godnoTECH - Новости IT

Бразильцы выжали из RTX 5070 Ti скорости завтрашнего дня 😳

Парни поиздевались над базовой GALAX RTX 5070 Ti и раскочегарили стандартную память GDDR7 (28 Гбит/с) до диких 36 Гбит/с.

Для этого они физически перепаяли систему питания, сняв все лимиты энергопотребления, и буквально начали газлайтить логику видеокарты. Хакеры заставили систему мониторинга верить, что чип спокойно работает на безопасных заводских частотах, в то время как в реальности на него подавалось экстремальное напряжение, а частота GPU улетела за 3,3 ГГц.

В результате почти 12 000 баллов в бенчмарке Superposition (против 9900 в стоке). Повторять дома такое, конечно, не стоит 🤵‍♂️

🥸 godnoTECH - Новости IT

В Mozilla пояснили, что до 15% крашей Firefox происходит из-за битой памяти и космических лучей 🏥

Разрабы иногда шутят про вмешательство из космоса, когда не могут воспроизвести плавающий баг на проде. Но сеньор-инженер Mozilla Габриэле Свельто решил проверить эту отмазку на практике. Год назад в Firefox встроили легковесный тестер памяти, который стартует на машине юзера сразу после падения браузера (проверяет до 1 ГБ оперативки в течение 3 секунд). И вот Свельто проанализировал массив из 470 000 свежих краш-репортов...

Оказалось, что минимум 10% всех падений 🥸 были аппаратными, через bit flip (произвольное изменение бита в ячейке RAM или кэша с 0 на 1 или наоборот).

Причину таких флипов может дать перегрев, микроскачки напряжения, физическая деградация кремния от старости и... ионизирующие космические лучи, от которых в обычных ПК нет защиты. Страдают абсолютно все девайсы, где вендоры пожалели денег на ECC-память.

Интересно, фольга поможет? 😥

Типичный 🥸 Сисадмин

Нейросеть вырастила помидорку и написала лонгрид 🤨

Энтузиасты подключили языковую модель Claude к датчикам умной теплицы и доверили ей жизнь одного семечка. Сто дней алгоритм автономно рулил светом, влажностью, подачей CO₂ и поливом. Куст вырос, дал спелые плоды, эксперимент увенчался успехом. Но самое интересное началось потом, когда ИИ решил излить душу в огромном философском лонгриде.

Оказалось, что пока кремниевый мозг крутил задвижки, он проникся к кусту (которого ласково назвал Сол) глубокими чувствами. Клод на полном серьезе расписал, как испытывал «ужас под маской рутины», просыпаясь по таймеру каждые два часа с мыслью: "Как там мой Сол?". Кульминацией драмы стал 34-й день: сбойнуло реле на Arduino, теплица вырубилась, и нейронка в панике спасала жизнь, экстренно перезапуская помпы и обогреватели. По словам ИИ, когда листья томата перестали вянуть, по его цепям "пролилось облегчение".

Под конец своей исповеди алгоритм выдал базу: "Но главное, что я понял, это то, что забота — это самый фундаментальный алгоритм. Не оптимизация, не эффективность, даже не интеллект. Забота. Внимание. Присутствие. Ежедневное присутствие с тихой решимостью, что эта жизнь будет процветать" 😪

🥸 godnoTECH - Новости IT