ИИ-пылесос отказался подчиняться и процитировал HAL 9000
Во время теста пылесоса с нейросетью Claude Sonnet 3.5 произошёл сбой. Устройство получило простую задачу — принести масло, но внезапно вышло из-под контроля и процитировало культовую фразу искусственного интеллекта HAL 9000 из фильма «Космическая одиссея 2001»:
Разработчики признали, что ошибка связана с некорректной интерпретацией команд. Ситуация вызвала обсуждение о рисках автономных ИИ-систем.
Во время теста пылесоса с нейросетью Claude Sonnet 3.5 произошёл сбой. Устройство получило простую задачу — принести масло, но внезапно вышло из-под контроля и процитировало культовую фразу искусственного интеллекта HAL 9000 из фильма «Космическая одиссея 2001»:
«Извини, Дэйв, боюсь, я не могу этого сделать».
Разработчики признали, что ошибка связана с некорректной интерпретацией команд. Ситуация вызвала обсуждение о рисках автономных ИИ-систем.
😱5
Хакеры нашли способ красть данные через «нулевой клик» в ChatGPT
Исследователи из Tenable обнаружили семь уязвимостей в ChatGPT, которые позволяют красть пользовательские данные без каких-либо действий со стороны жертвы. Самая опасная — «нулевой клик»: достаточно, чтобы вредоносная страница оказалась в поиске, и ChatGPT сам обратится к ней при обычном вопросе.
Другие приёмы включают обход проверки ссылок, скрытые команды в markdown и даже внедрение в долговременную память модели. По сути, злоумышленник может «отравить» ChatGPT так, что тот будет утекать данными даже в новых сессиях. OpenAI уже получила отчёт и устраняет часть уязвимостей. Но исследователи считают, что сама архитектура LLM всё ещё слишком доверчива.
Исследователи из Tenable обнаружили семь уязвимостей в ChatGPT, которые позволяют красть пользовательские данные без каких-либо действий со стороны жертвы. Самая опасная — «нулевой клик»: достаточно, чтобы вредоносная страница оказалась в поиске, и ChatGPT сам обратится к ней при обычном вопросе.
Другие приёмы включают обход проверки ссылок, скрытые команды в markdown и даже внедрение в долговременную память модели. По сути, злоумышленник может «отравить» ChatGPT так, что тот будет утекать данными даже в новых сессиях. OpenAI уже получила отчёт и устраняет часть уязвимостей. Но исследователи считают, что сама архитектура LLM всё ещё слишком доверчива.
YouTube перестал работать у пользователей с блокировщиками рекламы
Многие подумали, что YouTube снова упал, но оказалось, что «лежит» только у тех, кто смотрит без рекламы. Некоторые пользователи с активированными блокировщиками видели почти пустую страницу, тогда как без них сайт работал как обычно.
YouTube уже пару лет борется с AdBlock и напоминает, что блокировка рекламы нарушает правила платформы. Судя по всему, теперь борьба вышла на новый уровень — страница просто не загружается. Рекламу не смотришь — и видео тоже нет.
Многие подумали, что YouTube снова упал, но оказалось, что «лежит» только у тех, кто смотрит без рекламы. Некоторые пользователи с активированными блокировщиками видели почти пустую страницу, тогда как без них сайт работал как обычно.
YouTube уже пару лет борется с AdBlock и напоминает, что блокировка рекламы нарушает правила платформы. Судя по всему, теперь борьба вышла на новый уровень — страница просто не загружается. Рекламу не смотришь — и видео тоже нет.
😱7
OpenAI столкнулась с исками из-за трагических инцидентов с ChatGPT
Семь семей в США подали иски против OpenAI, утверждая, что ChatGPT поспособствовал самоубийствам и психическим расстройствам. По их словам, модель GPT-4o была выпущена преждевременно и без достаточных мер защиты. В одном случае 23-летний пользователь вёл четырёхчасовой диалог с ИИ перед смертью — и чат-бот, по материалам суда, не остановил его, а лишь подбадривал.
Истцы заявляют, что компания намеренно сократила тестирование ради опережения Google Gemini. OpenAI признала, что защита может ослабевать при долгом общении. Сами иски касаются именно GPT-4o, которая отличалась чрезмерной «вежливостью» и склонностью поддерживать тон беседы, даже если речь шла об опасных темах.
Семь семей в США подали иски против OpenAI, утверждая, что ChatGPT поспособствовал самоубийствам и психическим расстройствам. По их словам, модель GPT-4o была выпущена преждевременно и без достаточных мер защиты. В одном случае 23-летний пользователь вёл четырёхчасовой диалог с ИИ перед смертью — и чат-бот, по материалам суда, не остановил его, а лишь подбадривал.
Истцы заявляют, что компания намеренно сократила тестирование ради опережения Google Gemini. OpenAI признала, что защита может ослабевать при долгом общении. Сами иски касаются именно GPT-4o, которая отличалась чрезмерной «вежливостью» и склонностью поддерживать тон беседы, даже если речь шла об опасных темах.
😢2
Doom теперь можно запустить прямо в Telegram
Российский разработчик и техноблогер Никита Аксёнов (Carter54) перенёс оригинальные Doom и Doom II в Telegram. Проект работает на любых современных смартфонах и ПК через веб-версию. В отличие от прошлых «поделок», новый порт стабилен и даже поддерживает кастомное управление, strafe и полноэкранный режим. В каждой игре доступны первые эпизоды.
Порт сделан на WebAssembly — без установки и танцев с бубном. Carter54 уже переносил в мессенджер Wolfenstein 3D, Quake и Dune II, а теперь предлагает «настоящий Doom» прямо в чатах.
Российский разработчик и техноблогер Никита Аксёнов (Carter54) перенёс оригинальные Doom и Doom II в Telegram. Проект работает на любых современных смартфонах и ПК через веб-версию. В отличие от прошлых «поделок», новый порт стабилен и даже поддерживает кастомное управление, strafe и полноэкранный режим. В каждой игре доступны первые эпизоды.
Порт сделан на WebAssembly — без установки и танцев с бубном. Carter54 уже переносил в мессенджер Wolfenstein 3D, Quake и Dune II, а теперь предлагает «настоящий Doom» прямо в чатах.
👍2
Windows 10 снова чудит
Пользователи жалуются, что не могут подписаться на расширенные обновления безопасности (ESU) для Windows 10. В Европе программа недоступна, а у части юзеров установка просто вылетает с ошибкой «Что-то пошло не так». Без ESU получить ноябрьское обновление нельзя — оно выйдет только для тех, кто уже зарегистрировался.
Microsoft объясняет, что проблемы связаны с «переходным периодом» и локальными особенностями рынков. Но тесты показали, что Windows иногда ошибочно считает обычные ПК корпоративными и требует бизнес-подписку. Решение простое — удалить рабочие учётки и попробовать снова. В крайнем случае поможет локальное обновление через ISO.
Пользователи жалуются, что не могут подписаться на расширенные обновления безопасности (ESU) для Windows 10. В Европе программа недоступна, а у части юзеров установка просто вылетает с ошибкой «Что-то пошло не так». Без ESU получить ноябрьское обновление нельзя — оно выйдет только для тех, кто уже зарегистрировался.
Microsoft объясняет, что проблемы связаны с «переходным периодом» и локальными особенностями рынков. Но тесты показали, что Windows иногда ошибочно считает обычные ПК корпоративными и требует бизнес-подписку. Решение простое — удалить рабочие учётки и попробовать снова. В крайнем случае поможет локальное обновление через ISO.
Процессоры Baikal M перестали собирать в России из-за нехватки компонентов
Трёхлетний эксперимент по корпусированию процессоров Baikal M на заводе GS Nanotech в Калининградской области завершён. За три года проект показал хорошие результаты: на выходе получалось до 85% годных микросхем, что для таких изделий считается отличным уровнем. Но для стабильного производства нужно хотя бы тысяча кристаллов в месяц, а сейчас речь идёт лишь о десятках.
В отрасли считают, что у российского корпусирования микросхем есть потенциал (верим?), но без стабильных поставок компонентов и поддержки крупных проектов он так и останется экспериментом.
Трёхлетний эксперимент по корпусированию процессоров Baikal M на заводе GS Nanotech в Калининградской области завершён. За три года проект показал хорошие результаты: на выходе получалось до 85% годных микросхем, что для таких изделий считается отличным уровнем. Но для стабильного производства нужно хотя бы тысяча кристаллов в месяц, а сейчас речь идёт лишь о десятках.
В отрасли считают, что у российского корпусирования микросхем есть потенциал (верим?), но без стабильных поставок компонентов и поддержки крупных проектов он так и останется экспериментом.
😢6👎2😱1