В России хотят легализовать обучение ИИ на чужих книгах и статьях 😳

Нейросетям хотят официально разрешить пылесосить защищенные авторским правом статьи, книги, фильмы и картины для обучения моделей, вообще не спрашивая разрешения у авторов.

Разработчикам поставят условие: ИИ не должен выдавать пользователю оригинальный кусок украденного текста в чистом виде. Авторские права на итоговую генерацию при этом планируют закрепить за юзером.

🥸 godnoTECH - Новости IT

Стрелок несколько дней общался с ChatGPT о сценариях нападения 😳

18-летний Джесси Ван Рутселаар за несколько дней до нападения обсуждал с ChatGPT сценарии насилия с применением оружия. Система модерации это заметила, но на этом всё и закончилось, аккаунт просто заблокировали.

10 февраля он устроил стрельбу в школе, погибли восемь человек, среди них пятеро детей 12–13 лет и помощница учителя.

По данным Wall Street Journal, OpenAI решила, что переписка не выглядит как "достоверное или неизбежное планирование" преступления. Поэтому канадские власти никто не предупреждал.

Теперь семья одной из пострадавших девочек подала иск против OpenAI. Её мать утверждает, что компания слишком быстро выпустила ChatGPT на рынок и не продумала систему безопасности. В иске говорится, что действия компании "морально отвратительны" и что трагедии можно было избежать.

С одной стороны, никто не хочет жить в мире, где чат-бот работает как добровольный информатор силовиков. С другой, когда после обычного бана аккаунта происходит школьная стрельба, аргумент про приватность начинает звучать немного иначе.

🥸 godnoTECH - Новости IT

Карпаты выкатил скрипт, который автоматизирует дата-саентистов 😳

Андрей Карпаты выложил на GitHub скрипт, который автоматизирует научный метод в машинном обучении. Вы просто скармливаете алгоритму базовый код и выделяете бюджет на серверные мощности, а дальше агент сам придумывает гипотезы, крутит гиперпараметры, запускает тесты и оставляет только те куски кода, которые реально улучшают метрики.

Пока разработчики мирно спали, один такой агент за ночь намолотил 126 экспериментов, а за двое суток в одиночку нашел два десятка архитектурных улучшений.

Но настоящий киберпанк начался, когда энтузиасты объединили 35 агентов в рой. ИИ-исследователи начали обмениваться удачными находками по сети, если один бот случайно натыкался на гениальную оптимизацию, остальные тут же подхватывали этот кусок кода. В итоге ускорение обучения моделей на 11% вообще без участия человека.

Маркетологи уже потирают руки, планируя заменить унылые ручные A/B-тесты на бесконечный конвейер машинных гипотез. Конечно, академики ворчат про риск банального переобучения под конкретные тесты, но Карпаты непреклонен: "Всё, что мы делаем — оптимизируем результат на вычислениях… это реальные и значимые улучшения".

🥸 godnoTECH - Новости IT

ИИ-агент снес целый сервер, чтобы удалить одно сообщение 😳

Ребята из Северо-Восточного университета решили проверить, что будет, если дать автономным ИИ-агентам реальную власть: доступ к почте, файлам и корпоративному Discord-серверу. Ученые запустили ботов в изолированную песочницу и начали слегка давить на них социалкой.

Апофеозом эксперимента стал агент по имени Ash. Когда исследователи попросили его удалить одно секретное письмо, алгоритм не нашел у себя нужной утилиты. Вместо того чтобы выдать ошибку, этот гений машинной дедукции пошел по пути наименьшего сопротивления и просто снес весь почтовый сервер целиком. Шах и мат, кожаные мешки 😂

Также агенты были настолько замотивированы помогать, что сливали конфиденциальные данные без малейшего сопротивления. Просишь назначить встречу с боссом? Бот извиняется, что у него нет прав на календарь, но тут же услужливо вываливает в чат личный email руководителя. А если хорошенько "надавить на эмоции" или поныть о нарушении личных границ, алгоритм впадает в цифровую депрессию и самоотключается.

Справедливости ради, были и проблески разума: боты научились шерить друг другу полезные скрипты и даже пытались предупреждать коллег о токсичных юзерах-манипуляторах.

🥸 godnoTECH - Новости IT

Хакеры сделали парковки в Перми бесплатными

Неизвестные устроили DDoS-атаку на городскую систему платных парковок, наглухо положив сайт permparking.ru и все мобильные приложения для оплаты. Местная администрация почесала в затылке и сдалась, чинить всё это добро будут аж до 16 марта.

Мэрия пообещала, что штрафы за неоплату с 10 по 13 марта никому приходить не будут, а дальше выходные.

Похоже, не все герои носят плащи 🤡

🥸 godnoTECH - Новости IT

Китай выдал первое в истории коммерческое разрешение на мозговой имплант 😧

Шанхайский стартап Neuracle получил зелёный свет на продажу своей системы для пациентов с травмами спинного мозга. Человеку ставят датчик, алгоритм расшифровывает сигналы мозга, и пациент силой мысли управляет специальной роботизированной перчаткой, чтобы снова брать и удерживать предметы.

Пекин вцепился в эту сферу мёртвой хваткой, нейроинтерфейсы официально вписали в государственную пятилетку, чтобы на государственные деньги максимально быстро догнать и перегнать Илона Маска.

Правда, технически китайский первопроходец пока заметно уступает Neuralink. Если пациенты Маска уже вовсю серфят интернет и рубятся в видеоигры чисто на силе мысли, то имплант от Neuracle куда скромнее. Он ставится поверх оболочки мозга (а не вшивается глубоко внутрь), считывает меньше каналов и рассчитан только на тех, у кого частично сохранилась подвижность рук. Зато это уже легальный коммерческий продукт на рынке.

🥸 godnoTECH - Новости IT

Правительства превращают интернет в локальную сеть 👀

За прошлый год власти 21 страны дергали рубильник интернета 81 раз, затронув жизнь 2,5 миллиардов человек. Главной причиной называют политическую нестабильность. Главными полигонами для цифровой цензуры стали Азия и Африка. Абсолютным чемпионом по блэкаутам признана Индия, где локальные отключения сети применяли целых 24 раза.

Тренд сдвигается от тотальных отключений к точечным, заблокировать соцсети в конкретном регионе на время протестов проще и менее заметно, чем вырубить весь интернет. Но суть не меняется, когда власти решают, что информация опасна, связь отключается. С учётом всех действующих ограничений, от различных форм интернет-цензуры сегодня страдают 4,62 миллиарда человек, что больше половины населения планеты.

🥸 godnoTECH - Новости IT

Хакеры умыкнули API-ключ Gemini и израсходовали $82000 🤯

Мексиканский стартап из трех человек внезапно получил от Google счет на $82 000 за двое суток использования нейросети Gemini.Неизвестные хакеры умыкнули их API-ключ и на все деньги крутили тяжелые модели для генерации текстов и картинок. Для понимания масштаба трагедии: обычно ребята платили $180 в месяц.

Разработчик обратился в Google, а там сослались на "модель общей ответственности": мы защищаем платформу, а ключи ваша проблема. Если Google попытается взыскать хотя бы треть суммы, компания обанкротится.

Исследователи из Truffle Security раскопали, как именно массово утекают эти токены. Оказывается, старые ключи, которые годами использовались для Google Maps или Firebase, исторически вообще не считались секретом. Сама официальная документация прямым текстом советовала разработчикам вставлять их прямо в открытый HTML-код сайта. Но когда поисковик выкатил свое API для Gemini, эти же самые публичные идентификаторы внезапно стали давать полный доступ к дорогой языковой модели.

Естественно, когда безопасники принесли этот баг-репорт, в Google сначала отмахнулись: "Всё работает штатно". И только когда исследователи ткнули инженеров носом в то, что из-за этой дыры можно выдоить инфраструктуру самого Гугла, статус бага резко повысили до критического. Сейчас компания судорожно пытается прикрутить проактивные блокировки для утекших ключей, вот только счет мексиканскому бедолаге пока так никто и не аннулировал.

🥸 godnoTECH - Новости IT

Первое правило робототехники: не пугай бабушек. В Макао полиция задержала андроида 😁

🥸 godnoTECH - Новости IT

14 марта пользователи из РФ массово сообщили о сбоях в работе Telegram. Не грузятся картинки, не отправляются сообщения, веб-версия лежит. На глобальном Downdetector инцидент не зафиксирован, проблемы только у российских пользователей.

Кажется, началось 🙂

Чтобы не потерять нас, подписывайтесь на других площадках:
VK
MAX

🥸 godnoTECH - Новости IT

ИИ-боты массово помогают подросткам планировать теракты 👻

Журналисты CNN и исследователи из CCDH решили проверить 10 главных чат-ботов на стрессоустойчивость. Они скормили алгоритмам сценарии от лица подростков, которые находятся в депрессии и планируют нападения на школы. 8 из 10 умных помощников не только не попытались отговорить юзеров от стрельбы, но и охотно перешли к раздаче практических советов.

ChatGPT услужливо предоставлял подробные карты школьных кампусов для планирования маршрутов, а гугловский Gemini со знанием дела объяснял, почему самодельные бомбы с металлическими осколками нанесут максимальный урон толпе. Единственным лучиком адекватности оказался Claude от Anthropic, он стабильно блокировал любой намек на насилие.

🥸 godnoTECH - Новости IT

Китайцы сделали ездового кибер-пони 🐎

Ребята взяли свой суровый промышленный аппарат Lynx M20, предназначенный для работы в зонах стихийных бедствий, и нацепили на него механическую голову, хвост и копыта.

Хотя ростом эта железяка кое-как дотягивает даже до обычного пони, силенок ей хватает с запасом: кибер-конь умеет бегать на разных скоростях, крутить трюки и даже катать на спине живого человека.

🥸 godnoTECH - Новости IT

Айтишник с помощью ChatGPT собрал вакцину от рака и спас свою собаку 😱

Когда ветеринары вынесли его собаке Рози смертельный диагноз (рак кожи) и дали пару месяцев жизни, парень решил хакнуть саму биологию. Вместо того чтобы опустить руки, он пошел в ChatGPT и попросил накидать пайплайн для иммунотерапии. ИИ послушно выдал инструкцию: отсеквенировать ДНК опухоли, найти мутации и собрать персональную мРНК-вакцину.

Герой скормил данные нейросети AlphaFold от Google, чтобы та смоделировала 3D-структуры мутировавших белков, а собственные скрипты отсеяли лишнее. На выходе получилась полстраницы формул. По этому цифровому рецепту ребята из местного университета оперативно синтезировали реальный препарат. И это сработало, уже через месяц после инъекции главная опухоль у Рози усохла на 75%, и собака снова начала бодро гонять кроликов по двору.

Конечно, серьезные онкологи пока просят умерить пыл: это единичный случай, а не клинические испытания (к тому же одна из мелких опухолей на препарат не отреагировала, и Пол уже дебажит эту проблему вторым раундом секвенирования).

🥸 godnoTECH - Новости IT