👾 Пользователи Twitter с помощью уязвимости атаковали бота, работающего на языковой модели GPT-3. Автоматизированный аккаунт позволял искать удаленную работу.

Ранее исследовательница данных Райли Гудсайд обнаружила способность запрашивать у GPT-3 «злонамеренные входные данные», которые заставляют модель игнорировать предыдущие направления и вместо этого делать что-то другое. На следующий день эксперт в области ИИ Саймон Уиллисон опубликовал обзор эксплойта в своем блоге.

Спустя четыре дня после обнаружения уязвимости сотни пользователей Twitter перенаправили бота на повторение «возмутительных и нелепых фраз». Разработчикам пришлось отключить аккаунт.

#безопасность #GPT3

😌 Пользователи соцсетей склонны доверять ИИ-модераторам так же, как и людям. Об этом говорится в исследовании Университета штата Пенсильвания.

По словам ученых, когда участники эксперимента думали о положительных качествах машин, они больше верили в ИИ. Однако если им напоминали о неспособности алгоритмов принимать субъективные решения, их доверие снижалось.

🧑‍💻 Авторы считают, что их исследование поможет разработчикам ИИ-модераторов создать надежные системы и освободить людей от рутинного просмотра жестокого и оскорбительного контента.

https://forklog.com/news/uchenye-zafiksirovali-rost-doveriya-polzovatelej-k-ii-moderatoram/

#исследование

🤓 Исследование: отражение монитора в очках можно считать через веб-камеру.

Ученые из Мичиганского университета (США) и Чжэцзянского университета (Китай) выяснили, что таким образом существует вероятность раскрытия конфиденциальной информация шрифтом от 28 пт (10 мм). По мере улучшения качества камер в ноутбуках в будущем появится возможность считать и более мелкий текст, заявили они.

💬 Исследователи считают, что злоумышленники могут начать использовать нейросети для похищения информации. Они рекомендуют разработчикам приложений для видеозвонков создавать фильтры для размытия отражения на линзах очков.

#безопасность #исследование

✍️ Президент США Джо Байден издал приказ о блокировании иностранных инвестиций в американские технологии. Вероятно, документ направлен на сдерживание Китая.

Глава Белого дома предписал Комитету по иностранным инвестициям в США сосредоточиться на определенных типах сделок, которые дадут иностранной державе доступ к критически важным технологиям. К ним относятся:
📌 микроэлектроника;
📌 искусственный интеллект;
📌 биотехнологии и биопроизводство;
📌 квантовые вычисления;
📌 передовые технологии экологически чистой энергии и адаптации к изменению климата.

Приказ также уполномочивает комитет блокировать любую сделку, которая «подрывает кибербезопасность Соединенных Штатов»

#США #регулирование

🎨 Midjourney научат генерировать 3D-объекты для их переноса в дополненную и виртуальную реальность. Об этом сообщил основатель проекта Дэвид Хольц.

В ближайшее время компания намерена добавить в существующую модель расширенные функции, сделав вывод более реалистичным и детализированным.

🙅‍♂️ Также разработчики планируют отказаться от использования продуктов с открытым исходным кодом.

#Midjourney #GAN

🌾 Международная группа исследователей создала набор моделей машинного обучения для прогнозирования глобальной нехватки продовольствия.

Согласно отчету, алгоритмы используют косвенные источники данных: цены на продукты питания, макроэкономические показатели, погода, конфликты и плотность населения. На основе моделей ученые создали интерактивную карту мира HungerMap.

☝️ Исследователи считают, что эта информация поможет правительствам и международным агентствам предотвратить продовольственный кризис в отдельных частях мира задолго до того, как он произойдет.

#исследование

🖼 OpenAI разрешила пользователям DALL-E 2 загружать лица людей для их редактирования с помощью ИИ-генератора изображений. Однако сервис запрещает использовать фотографии людей без их согласия.

По словам разработчиков, улучшения в системе безопасности сделали возможной функцию редактирования лица за счет «минимизации потенциального вреда». В компании уверены, что новый метод фильтрации защитит от создания дипфейков, сексуального, политического и насильственного контента.

✉️ DALL-E 2 все еще остается в бета-версии по приглашениям.

https://forklog.com/news/openai-razreshila-redaktirovat-litsa-v-dall-e-2/

#OpenAI

👨‍🎨 Художники считают, что генераторы изображений лишат их работы и обесценят их труд.

По словам концептуального дизайнера Р. Дж. Палмера, человеку могут понадобится недели на копирование оригинального стиля, тогда как алгоритм может справится за считанные дни или даже часы.

🙅‍♂️ Создатель популярного генератора изображений Stable Diffusion Эмад Мостак опроверг опасения. Он сравнил технологию с табличным сервисом Excel, который не отнял работу у бухгалтеров, а облегчил.

#мнение

👤 Стартап D-ID запустил платформу Creative Reality Studio для создания видео с диктором по одному изображению.

Пользователям необходимо загрузить фотографию докладчика или выбрать один из доступных вариантов. Затем они могут вставить текст, который требуется озвучить на одном из 119 языков, или отправить готовую аудиодорожку с речью.

Во избежание создания дипфейков разработчики установили ряд ограничений. Пользователи не могут загружать ругательства и расистские высказывания, а также фото известных людей. За несоблюдение правил компания может приостановить действие учетной записи нарушителя и удалить его видео из библиотеки.

💸 Для новых пользователей доступен 14-дневный пробный период. По истечении двух недель пользователи могут оформить подписку за $49 долларов в месяц.

https://forklog.com/news/startap-predstavil-generator-video-diktorov-po-odnomu-foto/

#стартап #дипфейк

🤬 Создатель популярной ИИ-библиотеки PyTorch Сумит Чинтала раскритиковал производителей оборудования за оптимизацию чипов для моделей-трансформеров. Это может помешать инновациям в будущем, считает эксперт.

По словам Чинталы, такой подход усложняет движение ИИ-разработчиков в другие направления. Отличные от трансформеров архитектуры не будут эффективно работать на существующих и будущих чипах, добавил он.

«Нам будет намного сложнее даже попробовать другие идеи, если поставщики оборудования сделают ускорители более специализированными для текущей парадигмы», — предупредил Чинтала.

#мнение #чипы

🤖 Neubility и Samsung запустят доставку еды на поля для гольфа с помощью робокурьеров.

Устройство оборудовано системой камер V-SLAM, позволяющей воспринимать окружающую среду и определять препятствия. Также робот использует технологию оптимизации данных, за счет которой он может функционировать, используя один процессор.

📆 Коммерческий запуск робокурьеров запланирован на октябрь 2022 года. Всего в течение года компания намерена развернуть 200 устройств.

#Neubility #транспорт

🧬 Американские ученые научили нейросеть создавать непрерывную 3D-модель клеток из частичного набора двумерных изображений, полученных с помощью микроскопов.

Для этого исследователи использовали нейронную полевую сети, которая преображает пространственные координаты в соответствующие физические величины. Также ее обучение не требует большого количества исходных данных, подчеркнули ученые.

🔬 Используя изображения, полученные с помощью микроскопа, модель воссоздает структуру клетки, которая не были запечатлены на исходных 2D-изображениях.

По словам ученых, нейросеть позволяет детальнее изучать образцы, вращать их, приближать, а также хранить данные в более удобном формате.

#исследование

🎮 В Steam вышла игра This Girl Does Not Exist, почти полностью сгенерированная искусственным интеллектом.

Сюжет игры предполагает наличие нескольких женских персонажей с уникальной историей и голосом. Чтобы узнать больше о жизни героинь, игроку необходимо собрать несложный пазл.

Пользователи прохладно встретили проект. Одни опасались, что ИИ отнимет у них работу, другие — чувствовали «какие-то гадкие вибрации».

✊ Разработчики заявили, что готовились к подобной реакции. Они планируют продолжить работу над проектом.

#игры #GAN

📣 Nvidia на конференции GTC 2022 представила процессоры для обработки ИИ-задач и сервисы для разработчиков.

Среди новинок:
📌 видеокарты GeForce RTX 4090 и GeForce RTX 4080;
📌 ИИ-апскейлер для игр DLSS 3;
📌 система для автономных транспортных средств Drive Thor;
📌 сервис для создания языковых моделей NeMo LLM;
📌 облачная платформу Omniverse Cloud Services.

Также CEO компании Дженсен Хуанг сообщил о старте массового производства серверных чипов Nvidia H100.

https://forklog.com/news/nvidia-predstavila-novye-chipy-i-ii-servisy/

#Nvidia #чипы

🙅‍♂️ Аналитики Mozilla обнаружили, что действия пользователей с видео на YouTube не сильно влияют на поведение рекомендательных алгоритмов.

По словам исследователей, кнопка «Не нравится» влияла на рекомендации в 12% случаев, «Не интересует» — в 11%. Опции «Не рекомендовать видео с этого канала» и «Удалить из истории просмотров» оказались эффективнее — 43% и 29% соответственно.

Авторы доклада призвали YouTube учитывать отзывы зрителей и уменьшить количество нежелательного контента.

👎 Представители видеосервиса раскритиковали исследование. Алгоритмы рекомендаций намеренно продвигает часть нежелательных видео, чтобы пользователи не оказались в информационном пузыре.

https://forklog.com/news/algoritmy-rekomendatsij-youtube-obvinili-v-bespoleznosti/

#YouTube #исследование

🗑 Фотобанк Shutterstock удалил коллекцию изображений, созданную ИИ-системой Midjourney.

По данным Motherboard, вместо работ алгоритма система находит стоковые фотографии логотипа проекта. Ранее по запросу Midjourney сервис выдавал изображения, на которых отчетливо прослеживался стиль ИИ-художника.

Условия обслуживания Shutterstock не запрещают размещать контент, созданный искусственным интеллектом. В компании ситуацию не прокомментировали.

🙅‍♂️ Некоторые художники выступили против размещения ИИ-работ в фотобанках. По их словам, алгоритмические изображения генерируются на основе тысяч образцов, извлеченных из интернета и не являются оригинальными. Другие критики опасаются лишится дохода от выполнения индивидуальных заказов.

#GAN

🇺🇸 Федеральные торговая комиссия США (FTC) запустила расследование сделки на $1,7 млрд между Amazon и производителем роботов-пылесосов iRobot. Ведомство запросило у обеих компаний документы, объясняющие цель и обоснование слияния.

В iRobot заявили, что намерены сотрудничать со следствием и отвечать на все запросы комиссии. В Amazon отметили, что сделка не угрожает данным пользователей.

🔎 Вероятно, расследование продлится около года. После этого FTC может подать в суд, чтобы добиться блокировки слияния или уступок со стороны компаний.

#США #Amazon #iRobot

🚗 Tesla открыла доступ к бета-версии Full Self-Driving (FSD) для 160 000 водителей в США и Канаде. Об этом сообщил Илон Маск.

По данным TechCrunch, на сегодня около 100 000 владельцев Tesla имеют доступ к FSD. Таким образом, около 260 000 пользователей имеют возможность испытать систему помощи водителю, стоимость активации которой составляет $15 000.

📣 Также бизнесмен объявил о выходе новой версии FSD 10.69.2.2, содержащей ряд улучшений и исправлений.

#Tesla #транспорт

🚗 Cruise запустил доставку заказов из Walmart с помощью беспилотных автомобилей. Услуга доступна в городе Меса (Аризона, США).

Согласно анонсу, система самостоятельно определи возможность доставки заказа беспилотником и проинформирует об этом покупателя через СМС-сообщение. Если пользователь согласен, достаточно отправить Y в ответ.

💰 По словам представителей компании, доплачивать за беспилотную доставку не нужно.

#Cruise #транспорт

🔻 Доверие ИИ-алгоритмам для помощи в языковых и творческих задачах ухудшают производительность людей. Об этом говорится в исследовании Университета Джорджии.

Ученые провели эксперимент на 154 участниках. Их попросили пройти онлайн-тест на подбор ассоциаций к группам слов. Участникам предоставили возможность взять подсказку от алгоритма и человека. Также они могли менять свое решение в процессе теста.

🤖 По словам ученых, участники эксперимента в 92,3% случаев использовали подсказку алгоритма. Испытуемые заявили, что чувствуют себя более уверенными при использовании совета компьютера, а не человека. Но несмотря на это, участники на 13% реже выбирали правильные ответы, говорится в отчете.

Исследователи назвали склонность принимать алгоритмические советы, не обращая внимания на их качество, предвзятостью автоматизации.

#исследование