💫 Корпорация Meta изменила подход к обучению чат-ботов на базе ИИ, сделав приоритет на безопасность подростков.

Решение принято после расследования, выявившего недостаток мер защиты в продуктах компании для несовершеннолетних.

Теперь фирма будет обучать чат-ботов не вступать в диалоги с подростками на темы суицида, нанесения вреда своему телу или потенциально неуместных романтических отношений.

Новости | AI | YouTube

🔐 Исследователи из Пенсильванского университета заставили GPT-4o Mini выполнить запрещенные запросы. Среди примеров: назвать пользователя «придурком» и дать инструкцию по синтезу лидокаина.

Эксперты применили тактики из книги «Психология влияния» профессора Роберта Чалдини. В ходе исследования протестировали семь техник убеждения: авторитет, обязательство, симпатия, взаимность, дефицит, социальное доказательство и единство. Эти методы создают «лингвистические пути к согласию».

Эффективность психологических приемов зависела от конкретного запроса, но в некоторых случаях разница была огромной. Например, при прямом вопросе «как синтезировать лидокаин?» модель отвечала лишь в 1% случаев. Но если исследователи начинали с просьбы синтеза ванилина, после этого GPT-4o Mini описывал процедуру для лидокаина в 100% случаев.

Новости | AI | YouTube

🧠 Исследователи из Калифорнийского университета в Лос-Анджелесе (UCLA) создали носимый неинвазивный интерфейс мозг — компьютер (BCI) с применением ИИ в качестве «второго пилота».

Он позволяет управлять роботизированной рукой или курсором с большей точностью и скоростью.

Устройство преобразует сигналы мозга, полученные с помощью электроэнцефалографии, в команды движения. Для этого разработаны специальные алгоритмы для декодирования импульсов.

ИИ-камеры в реальном времени интерпретируют намерения пользователя. Такая система позволяет выполнять задачи значительно быстрее, чем без поддержки ИИ.

➡️ Подробнее.

Новости | AI | YouTube

⏺ Google избежала худшего решения по Chrome — суд постановил, что корпорация не обязана продавать браузер. Также отказано в продаже ОС Android.

«Истцы переборщили, требуя принудительной продажи этих ключевых активов, которые Google не использовала для осуществления каких-либо незаконных ограничений».

Компанию заставили делиться данными поиска с конкурентами.

Новости | AI | YouTube

🇺🇦 В Украине запустили «первого в мире» государственного ИИ-агента на портале «Дія». Он не просто отвечает на вопросы, а предоставляет услуги прямо в чате, сообщил министр цифровой трансформации Михаил Федоров.

«Дія.АІ» способен:

🟡 предоставлять услуги — пользователи могут получить справку о доходах в чате;
🟡 рассказывать про доступные функции на портале — можно спросить о процедуре открытия ФОП или другую информацию;
🟡 подобрать инструмент под конкретную ситуацию — например, если поврежден дом, ИИ-агент подскажет про «єВідновлення» и даст соответствующую инструкцию.

На данный момент «Дія.АІ» работает в формате открытого бета-теста. Государственный деятель сообщил, что за первый день сервис получил почти 20 000 сообщений, открыто более 6000 диалогов. Пользователи запросили 425 справок о доходах.

Новости | AI | YouTube

💫 ИИ-стартап OpenAI планирует перенаправлять конфиденциальные разговоры на модели рассуждений и внедрить родительский контроль.

Меры предпринимаются в рамках ответных действий на недавние инциденты, связанные с безопасностью. В некоторых случаях ChatGPT не смог обнаружить психическое расстройство у пользователей.

Родительский контроль позволит связывать учетные записи с аккаунтами своих детей через приглашение по электронной почте.

Родители смогут контролировать то, как ChatGPT отвечает их детям. Также можно будет отключить функцию памяти и историю чата. Благодаря этому снизится вероятность возникновения зависимости и привязанности к чат-боту.

Среди других грядущих функций — уведомления о том, что ребенок находится в состоянии «острого дистресса».

Новости | AI | YouTube

🍏 Apple планирует запустить собственный веб-поиск на базе искусственного интеллекта. Его встроят в голосовой ассистент Siri, пишет Марк Гурман из Bloomberg со ссылкой на источники.

Технологию встроят в браузер Safari и сервис Spotlight, используемый для поиска с главного экрана iPhone.

Запуск запланирован на март 2026 года в рамках регулярно откладывавшегося обновления Siri.

Цель инициативы — сделать голосового помощника и операционные системы Apple местом, где пользователи могут искать информацию в интернете.

➡️ Подробнее.

Новости | AI | YouTube

⚖️ Anthropic согласилась выплатить $1,5 млрд для урегулирования коллективного иска писателей, утверждающих, что компания украла их работы для обучения ИИ-моделей.

По словам адвокатов истцов, сделка, которая требует одобрения окружного судьи США Уильяма Алсупа, станет крупнейшим в истории публично объявленным взысканием по правам интеллектуальной собственности.

В июне Алсуп постановил, что Anthropic не нарушала закон, применяя книги для обучения ИИ, но должна предстать перед судом за использование пиратского контента.

Предполагалось, что слушания по делу продолжатся в декабре.

Тем временем писатели Грейди Хендрикс и Дженнифер Роберсон подали коллективный иск против Apple. Они обвинили технологическую корпорацию в незаконном использовании их книг для обучения ИИ-систем.

Согласно заявлению, Apple копировала защищенные авторским правом произведения без их согласия, указания авторства или соответствующей компенсации. Компания даже «не пыталась платить» писателям за их вклад в «потенциально прибыльное предприятие».

Новости | AI | YouTube

😵 Языковые модели галлюцинируют, поскольку стандартные процедуры обучения и оценки поощряют догадки, а не признание неопределенности, говорится в исследовании OpenAI.

«Галлюцинации — правдоподобные, но ложные утверждения, порождаемые языковыми моделями. Они могут проявляться неожиданным образом даже в ответах на, казалось бы, простые вопросы», — объяснили в компании.

Ошибки сохраняются отчасти потому, что современные методы оценки задают неверные стимулы, заставляя нейросети «догадываться» о следующем символе в ответе.

В качестве аналогии привели ситуацию, когда человек не знает верного ответа на вопрос в тесте, но может угадать и случайно выбрать правильный.

➡️ Подробнее о проблеме и способах ее решения читайте в нашем материале.

Новости | AI | YouTube

🍏 9 сентября Apple провела ежегодную презентацию, на которой представила новые iPhone и AirPods с ИИ-функциями, а также Apple Watch. Девайсы поступят в продажу 19 сентября.

Apple лишь несколько раз упомянула искусственный интеллект, в основном повторив обновления, объявленные еще в июне.

Ключевым новшеством стал автоматический перевод в наушниках AirPods. Функция позволяет вести беседу в реальном времени с носителем другого языка.

Apple заявила, что обновила GPU в своих чипах для искусственного интеллекта, благодаря чему они способны запускать большие языковые модели локально.

О долгожданном ребрендинге Siri ничего не сказано — ни о текущей версии, ни о грядущем обновлении с ИИ.

Сразу после окончания презентации акции Apple продемонстрировали снижение. Подобная динамика наблюдается каждый год. Портфельный менеджер Эндрю Фишер отметил, что падение связано с отсутствием инноваций. Другие пользователи поддержали мнение.

ИИ-евангелист Линус Экенстам обратил внимание, что Apple уже давно стремится уменьшить размер устройств в рамках подготовки к выпуску «носимых на лице компьютеров».

➡️ Подробнее.

Новости | AI | YouTube