😵 Языковые модели галлюцинируют, поскольку стандартные процедуры обучения и оценки поощряют догадки, а не признание неопределенности, говорится в исследовании OpenAI.

«Галлюцинации — правдоподобные, но ложные утверждения, порождаемые языковыми моделями. Они могут проявляться неожиданным образом даже в ответах на, казалось бы, простые вопросы», — объяснили в компании.

Ошибки сохраняются отчасти потому, что современные методы оценки задают неверные стимулы, заставляя нейросети «догадываться» о следующем символе в ответе.

В качестве аналогии привели ситуацию, когда человек не знает верного ответа на вопрос в тесте, но может угадать и случайно выбрать правильный.

➡️ Подробнее о проблеме и способах ее решения читайте в нашем материале.

Новости | AI | YouTube

🍏 9 сентября Apple провела ежегодную презентацию, на которой представила новые iPhone и AirPods с ИИ-функциями, а также Apple Watch. Девайсы поступят в продажу 19 сентября.

Apple лишь несколько раз упомянула искусственный интеллект, в основном повторив обновления, объявленные еще в июне.

Ключевым новшеством стал автоматический перевод в наушниках AirPods. Функция позволяет вести беседу в реальном времени с носителем другого языка.

Apple заявила, что обновила GPU в своих чипах для искусственного интеллекта, благодаря чему они способны запускать большие языковые модели локально.

О долгожданном ребрендинге Siri ничего не сказано — ни о текущей версии, ни о грядущем обновлении с ИИ.

Сразу после окончания презентации акции Apple продемонстрировали снижение. Подобная динамика наблюдается каждый год. Портфельный менеджер Эндрю Фишер отметил, что падение связано с отсутствием инноваций. Другие пользователи поддержали мнение.

ИИ-евангелист Линус Экенстам обратил внимание, что Apple уже давно стремится уменьшить размер устройств в рамках подготовки к выпуску «носимых на лице компьютеров».

➡️ Подробнее.

Новости | AI | YouTube

🔥 Токенсейл TRUE стартует через два часа

В 20:30 (Киев/МСК) организация True Foundation проведет продажу токенов TRUE для создания самообучающейся децентрализованной биржи деривативов.

Средства направят на разработку платформы на базе L2-решения для Solana, которая объединит возможности ИИ с DeFi. Протокол будет обучаться на ончейн-данных, анализируя каждую сделку и действия пользователей для улучшения торговых алгоритмов.

Архитектура сочетает ZK-роллапы и деревья Веркла для быстрой и прозрачной обработки операций, а чат-бот позволяет открывать сделки с помощью простых команд.

Трейдинг становится проще: вместо графиков и кликов — общение и результат. Как ChatGPT изменил поиск, так ИИ меняет торговлю. С TRUE у каждого может быть свой трейдинг-ассистент‎, — отметили в команде.

🛒 Участвовать в токенсейле

👉 Подробнее на ForkLog

#sponsored

🌚 Эксперты обнаружили на теневых форумах новый ИИ-инструмент для автоматизации атак на электронную почту под названием SpamGPT. Его рекламируют как «революцию» для киберпреступников.

Платформа предназначена для взлома почтовых серверов, обхода спам-фильтров и организации массовых фишинговых кампаний.

SpamGPT сочетает возможности генеративного ИИ с набором инструментов для почтовых рассылок. Он снижает порог запуска спам- и фишинг-атак в больших масштабах.

➡️ Подробнее.

Новости | AI | YouTube

📊 40% сотрудников используют ИИ в работе, хотя в 2023 году показатель был в два раза ниже. Об этом говорится в новом исследовании Anthropic.

Анализ проводился для понимания частоты применения искусственного интеллекта в более чем 150 странах. Другие интересные цифры:

🔸 77% корпоративных клиентов Anthropic применяют нейросети для полной автоматизации задач;
🔸 программирование — вектор использования Claude в 36% случаев, образование выросло с 9% до 12%, наука с 6% до 7%;
🔸 стало больше делегирования — доля диалогов с передачей задач модели поднялась с 27% до 39%.

Более высокая адаптация коррелирует с увеличенными доходами. Так, Сингапур и Канада имеют сильную экономику и используют Claude выше среднего, в то время как развивающиеся страны вроде Индонезии и Нигерии используют ИИ в меньшей степени.

Новости | AI | YouTube

🤝 Google презентовала протокол с открытым исходным кодом, ориентированный на платежи в ИИ-приложениях.

Кроме классических методов оплаты, он также поддерживает стейблкоины. Среди партнеров по запуску — Coinbase и Ethereum Foundation, а всего в разработке приняли участие 60 компаний.

Новости | AI | YouTube

🧠 Сверхразумный искусственный интеллект может уничтожить человечество намеренно или случайно. Такое заявление сделал основатель института исследований машинного интеллекта Элиезер Юдковск в подкасте Hard Fork.

Эксперт видит угрозу в появлении сверхмощного ИИ, который будет умнее человека и абсолютно равнодушен к выживанию людей.

«Если у вас есть нечто очень-очень мощное и равнодушное к вам, оно, как правило, уничтожает вас — намеренно или как побочный эффект», — заявил он.

Юдковски соавтор новой книги If Anyone Builds It, Everyone Dies («Если кто-то построит это, умрут все»). Он на протяжении двух десятков лет предупреждает о сверхразумном ИИ как экзистенциальном риске для человечества. Главная мысль в том, что у людей нет технологии, которая позволит согласовать такие системы с человеческими ценностями.

➡️ Подробнее.

Новости | AI | YouTube