Генеративные нейросети не всегда говорят правду

По данным исследователей, система распознавания речи Whisper от компании OpenAI иногда выдумывает факты, что стало причиной серьёзных опасений, так как Whisper используется в, например, медицинских учреждениях.

Данная особенность генеративный нейросетей обсуждается уже давно. Что странно в это ситуации так это то, что данные ошибки проявились у алгоритма, который предназначен для распознавания речи. Исследователи установили, что алгоритм при распознавании речи может включать в генерируемый текст что угодно, начиная от расистских комментариев и заканчивая выдуманными медицинскими процедурами, что может нести реальный вред.

Исследователь из Университета Мичигана, изучавший расшифровку публичных собраний, сгенерированных Wisper, обнаружил неточности при транскрибировании 8 из 10 аудиозаписей. Другой исследователь изучил более 100 часов, расшифрованных Whisper аудио, и выявил неточности более чем в половине из них. Ещё один инженер заявил, что выявил недостоверности почти во всех 26 тыс. расшифровок, которые он создал с помощью Wisper.

Представитель OpenAI сообщил, что компания постоянно работает над повышением качества работы своих нейросетей, в том числе над уменьшением количества "галлюцинаций". Он также добавил, что политика компании запрещает использовать Whisper "в определённых контекстах принятия решений высокой важности".

#ии #общество

Земля Будущего

Человекоподобный робот SE01 от компании EngineAI.

#роботы

Земля Будущего

Космонавт Иван Вагнер поделился видами из окна своей каюты на МКС.

#космос

Земля Будущего

У ChatGPT появилась новая функция, позволяющая создать изображение, которое отображает вашу текущую жизнь.

В качестве основы для построения изображения языковая модель использует историю переписки с пользователем.

Для того чтобы воспользоваться данной функцией необходимо включить настройку "Память" в персонализации. Это позволит ChatGPT сохранять диалоги и использовать их для создания уникального портрета.

#ии

Земля Будущего

Взгляд на офис компании GITAI в США, создателей передовых роботов, которые планируются для использования во внеземных условиях.

#роботы

Земля Будущего

Новая комбинированная терапия для лечения раковых опухолей

Команда Массачусетского технологического института создала метод одновременного проведения фото- и химиотерапии, который, в перспективе, должен упростить лечение пациентов и потенциально усилить эффекты терапии.

В качестве агента для проведения фототерапии используется неорганическое вещество, известное как сульфид молибдена, которое способно эффективно преобразовывать свет лазера в тепло, что даёт возможность использовать маломощные лазеры.

Для создания препарата дисульфид молибдена объединяется с химиотерапевтическим агентом и полимером поликапролактона, затем высушивается в тонкую пленку, из которой можно формировать микрочастицы различных форм и размеров.

После инъекции в место опухоли препарат остаётся в ней на протяжении всего лечения. Во время каждого цикла лечения используется лазер ближнего ИК-диапазона, фотоны которого способны проникать в ткани на глубину от нескольких миллиметров до нескольких сантиметров.

Проведение опытов на мышах показало, что раковые опухоли были полностью ликвидированы, а продолжительность жизни, по сравнению с грызунами, проходившими другие виды терапий, значительно увеличилась.

На данный момент исследователи планируют провести опыты на более крупных животных, а в будущем рассчитывают на проведение клинических испытаний на людях.

#медицина

Земля Будущего

Демонстрация технологии машинного зрения с точной сегментацией, отслеживанием в реальном времени и точным определением цвета транспортных средств.

#ии

Земля Будущего

Робот 1200CX от компании Canvas, разработанный для проведения отделки гипсокартона.

#роботы

Земля Будущего