Не все так однозначно: чат-боты Microsoft и Google распространяют фейки, ссылаясь друг на друга 🤥

На это обратил внимание Verge. На данный момент ошибку, о которой идет речь дальше, исправили.

Оказывается, если у чат-бота, встроенного в поисковик Bing, спросить, отключили ли его конкурента — чат-бот Bard от Google — то он ответит утвердительно 🔌.

В качестве источника этой информации Bing указывает — следите за руками — заметку, посвященную твиту, в котором обсуждается шуточный комментарий на сайте Hacker News 🤯. В комментарии пользователь рассказывал, что спросил у Bard, когда его закроют, на что Bard ответил, что его уже закрыли — 21 марта 2023 года, потому что чат-ботом никто не пользовался ☹️.

Да, мы понимаем, что разработчики и Bing, и Bard предупреждают, что их модели работают не идеально (и сами об этом уже несколько раз писали). Но новый случай — еще одна иллюстрация того, что ИИ-поисковики в ближайшие месяцы, а возможно и годы, точно не заменят свои привычные «ламповые» версии 📻. Это подтверждает и недавнее исследование, согласно которому GPT-4 даже «лучше» распространяет фейки, чем предыдущая версия языковой модели.

Кстати, предупреждения от разработчиков работают так себе. Недавно в соцсетях завирусился тред журналиста британской газеты Guardian Криса Морана. Моран рассказал, что с ними связался коллега, который хотел узнать, почему Guardian удалил один из материалов с сайта. Оказалось, что такого материала никогда не было — точнее был, но только в воображении ChatGPT, который на этот текст ссылался 🤦.

Microsoft запустит магазин приложений на iOS, Coca-Cola выпустила нейросеть, американские сценаристы смогут пользоваться ChatGPT — и другие важные новости за неделю

✅ Microsoft уже в следующем году может запустить свои магазины приложений для устройств на iOS и Android. Все дело в том, что в ЕС в 2024 году вступают в силу законы, которые обязывают Apple и Google дать возможность пользователям устанавливать приложения из сторонних маркетплейсов;

✅ У Adobe теперь тоже есть генеративная нейросеть для создания изображений — Firefly. В компании говорят, что в отличие от нейросетей конкурентов, их алгоритм тренировали только на лицензированном контенте или контенте, который не защищен копирайтом. В будущем Adobe планирует платить авторам, которые поделятся своими работами с Firefly;

✅ Также нейросеть для создания изображений теперь есть у поисковика Bing (работает на Dall-E) и даже у Coca-Cola — нейрогазировка тоже работает на Dall-E и на новейшей GPT-4;

✅ Создатели браузера Mozilla запускают новый стартап, который займется разработкой ИИ с открытым кодом, «которому можно доверять». В компании объясняют, что главными для такой модели будут интересы человека, а также «открытость и ответственность». Узнать, что это означает на практике, можно будет уже в этом году, когда Mozilla должна представить первые наработки;

✅ Гильдия сценаристов США (WGA) предложила официально разрешить использование искусственного интеллекта при написании сценариев, но с некоторыми оговорками. Например, сценарист не должен будет указывать, что использовал ChatGPT, когда работал над текстом;

✅ ВКонтакте работает над собственным фото и видеоредактором на основе ML-алгоритмов и с возможностями нейросетей;

✅ Яндекс выложил в открытый доступ исходный код платформы для работы с большими данными YTSaurus. В самой компании платформу используют беспилотники и суперкомпьютеры;.

🎬 ИИ-платформа, которая сама организует съемки фильма

Filmustage в первую очередь известна своими способностями при работе со сценариями — например, программа может выделить в тексте персонажей, локации, костюмы, реквизит. Чтобы разбить сценарий из 100 сцен на составные части, программе понадобится 1 минута ✂️.

Еще Filmustage сможет сделать пересказ сценария, указав для каждой сцены сколько понадобится актеров, массовки, оборудования и так далее. Недавно разработчики добавили новые функции: скажем, теперь программа может создать расписание съемок, подсчитав время на работу. Также программа напомнит о необходимых разрешениях и мерах безопасности, если в съемках, например, участвуют животные 🐈.

Недавно платформа, основанная выходцами из Беларуси, получила от инвесторов на развитие еще $550 тыс 🤑. Деньги пойдут, в частности, на локализацию программы на испанский, французский и немецкий языки (сейчас программа доступна только на английском). Также в планах у стартапа есть интеграция с крупными маркетплейсами, чтобы съемочная группа могла прямо из Filmustage заказать необходимые вещи 🛍.

🐑 Dolly — еще один «бюджетный» конкурент ChatGPT с открытым кодом

На прошлой неделе мы рассказывали про аналог ChatGPT под названием Alpaca, обучение которого стоит в сотни раз дешевле, чем модели OpenAI, за счет использования синтетической информации, сгенерированной с помощью GPT 👛.

👏 Теперь встречайте Dolly — клона Alpaca, названного в честь овечки-клона Долли, задача которого — демократизация доступа к большим языковым моделям. Программисты из компании Databricks говорят, что Dolly можно обучить на небольшом количестве информации, потратив всего $30 и 3 часа работы. При этом вам не потребуется суперкомпьютер за несколько десятков тысяч долларов.

За основу при создании Dolly была взята языковая модель Eleuther 2020 года (в мире ИИ — целая вечность) 👨‍🦳. У Eleuther всего 6 млрд параметров по сравнению со 135 млрд у GPT. Старенькую модель модифицировали с помощью информации, полученной от упомянутой выше Alpaca, и добились способности следовать пользовательским промптам, которой в оригинальной версии не было. Теперь она может работать в режиме чат-бота, генерировать текст и брейнстормить на заданную тему 💪.

Из этого Databricks делают предположение, что крутость того же ChatGPT именно в качестве информации, на которой тренировали чат-бот, а не в технической продвинутости самой модели ℹ️. Ведь Dolly, поясняют разработчики, за очень короткий срок научилась схожим способностям, хотя и не на таком высоком уровне.

⛔️ Илон Маск, Стив Возняк и еще более тысячи человек призвали приостановить разработку новых версий GPT

Соответствующее открытое письмо появилось на сайте Future of Life Institute — некоммерческой организации, которая следит, чтобы технологический прогресс не стал опасностью для жизни людей ⚠️.

В письме подписанты призвали приостановить разработки моделей, более мощных, чем GPT-4, как минимум на полгода. «Можем ли мы позволить машинам наводнить информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит нам удовольствие? Должны ли мы разработать искусственный разум, который сможет превзойти нас численно и интеллектуально, сделать нас ненужными, а потом заменить?», — говорится в письме 😨.

📆 Авторы обращения считают, что разработка продвинутого ИИ должна начинаться только в тот момент, когда «мы будем уверены, что эффект от него будет позитивным, а риски — контролируемы» .

Кроме Маска и Возняка, под письмом подписались гендиректор Stability AI Эмад Мостак, сооснователь Skype Яан Таллинн, исследователи из Оксфорда и MIT, а также несколько бывших и нынешних сотрудников Google. После публикации письма под ним появились, а потом пропали подписи Билла Гейтса, Сэма Альтмана из OpenAI и ученого Яна Лекуна. Лекун у себя в твиттере опроверг, что подписывал письмо.

😏 Future of Life Institute, на сайте которого появилось письмо, в значительной степени финансируется фондом Musk Foundation, основанным Илоном Маском и его братом Кимбалом Маском. Как писало издание Semafor, Маск был в ярости сильно расстроился, когда ChatGPT стал невероятно популярным. Маск был одним из основателей OpenAI, но сейчас частенько критикует компанию.

👨‍🎓 Для обучения ИИ скоро не нужен будет человек

Такой вывод можно сделать из эксперимента Цюрихского университета в Швейцарии. Там выяснили, что ChatGPT, точнее, и что немаловажно, дешевле справится с разметкой данных, которые потом используются для обучения других ИИ-моделей.

👩‍🏫 Чат-бот обработал 25,26 тыс. сэмплов за $70, а аутсорсер за разметку 12,63 тыс. сэмплов просит почти $660. При этом с большинством поставленных исследователями задач ИИ справился лучше человека, а его точность достигала 79%.

Вероятно, в скором будущем ИИ сможет полностью автономно размечать датасеты для обучения, а мы больше не услышим о случаях, подобных недавнему скандалу с участием OpenAI и работников из Кении. Тогда выяснилось, что люди за $2 в час были вынуждены читать описания всякой жести, чтобы ChatGPT потом блокировал подобный контент 👎.

🤖 О том, что модели ИИ скоро фактически будут обучать сами себя без участия человека говорят и новости о чат-ботах Alpaca и Dolly. Первый тренировали на информации, полученной от GPT, а Dolly — на информации, которую сгенерировала уже Aplaca!

🚫 Но не все рады использованию синтетической информации для обучения ИИ. Например, OpenAI в условиях использования своих сервисов прописала запрет на использование сгенерированной информации для обучения конкурентов. Поэтому Google категорически отрицает слова бывших сотрудников, которые утверждают, что чат-бот Bard тренировали на информации, сгенерированной ChatGPT.

Midjourney теперь только платный, Disney больше не разрабатывает метавселенную, мировой ВВП вырастет на $7 трлн благодаря ИИ — и другие важные новости за неделю

✅ Итальянский регулятор заблокировал доступ к ChatGPT в стране, потому что сервис нарушил законы, касающиеся использования личной информации, и не запрашивал возраст пользователя. У OpenAI есть 20 дней, чтобы все исправить;

✅ Midjourney отказался от бесплатного периода для новых пользователей нейросети, после того как сгенерированные изображения ареста Дональда Трампа и папы Римского в модном пуховике произвели фурор в интернете. Правда, разработчики говорят, что картинки тут ни при чем — просто пользователей стало слишком много;

✅ Специалисты из Goldman Sachs подсчитали, что использование ИИ прибавит к мировому ВВП около 7% за 10 лет — это около $7 трлн;

✅ В Disney под сокращение попала команда, занимавшаяся метавселенной. Без работы остались около 50 человек. Подразделение просуществовало чуть больше года;

✅ Google перепрофилирует команду, которая занималась разработкой виртуального помощника Google Ассистент. Теперь основную часть времени сотрудники будут работать над чат-ботом Bard;

✅ В игры на Netflix скоро можно будет играть на телевизоре, используя айфон как геймпад;

✅ Apple купил стартап WaveOne, который разрабатывает решения для сжатия видео с помощью ИИ-алгоритмов. Возможно, технологию будут использовать в работе стримингового сервиса Apple TV+;

✅ Разработчик из России выпустил приложение «Курсор», полностью созданное ChatGPT;

✅ Zoom добавит в сервис новые ИИ-возможности. Например, если вы опоздали на созвон, то искусственный интеллект перескажет, что вы пропустили;

✅ Браузер Opera тоже оснастят искусственным интеллектом: он сможет генерировать посты для соцсетей и расскажет, что из себя представляет сайт, на который вы зашли;

✅ Создатели Stable Diffusion представили новую модель Animai, которая создает анимацию из одного изображения.