ForkLog AI
11.1K subscribers
1.55K photos
267 videos
12 files
5.12K links
Культовый журнал об искусственном интеллекте, нейронках и машинном обучении.


Наши эксперименты с нейронными сетями: https://www.tiktok.com/@forklogai.

Реклама на ForkLog: https://forklog.com/advertisement/
Download Telegram
🇺🇸 Администрация президента США Джо Байдена изучит вопрос о необходимости установления правил для систем искусственного интеллекта вроде ChatGPT.

Министерство торговли США запустило сбор комментариев о том, должны ли потенциально рискованные ИИ-модели проходить процесс сертификации перед их выпуском.

📅 Публичное обсуждение продлится до 10 июня 2023 года. По словам представителя министерства, комментарии помогут ведомству сформулировать рекомендации для политиков о том, как подходить к вопросам ИИ.

https://forklog.com/news/ai/v-ssha-razrabotayut-pravila-dlya-generativnyh-ii-modelej

#США #регулирование
🤑 OpenAI объявила о запуске программы вознаграждения за обнаружение ошибок в ее системах, чтобы помочь устранить растущие риски кибербезопасности.

Проект создан в партнерстве с краудсорсинговой платформой Bugcrowd. Независимые исследователи могут сообщить об уязвимостях в системах OpenAI в обмен на финансовое вознаграждение в размере от $200 до $20 000.

☝️ Однако ряд угроз выходят за рамки программы. Среди них джейлбрейки и обходы безопасности, принуждение модели «говорить плохие вещи» и генерирование вредоносного кода.

https://forklog.com/news/ai/openai-zapustila-baunti-programmu-s-voznagrazhdeniem-do-20-000

#OpenAI
⚙️ СМИ: Илон Маск приобрел 10 000 графических процессоров для внедрения генеративного ИИ в Twitter.

По данным Business Insider, спустя более месяца после найма бывших сотрудников DeepMind соцсеть продвигает собственный проект с искусственным интеллектом. Приобретенные Маском GPU используют в одном из двух дата-центров компании для создания большой языковой модели (LLM). Проект пока находится на ранней стадии, пишет издание.

🗂 Сообщается, что Twitter планирует обучать LLM на собственном огромном массиве данных. Неизвестно, как соцсеть намерена применять генеративный ИИ. Возможно, технологию используют для расширения возможностей поиска на платформе или переосмысления рекламного бизнеса.

#Twitter #LLM
🤖 Полиция Нью-Йорка вернула Спота от Boston Dynamics на службу. В 2021 году департамент «уволил» робопса из-за негативной реакции общественности.

Правоохранители планируют приобрести два устройства за $750 000. Они намерены использовать робопсов только при угрозах взрывов, в ситуациях с заложниками или других опасных для жизни людей сценариях.

🗣 По словам мэра Нью-Йорка Эрика Адамса, технологии уже здесь и их не нужно бояться. Споты способны помочь «спасти жизни», добавил он.

Адамс и полицейские также сообщили, что тестируют полностью автономного робота наружной безопасности K5 ASR от Knightscope. Его намерены использовать для сбора разведданных.

🙅‍♂️ Комиссарка полиции Нью-Йорка Кичант Сьюэлл заявила, что внедрение технологий будет «прозрачным, последовательным и осуществляемым в сотрудничестве с людьми». Спот и K5 ASR не станут использовать распознавание лиц, отметила она.

#США #роботы
👀 Исследователи из Google и Стэнфордского университета запустили искусственное общество с ИИ-агентами «Смолвиль».

В закрытом мире 25 персонажей просыпаются, готовят завтрак, взаимодействуют друг с другом и веселятся. Для этого ученые вводят в ChatGPT сведения о каждом агенте вроде его профессии и отношений с другими ИИ. Затем они запускают симулятор «человеческого поведения».

💭 Агенты способны анализировать окружение и использовать «воспоминания» для определения действий. Также персонажи могут размышлять, генерировать новые идеи и строить долгосрочные планы.

Спустя некоторое время после запуска симуляции ученые «опросили» персонажей. Некоторые сделали карьеру, а агент по имени Сэм решил баллотироваться на пост мэра города благодаря «многолетней политической практике».

🤔 Исследователи считают, что возможность создавать реалистичные симуляции человеческого поведения станет полезной для различных виртуальных пространств, включая активации NPC в играх.

#исследование #Google
🇺🇸 В Агентстве национальной безопасности США предупредили о возможном использовании ИИ-систем вроде ChatGPT для разработки атак.

По словам главы отдела кибербезопасности АНБ Роба Джойса, возможно, чат-боты пока не могут осуществить масштабное заражение сетевыми червями или повторить взлом Colonial Pipeline. Однако они способны помочь преступным группировкам и государственным хакерам, отметил он.

Джойс заявил, что в ближайшей перспективе не ожидает увидеть ИИ для автоматических атак, проникающих в ИТ-системы «с немыслимой на сегодня скоростью». Машинное обучение и чат-боты только «инструменты, которые будут развиваться и увеличивать темпы распространения угрозы», добавил он.

☝️ По словам Джойса, такое ПО могут использовать для создания более аутентичных фишинговых приманок и качественных записок с требованием о выкупе, а также сканирования больших массивов данных в поисках конфиденциальной информации. Также оно способно помочь в разработке некоторых стадий кибератак.

#США #мнение
⚙️ Amazon представила симулятор Alexa Arena для разработки воплощенных ИИ-агентов. Исходный код проекта доступен на GitHub.

По данным Amazon, в отличие от конкурентов Alexa Arena предлагает ориентированные на пользователя возможности вроде непрерывных фоновых анимации и звуков, плавных визуальных эффектов во время навигации и встроенных в сцену подсказок.

Воплощенные ИИ-агенты способны по запросу взаимодействовать с соответствующими объектами или областями в моделируемой среде. Также их можно обучить следовать инструкциям на естественном языке.

👀 Amazon планирует развивать платформу, добавляя новые функции и смоделированные сценарии.

#Amazon #роботы
🇺🇸 Американские венчурные капиталисты поддержали запрет на инвестиции в китайские ИИ-фирмы. Об этом сообщил глава спецкомитета Палаты представителей США по Китаю Майк Галлахер.

По его словам, встреча с лидерами Кремниевой долины прошла с «осторожным оптимизмом», а инициатива получила «широкую поддержку». Американские технологические компании «не хотят, чтобы США финансировали их проигрыш в гонке ИИ», добавил он.

🗣 Конгрессмен признал наличие ряда нерешенных вопросов. В комитете пока не решили, в каком формате продолжат диалог с заинтересованными сторонами.

https://forklog.com/news/ai/ssha-namereny-zapretit-investitsii-v-kitajskij-ii

#США #Китай
Лейбл Universal Music Group (UMG) призвал потоковые платформы вроде Spotify и Apple блокировать ИИ-сервисы, извлекающие мелодии и тексты из песен.

По данным Financial Times, компания разослала стриминговым сервисам письмо с требованием закрыть доступ к своему музыкальному каталогу для разработчиков, использующих его для создания генеративного искусственного интеллекта.

☝️ Представитель UMG заявил, что лейбл несет моральную и коммерческую ответственность перед артистами за работу по защите их авторских прав.

https://forklog.com/news/ai/universal-music-prizval-strimingi-udalyat-ii-muzyku

#музыка
💬 Databricks представила открытую большую языковую модель (LLM) Dolly 2.0. Ее можно использовать в исследовательских и коммерческих целях.

Алгоритм с 12 млрд параметров основан на семействе моделей EleutherAI Pythia. Для его обучения сотрудники Databricks создали набор данных, включающий 15 000 пар «запрос-ответ». В соответствии с условиями лицензирования датасет можно использовать, менять или расширять для любых целей, включая коммерческих.

☝️ По словам разработчиков, Dolly 2.0 умеет генерировать текст только на английском языке и способна создавать токсичный контент. Также знания и точность LLM ограничены, добавили в компании.

#Databricks #LLM
🇮🇹 Управление по защите данных Италии (GPDP) опубликовало список мер, которые должна предпринять OpenAI для разблокировки ChatGPT. Компании необходимо выполнить требования до 30 апреля 2023 года.

Регулятор заявил, что ИИ-лаборатория должна разместить на своем веб-сайте описание механизмов и логики обработки информации для ChatGPT, а также указать предоставляемые субъектам данных права. Кроме того, итальянским пользователям потребуется подтвердить, что им исполнилось 18 лет перед завершением регистрации.

📆 До конца сентября 2023 года компании необходимо ввести возрастные ограничения для использования чат-бота.

GPDP потребовало от OpenAI внедрить «легкодоступные инструменты», которые предоставят лицам, не являющимся пользователями, возможность отказаться от обработки личных данных.

📢 Также до 31 мая 2023 года ИИ-лаборатории требуется провести через «радио, телевидение, газеты и интернет» рекламную кампанию, информирующую граждан о методах сбора конфиденциальной информации и том, как ее используют для обучения ИИ.

#Италия #OpenAI #чатботы
🚕 Пять роботакси Waymo заблокировали движение в Сан-Франциско из-за тумана. Водителям пришлось объезжать пробку.

В компании заявили, что, столкнувшись с очень густым туманом, автомобили без операторов безопасности за рулем «решили ненадолго остановиться». Они возобновили движение, когда погода улучшилась. По словам очевидцев, это заняло несколько минут.

⚙️ Waymo планирует обновить ПО беспилотников с целью улучшения производительности в условиях тумана и связанных с парковкой задачах, чтобы избежать подобных ситуаций в будущем.

#Waymo #транспорт
🤑 Подразделение Sony Semiconductor Solutions (SSS) инвестирует в Raspberry Pi Ltd для предоставления разработчикам доступа к граничным ИИ-технологиям. Сумма сделки не разглашается.

В рамках сотрудничества SSS предоставит пользователям Raspberry Pi возможность применять ИИ-платформу Aitrios. Она позволяет создавать алгоритмы, которые используют данные с камер или других датчиков и работают на периферии в средах с низким энергопотреблением.

Технологи смогут применять разработчики моделей распознавания изображений для сенсоров или производители видеоустройств, которые планируют интегрировать возможности ИИ в свое оборудование.

#Sony #разработка #инвестиции
👥 Nvidia заявила, что около 70% владельцев десктопных видеокарт GeForce RTX используют ИИ-апскейлер изображений DLSS. В 2018 году технологию активировали только 26% пользователей.

Компания проанализировала информацию миллионов владельцев десктопных ускорителей за февраль 2023 года. По ее данным, DLSS задействуют 79% пользователей видеокарт GeForce RTX 40, 71% — GeForce RTX 30 и 68% — GeForce RTX 20.

📈 В Nvidia также добавили, что скорость внедрения третьей версии ИИ-апскейлера в семь раз выше, чем у его предшественника.

#Nvidia #игры
⚙️ Amazon представила сервис Bedrock для AWS, позволяющий разработчикам использовать и настраивать модели генерации текста и изображений. Инструмент доступен через API.

Клиенты AWS могут использовать Bedrock для создания чат-ботов, написания и суммирования текста, а также классификации изображений на основе текстовых подсказок. На платформе доступны как собственные модели компании, так и алгоритмы сторонних разработчиков.

🧑‍💻 Кроме этого, Amazon открыла доступ к бесплатному ИИ-ассистенту CodeWhisperer. Инструмент поддерживает 15 языков программирования, интеграцию с различными средами разработки, а также помогает фильтровать код.

https://forklog.com/news/ai/amazon-predstavila-oblachnuyu-ii-platformu-bedrock

#Amazon
🇺🇸 Американский сенатор Чак Шумер предложил на законодательном уровне проводить независимый публичный аудит коммерческих продуктов ИИ перед их запуском.

Он заявил, что разработал структуру для регулирования разработки, развертывания и использования передовых технологий машинного обучения. Бум генеративного ИИ и действия Китая по его ограничению сделали вопрос контроля моделей в США актуальным, считает сенатор.

🤔 Шумер пока не опубликовал документ. Он намерен учесть мнения ученых, предпринимателей и политиков при трансформации плана в законопроект.

https://forklog.com/news/ai/v-ssha-razrabotayut-vseobemlyushhee-zakonodatelstvo-dlya-ii

#США #регулирование
👤 Сооснователь Ethereum Виталик Бутерин опубликовал запись в блоге о ChatGPT.

Он отметил, что чат-бот не может напрямую давать точные ответы. Однако инструмент «особенно хорош» для обучения использованию некоторых библиотек и API, о которых Бутерин никогда раньше не слышал, но другие использовали.

☝️ По его словам, это снижает барьеры между любителями и профессионалами в программировании, что «кажется положительным моментом».

#чатботы #мнение
💬 Агентство Bloomberg разработало большую языковую модель BloombergGPT, способную отвечать на вопросы из финансовой отрасли и бизнеса.

Алгоритм с 50 млрд параметров построен на базе той же технологии, что и OpenAI GPT. По данным компании, их нейросеть «со значительным отрывом» превосходит открытые модели аналогичного размера в финансовых и NLP задачах.

BloombergGPT может определять, являются ли заголовки новостей медвежьими или бычьими для инвесторов. Нейросеть умеет заменять названия компаний на биржевые котировки, обнаруживать важные наименования в документации и отвечать на вопросы о бизнесе.

📝 Также технология обладает некоторыми возможностями генеративного ИИ. Например, может писать заголовки материалов на основе коротких аннотаций.

https://forklog.com/news/ai/bloomberg-predstavila-chat-bota-dlya-finansovogo-rynka

#Bloomberg #LLM
This media is not supported in your browser
VIEW IN TELEGRAM
🌐 Meta открыла ИИ-систему Animated Drawings для анимирования рисунков разработчикам.

В течение нескольких месяцев после запуска веб-версии инструмента пользователи предоставили компании более 1,6 млн различных изображений для обучения алгоритма. Также они попросили расширить систему возможностью добавления звуковых эффектов и текста, что свидетельствует об интересе к проекту.

🗂 Meta опубликовала исходный код инструмента и датасет со 180 000 рисунков. Также компания призвала разработчиков к «развитию и расширению» проекта.

#Meta #разработка
Ведущие правозащитные группы выступили против запрета TikTok в США.

Human Rights Watch, Amnesty International, Американский союз защиты гражданских свобод (ACLU) и другие организации заявили, что блокировка приложения ограничит права людей на свободу слова. Запрет видеоплатформы не обеспечит конфиденциальность граждан США, считают они.

☝️ В Human Rights Watch также добавили, что возможная блокировка TikTok не соответствует международным стандартам в области прав человека.

По словам директорки по соцсетям и мерчендайзингу ACLU Эмили Паттерсон, запрет также помешает организации через приложение распространять образовательный контент, разоблачать дезинформацию и отвечать на вопросы о социальных проблемах.

👥 В Human Rights Watch указали аналогичные преимущества TikTok и добавили, что сервис позволяет группе охватить совершенно новую демографическую группу: людей в возрасте от 18 до 24 лет.

#США #TikTok
🖼 Stability AI представила бета-версию генератора изображений по тексту Stabile Diffusion XL (SDXL) для корпоративных клиентов.

Модель с 2,3 млрд параметров является улучшенной версией алгоритма Stable Diffusion 2.1. По данным компании, новая система отличается фотореализмом в генерации лиц, композицией на картинках и возможностью обрабатывать заведомо сложные части изображений, включая текст и руки.

🙅‍♂️ В Stability AI добавили, что нейросеть не требует очень подробных подсказок для создания более качественных иллюстраций с разрешением 512×512 пикселей.

Сгенерированные с помощью SDXL картинки затем можно обработать через ИИ-сервис Dream Studio.

⚙️ Компании могут интегрировать модель в свои продукты, используя API.

#StabilityAI