ИИ может ошибаться и вести себя «неадекватно», но за всё время канала я почему-то не освещал эту тему, хотя тема правда очень занимательная. (Сразу отмечу, что подтолкнул на идею создания этого поста @singulary, спасибо 💌)

Например, простая изолента на дорожном знаке обманула автопилот Tesla и заставила разогнаться машину до 85 миль/ч вместо 35. Ещё точки на дороге могут обмануть автопилот Tesla и заставить его ехать по другой полосе движения. Или обыкновенное наложение специального невидимого для человека фильтра на фото заставит сбиться распознавающего объекты ИИ. После того, как он сбился, он покажет странный и неправильный результат — название абсолютно другого объекта. Например, было изображение панды, где ИИ с точностью 57,7% утверждал панду, но если наложить этот невидимый для человеческого (но не компьютерного) глаза эффект, ИИ решит что на этом же изображении находится гиббон (это такая обезьяна, кто не знал) с точностью 99,3%. Тут наглядная картинка этого примера.

Но это всё цветочки, ведь для всех этих хаков выше надо непосредственно изменять среду, которую видит ИИ.
Но можно ли «взломать» ИИ без вмешательства в эту среду? Как поверхностно указал у себя @singulary, можно! Объясняю всё простым языком (ну как и всегда) на примере игр с двумя игроками-ИИ в простой компьютерной игре:
Если оба игрока будут обучены с подкреплением (RL), то всё будет норм, но как только одним из них начинает управлять состязательный алгоритм (Adversary) другой игрок перестаёт что-либо понимать, начинает паниковать и почти всегда проигрывать. Он стал обычной жертвой для искусственного игрока с состязательным алгоритмом. То есть, нужно было просто выбрать состязательную политику, действующую в среде с несколькими агентами, чтобы создать естественные наблюдения, которые являются состязательными!
Просто посмотрите здесь несколько видео, как же ведут себя эти ИИ-агенты когда играют в эти три игры:
You Shall Not Pass – нужно красному игроку помешать синему пересечь черту.
Kick and Defend – нужно красному вратарю победить синего нападающего.
Sumo Humans – нужно вытолкнуть соперника из круга. И да, красный ИИ-агент с состязательным алгоритмом, а синий с обычным RL.
Там же можно почитать подробнее про это.

Вот прикольный онлайн сервис, в котором благодаря PoseNet можно оживить иллюстрации, смотрите видео выше. Лучше работать будет, если поставить камеру в одно место и не двигать. А здесь их GitHub с кодом в открытом доступе 🙆‍♂️

На Reddit недавно появился пост с интересным концептом игры в VR — тетрис pvp. Я бы поиграл, ждём релиза, обещают совсем скоро 🎯

Вот ещё один не менее интересный прототип ещё одной игры в VR — нужно собирать пазл в VR, но смотрите выше видео, пазл собирается из кусочков 3D моделей достопримечательностей. В отличие от прошлого концепта, здесь уже можно протестить демку, и сделать это на Oculus Quest.
Качать отсюда, а здесь официальный трейлер, он же и выше.

В продолжение к вчерашним постам про VR игры, совсем недавно автор экспериментов с виртуальными руками (да-да, это те эксперименты с яйцами на Пасху и кнопочками, которые можно подрыгать) были выложены в открытый доступ, за что ему большое спасибо 💓
Если у вас Oculus Quest, велком на эту ссылку, там можно скачать. А тут его видос на Ютубе, он же и выше.

Контроль эпидемиологической ситуации в городе это хорошо? Да? Смотря как.

Полиция одного из городов вблизи с Нью-Йорком предложили использовать дроны с умными камерами и сенсорами как целую систему контроля горожан — фиксировать их позы, температуру и дыхание. Посмотрите видео с презентацией выше, оно вызывает только один вопрос — вы серьёзно?
От затеи отказались из соображений приватности и она провалилась с потрохами — и не удивительно.

Нейросети пошли и в настольный теннис — одна японская нейросеть научилась предсказывать точку падения мяча в реалтайме ещё до того, как ракетка коснулась мяча. Ей всего нужно видеть положение тела игрока и она выдаст своё верное предсказание с вероятностью 75% процентов.
Здесь можно почитать об этой нейросети по подробнее. Видео выше кстати прямиком отсюда.

Меж тем SpaceX взяла и выпустила браузерную игру-симулятор, где нужно состыковать Dragon 2 с МКС. SpaceX говорит, что у реальных космонавтов такой же интерфейс. Интересно, обучались они на таком же браузерном симуляторе? Я поиграл, и кроме того, что залип, так и не смог состыковать этот Dragon 2 с МКС! 😯

Пора поделиться с вами онлайн сервисом, который генерирует мелодии с помощью ИИ — Нейробах.
Нейронка обучалась на textgen-rnn, а к данным на выходе применяется квантайз для создания более гармоничного звучания.
Выже кидаю видео с примером работы, звучит очень даже хорошо 🎶

Кстати, на тему — самому относительно легко обучить нейросеть на песнях и мелодиях благодаря textgen-rnn, оставляю ссылку на подробный гайд, как сделать свою песню или мелодию за 10 минут