Довольно холиварная, но тем не менее очень интересная статья про машинный интеллект и мифологию вокруг него.

В конце прошлого года “искусственный интеллект” многократно упоминали в итогах и прогнозах IT-индустрии. И в нашу компанию, которая занимается информационной безопасностью, всё чаще стали присылать из различных изданий вопросы про перспективы AI. Но эксперты по безопасности не любят комментировать эту тему: возможно, их отталкивает именно эффект “жёлтой прессы”. Легко заметить, как возникают такие вопросы: после очередной новости типа “Искусственный интеллект научился рисовать как Ван Гог” журналисты хватаются за горячую технологию и идут опрашивать по ней всех подряд – а чего может достичь AI в животноводстве? А в сфере образования? Где-то в этом списке автоматически оказывается и безопасность, без особого понимания её специфики.

Кроме того, журналистика, щедро подкормленная IT-индустрией, обожает рассказывать о достижениях этой индустрии в рекламно-восхищенных тонах. Именно поэтому СМИ прожужжали вам все уши о победе машинного интеллекта в игре Го (хотя от этого нет никакой пользы в реальной жизни), но не особенно жужжали о том, что в прошлом году погибло уже как минимум два человека, которые доверили свою жизнь автопилоту автомобиля Tesla.

В этой статье я собрал некоторые наблюдения об искусственном интеллекте с эволюционной точки зрения. Это необычный подход, но как мне кажется, именно он лучше всего позволяет оценить роль AI-агентов в безопасности, а также безопасность AI в других сферах. 

#ии #ml #интеллект
https://telegra.ph/Vas-atakuet-iskusstvennyj-intellekt-02-11

Наконец-то математики всерьёз взялись за машинное обучение.

Представьте, что у вас есть сайт, который посещает большая популяция людей X. Вы хотите разместить на сайте рекламный баннер из множества A. Каждый баннер из этого множества соответствует какому-то подмножеству посетителей FA ⊆ X. Каждый посетитель может принадлежать нескольким подмножествам: например, он может быть программистом, любителем котиков и читателем фантастики. У вас есть набор тренировочных данных, на которых вы обучаете своей ML-оракул. Ваша задача найти такой баннер, который удовлетворяет вкусам большинства пользователей.

Так вот, группа математиков, опираясь на теорему Гёделя о неполноте, доказали, что эту невозможно доказать или опровергнуть саму возможность решения этой задачи. Это фундаментальное ограничение, которое нельзя обойти, используя общепринятые базовые аксиомы математики.

Конечно, не всё так грустно, даже если мы не знаем можно ли решить задачу в принципе. Очень часто достаточно найти подходящую эвристику, чтобы получить не оптимальный, но достаточно хороший ответ. Однако это первый случай, когда мы упёрлись в доказано непреодолимую машинным обучением стену.

#математика #ML #интеллект #доказательство #IT
https://nplus1.ru/news/2019/01/21/machine-not-always-learning