​​Wired: от хакера человека – к хакеру-компьютеру. Как скоро ИИ взломает человечество?

Дело не только в компьютерной безопасности. Предположим, мы ставим перед «джинном»-ИИ задачу: достичь определённой цели, к примеру роста экономики. Но как бы мы не формулировали её, всегда будет существовать опасность, что «злобный робот» интерпретирует её по-своему, ведь он не связан по виртуальным рукам и ногами ни моралью и нравственностью, ни полноценным пониманием контекста. И самое жуткое, что мы по итогу можем даже не понять, что пошло не так, ведь уже сегодня логика решений нейронных сетей непонятна даже специалистам.

Текст-предостережение колумниста Wired Брюса Шнейера, который стоит прочитать каждому!

«В 2015 году исследовательская группа предоставила системе искусственного интеллекта Deep Patient медицинские данные примерно 700000 человек и проверила, может ли она предсказывать заболевания. Как оказалось может, но Deep Patient не дает никаких объяснений диагноза, и исследователи понятия не имеют, как компьютер приходит к своим выводам. Врач может либо доверять компьютеру, либо игнорировать его, но это доверие остаётся слепым...».

https://theidealist.ru/hackhumanity/

#Wired #технологии #общество #ИИ #хакинг #безопасность #сингулярность