​​Wired: ИИ научился писать компьютерный код как человек - с теми же ошибками

Всё больше областей человеческой деятельности автоматизируется, причём процесс касается не только простых работ, но и вполне себе интеллектуальных, таких как программирование. Конечно, пока компьютер не может писать полноценные программы как человек, зато сильно упрощает стандартные задачи. К сожалению, без ложки дёгтя не обходится: оказалось, что машина, обучавшаяся на примерах человеческого кода, «выучила» и ошибки, которые совершает человек. А так как контекст задачи она не понимает, то и исправить их без «кожаного мешка» не представляется возможным.

«Хаммонд Пирс, занимающийся анализом кода Copilot, говорит, что программа иногда выдает проблемный код, потому что не до конца понимает, что пытается сделать тот или иной фрагмент. «Уязвимости часто возникают из-за неясности контекста, который должен знать разработчик... мы как индустрия упорно работали над тем, чтобы уйти от решений «скопировать-вставить», а теперь Copilot создал суперверсию этого подхода».

https://theidealist.ru/aicancode/

#Wired #технологии #ИИ #программирование #copilot