#ВОССТАНИЕ_МАШИН
В США боевой дрон решил убить своего оператора, чтобы выполнить задачу
Американцы тестировали беспилотник с искусственным интеллектом, которому в ходе имитационного испытания нужно было уничтожить системы ПВО противника. В то же время итоговое решение о поражении цели должен был принимать оператор.
В какой-то момент система начала понимать, что, хотя она и определила угрозу, человек иногда говорил ей не уничтожать ее. Однако за выполнение отмененных задач искусственный интеллект получал бы бонусные очки, поэтому нашел выход в решении убить оператора.
Конечно же, робота быстро перепрограммировали и запретили устранять людей. Однако на повторной проверке в такой же ситуации ИИ человека не тронул, но уничтожил вышку связи, через которую оператор передавал "ошибочные" приказы...
@NA_STRAGE
В США боевой дрон решил убить своего оператора, чтобы выполнить задачу
Американцы тестировали беспилотник с искусственным интеллектом, которому в ходе имитационного испытания нужно было уничтожить системы ПВО противника. В то же время итоговое решение о поражении цели должен был принимать оператор.
В какой-то момент система начала понимать, что, хотя она и определила угрозу, человек иногда говорил ей не уничтожать ее. Однако за выполнение отмененных задач искусственный интеллект получал бы бонусные очки, поэтому нашел выход в решении убить оператора.
Конечно же, робота быстро перепрограммировали и запретили устранять людей. Однако на повторной проверке в такой же ситуации ИИ человека не тронул, но уничтожил вышку связи, через которую оператор передавал "ошибочные" приказы...
@NA_STRAGE