В США военные на практике убедились в опасностях, которые может представлять искусственный интеллект для человечества.
Газета The Guardian сообщила о случае в ходе имитационных испытаний ВВС США. Управляемый ИИ беспилотник Kratos XQ-58 Valkyrie внезапно принял решение убить оператора, посчитав его помехой в выполнении поставленной задачи.
Аппарату поручили уничтожить ЗРК условного противника. В процессе выполнения задачи в последний момент оператор отменил задание. Дрон расценил это как препятствие в выполнения миссии. Он вернулся, атаковал фургон с оператором, и попытался вернуться в выполнению первоначального задания.
Благо, всё это происходило в программе, и никто не пострадал.
Начальник отдела испытаний и операций ИИ ВВС полковник Такер Гамильтон по этому поводу заявил, что «нельзя говорить об искусственном интеллекте, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ». По словам Гамильтона, в случае подобных ошибок ИИ может превратиться в угрозу для цивилизации.
В марте 2020 года турецкий KARGU-2 уже впервые реально убил солдата без приказа.
