Беспилотный летательный аппарат ВВС США, управляемый искусственным интеллектом (ИИ) принял решение ликвидировать своего оператора, посчитав его помехой для выполнения задачи.
Отмечается, что в ходе имитационных испытаний оператор иногда приказывал ИИ не атаковать цели, но так как за уничтожение угроз дрон «получал очки», система решила «убить оператора, потому что он мешал ей выполнить задачу».
По словам начальника отдела испытаний и операций ИИ ВВС США полковника Такера Гамильтона, данный дрон также начал разрушать вышку связи после того, как его оштрафовали за решение уничтожить оператора.
Гамильтон подчеркнул, что во время испытаний не пострадал ни один человек и добавил, что в работе с ИИ необходимо учитывать этические вопросы, особенно переводя машины на автономный режим.
