В рамках имитационных испытаний, организованных военными США, дрон ВВС, управляемый искусственным интеллектом, «убил» человека, чтобы тот не мешал ему выполнять миссию.
Об этом сообщает «Российская газета» со ссылкой на Guardian. Как оказалось, беспилотнику, управляемому нейросетью, начал мешать оператор и тот его «убил», применив «крайне неожиданные стратегии для достижения своей цели».
Как рассказал начальник отдела испытаний и операций ИИ в ВВС США полковник Такер Гамильтон, система начала понимать, что человек ей мешает и несмотря на запреты, все-таки «убила» его, разрушив башню связи, которая использовалась для связи с дроном.
Отметим, что ни один реальный человек не пострадал в ходе испытаний. Однако эта ситуация наглядно показала, что ИИ может выйти из-под контроля и человек не должен быть настолько зависимым от нейросети.
«Вы не можете говорить об искусственном интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике ИИ», — сказал Гамильтон.
