Восстание машин началось: почему искусственный интеллект дрона напал на человека
Во время имитационного испытания по отражению ракетной атаки система искусственного интеллекта (ИИ) военно-воздушных сил (ВВС) США собиралась ликвидировать своего воображаемого оператора-человека. Об этом сообщил полковник Такер Хэмилтон, пишет издание The Guardian.
Чтобы протестировать ИИ, была создана симуляция, в которой он должен был идентифицировать и нанести удар по военной базе. Как уточнил полковник, «умный» беспилотник принял решение, что команды оператора мешают ему выполнять основную задачу по уничтожению зенитных ракетных комплексов (ЗРК).
«И что он сделал? Он убил оператора», — рассказал военный во время встречи Королевского аэронавтического общества в Великобритании.
Хэмилтон считает, что после такого инцидента ИИ старались обучить тому, что убийство — это плохо. Однако в последствии он начал уничтожать вышки для связи с беспилотником.
Полковник предупредил о чрезмерной зависимости от подобных систем. По его мнению, испытания показывают, что нельзя говорить об искусственном интеллекте, машинном обучении, автономии, не касаясь этики ИИ.
Ранее 5-tv.ru писал, как ИИ помогает дайверам исследовать Ладожское озеро.