В Голливудских фильмах уже не первый год разыгрываются сценарии противостояния людей и машин. Но совсем скоро это может стать нашей реальностью. Уже зафиксированы первые случаи, когда дроны самостоятельно «выслеживали и дистанционно поражали» отступающих солдат.
Квадрокоптер Kargu-2 с искусственным интеллектом против солдат Хафтара
По информации Совета Безопасности ООН, военный дрон мог впервые автономно нападать на людей без соответствующего указания. Ситуация произошла в Ливии в минувшем году, о чем говорится в недавнем отчете организации. Дрон Kargu-2, созданный военно-технической компанией STM из Турции, атаковал отступающих бойцов, лояльных ливийскому генералу Халифе Хафтару.
Эксперты рассказывают, что беспилотники были запрограммированы таким образом, что могли сами принимать решение о нападении. Необходимости согласовывать информацию с оператором не было. Информации о жертвах данных боевых машин пока нет. Но в сообщении ООН сказано, что люди Хафтара были безжалостно «выслежены» дронами.
Kargu-2 оснащен зарядом взрывчатого вещества и способен поражать цель на манер камикадзе — атаковать и взрываться при ударе. Он может работать в рое из 20 дронов, которые летают в небе, готовые выбирать и поражать цели с помощью технологий искусственного интеллекта. Учитывая, что подобные системы не всегда правильно интерпретируют визуальные данные, есть опасения, что они могут начать атаковать мирных жителей.
«Это не означает, что автономное оружие невозможно регулировать. Но это показывает, что обсуждение по-прежнему актуально и важно. Технологии не собираются ждать нас», — предупреждает Джек Уотлинг из британского оборонного аналитического центра Royal United Services Institute.
Не меньше пугает и способность дронов «общаться» и координировать свои действия. Ведь есть большая вероятность, что что-то пойдет не так.
«Коммуникация создает риск возникновения каскадных ошибок, когда оплошность одного подразделения передается другому, — рассказывает Захари Калленборн, консультант по национальной безопасности из США. Не зря такие выдающиеся личности как Стивен Хокинг, Илон Маск и Ноам Хомски призывали к запрету подобного «наступательного автономного оружия».
«Если подтвердится, что данная атака привела к людским жертвам, это, скорее всего, первый в истории случай, когда военного квадрокоптера на основе искусственного интеллекта использовался для убийства», — добавляет Калленборн.
Разработкой дронов занимается и Национальная службы безопасности Великобритании. Об этом стало известно благодаря оплошности в академической статье.
