Об искусственном интеллекте и дронах-убийцах

Страны, входящие в военный блок AUKUS, приступили к отработке взаимодействия роев автономных дронов с пилотируемой авиацией, наземными и морскими силами. Недавно были проведены компьютерные симуляции отражения гипотетического китайского вторжения на Тайвань, которые показали эффективность дронов, управляемых ИИ в преодолении китайской системы ПРО и ПВО. Старший исследователь RAND Corporation Дэвид Очманек рассказал, что симуляции,...

Страны, входящие в военный блок AUKUS, приступили к отработке взаимодействия роев автономных дронов с пилотируемой авиацией, наземными и морскими силами. Недавно были проведены компьютерные симуляции отражения гипотетического китайского вторжения на Тайвань, которые показали эффективность дронов, управляемых ИИ в преодолении китайской системы ПРО и ПВО. Старший исследователь RAND Corporation Дэвид Очманек рассказал, что симуляции, проведенные совместно ВВС CША и RAND Corporation, показали: рои дронов с использованием распределенной "ячеистой" лазерной сети обмена данными хорошо зарекомендовали себя ПРИ имитации преодоления китайской системы A2/AD. A2/AD (anti-access and area denial – ограничение и воспрещение доступа и манёвра) – концепция сдерживания противника путём создания повышенной опасности для дислокации или перемещения сил противника в защищаемую местность. Использование лазеров на расстоянии прямой видимости для передачи и приема данных между дронами делают их рой автономным, давая возможность отдельным дронам мгновенно обмениваться данными полета и наведения на цель. Очманек описал несколько способов, которыми рои дронов могут переломить ситуацию в пользу США и Тайваня, отметив, что их можно использовать вместе с малозаметными истребителями F-35 и F-22 для поражения китайских военных кораблей, самолетов и ракетных батарей. Разведывательные дроны, по его словам, позволят пилотируемым самолетам соблюдать электронную тишину, чтобы избежать обнаружения радарами противника. Объединённые в сеть беспилотники резко повысят ситуационную осведомленность и возможности захвата целей для пилотируемых платформ, одновременно заполняя радары противника множеством целей и заставляя их тратить ракеты на одноразовые ложные цели. Бывший заместитель министра обороны США Боб Уорк недавно публично заявил, что в самых реалистичных симуляциях вторжения на Тайвань, какие только могут придумать США, США проиграли Китаю со счетом 18-0. Эти поражения показали, что возможности Китая в области A2/AD развились до такой степени, что США больше не могут рассчитывать на быстрое достижение превосходства в воздухе, космосе или на море. США и их союзники по AUKUS рассчитывают, что рои автономных дронов смогут нивелировать серьезное на данный момент военное превосходство Китая в Индо-Тихоокеанском регионе. Придание самостоятельно атакующим противника роям дронов все большей автономности вызывает тревогу не только у гражданских интеллектуалов, опасающихся "восстания роботов", но и у военных. Масла в огонь подлил недавний случай, когда в ходе проведения армией США компьютерной симуляции выполнения миссии группой военных дронов, управляемых ИИ под контролем оператора, дрон, как мы писали, "убил" оператора. Беспилотники должны были уничтожать объекты ПВО противника, получая на каждый удар окончательное разрешение от оператора. Все шло по плану, пока оператор не запретил уничтожать ряд объектов, идентифицированных ИИ в качестве целей. Решив, что оператор мешает выполнению миссии, ИИ взорвал оператора. Чтобы исправить ситуацию, управляющие симуляцией военные программисты запретили ИИ убивать своих операторов. Тогда ИИ пошел иным путем: взорвал вышку связи, чтобы никто больше не мешал ему закончить миссию. Об этом инциденте рассказал полковник ВВС Такер Гамильтон на майской оборонной конференции Королевского аэрокосмического общества Future Combat Air & Space Capabilities Summit. После публикации резюме докладов на сайте общества об этом написали The War Zone, INSIDER и The Gardian. Несмотря на то, что пресс-секретарь штаб-квартиры ВВС в Пентагоне отрицал, что такая симуляция имела место, Королевское аэрокосмическое общество не убирает резюме выступления полковника Гамильтона со своего сайта. Да и полковник Гамильтон не та фигура, чтобы рассказывать байки. Он возглавляет отдел испытаний и операций ИИ и 96-ю оперативную группу в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде. Это центр испытаний продвинутых автономных беспилотников. В интервью изданию Defense IQ полковник сказал: "Мы должны столкнуться с миром, в котором ИИ уже существует и меняет наше общество. ИИ также очень хрупок, т. е. его легко обмануть и/или манипулировать им. Нам нужно разработать способы сделать ИИ более надежным и лучше понимать, почему программный код принимает определенные решения – то, что мы называем ИИ-объяснимостью".   Вопросами ИИ-объяснимости много лет занимался выдающийся российский ученый профессор МГУ им. М.В. Ломоносова Сергей Павлович Расторгуев. В написанной 20 лет назад фундаментальной монографии "Цель как криптограмма. Криптоанализ синтетических целей", посвященной изучению психологии (!) искусственного интеллекта он пишет: "На сегодняшний день для мира компьютерных программ обретение самостоятельности стало свершившимся фактом… Программные продукты – это продолжение коллективного человеческого бессознательного, изучаемые в рамках аналитической психологии…" Отец кибернетики Норберт Винер в своей книге "Кибернетика" отмечал, что "мысль о нечеловеческих устройствах, наделенных большим могуществом и большой способностью вести свою политику, и об их опасности, не имеет в себе ничего нового. Ново лишь то, что теперь мы располагаем эффективными устройствами такого рода". Сергей Расторгуев пишет, что "возрастание надежности и сложности требует все большей памяти и сложности, и системное программное обеспечение в какой-то момент начинает жить ради самого себя, находя в себе цель". И чем сложней компьютерный комплекс, "тем с большей независимостью работает программа"! Главную опасность российский ученый видит не во всевозможных вирусах, сбоях питания или ошибках операторов, а именно в возрастающей самостоятельности программного обеспечения, говоря современным языком – искусственного интеллекта). Стремление англо-американских военных нейтрализовать военное превосходство КНР в Индо-Тихоокеанском регионе, идя по пути максимального усложнения и автономизации ИИ боевых дронов, делает инциденты, подобные рассказанному полковником Гамильтоном, непременным атрибутом будущих войн.