http://factmil.com/publ/vpk/niokr/osnovnye_napravl...ezhnykh_stran_2021/20-1-0-1827 Основные направления применения искусственного интеллекта в вооруженных силах ведущих зарубежных стран (2021) ==== А. Степанов, доктор технических наук ===== В настоящее время США, Китай, Великобритания, Франция, Израиль, Индия и ряд других стран реализуют национальные военные программы, предусматривающие применение искусственного интеллекта (ИИ) как в системах управления войсками и оружием, так и в отдельных образцах вооружения и военной техники (ВВТ). В общем случае под этим термином можно понимать способность какого-либо искусственно созданного объекта, например, цифровой вычислительной системы обучаться для решения определенного класса задач. Обычно они рассматриваются как творческие или аналитические, так и трудно формализуемые в виде ограниченного набора решающих правил, ранее их решение традиционно считалось прерогативой человека. В исследовании "Искусственный интеллект и национальная безопасность", выполненном для конгресса США в 2019 году (Artifi cial Intelligence and National Security - Congressional Research Service Report R45178 от 21.11.2019 года - AINS), утверждается, что главной причиной создания различных систем военного назначения, обладающих ИИ, является необходимость оперативной обработки структурированных и неструктурированных данных огромных объемов (так называемых больших данных), обусловленная постоянным расширением числа, номенклатуры и технических возможностей современных средств добывания информации. Причем эти сведения могут представляться в разнообразной форме, включая фото-, видео- и радиолокационные изображения, а также аудио- и текстовые сообщения на разных языках, данные, полученные из киберпространства, и т. д. Там же отмечается, что ИИ в ближайшем будущем распространится во всех видах боевой и обеспечивающей деятельности вооруженных сил (ВС). Согласно прогнозу американской компании "Маркетс энд маркетс рисёрч", ежегодный рост до 2025 года мирового рынка систем и средств ИИ составит порядка 14,75% Основную роль в этом будут играть США, а ключевыми производителями оборудования и программного обеспечения станут американские компании "Локхид-Мартин", "Рейтеон", "Нортроп-Грумман", "АйБиЭМ" (IBM), "Дженерал дайнэмикс", "Нвидиа", английская компания "БАэ системз" и французская "Талес". В то же время согласно "Плану развития систем искусственного интеллекта в Китае" (принят в 2017 году), к 2030-му КНР должна стать мировым лидером в технологии ИИ, в том числе, применяемой в ВВТ. Основным способом реализации технологий, широко применяемых сегодня в том числе при создании систем искусственного интеллекта военного назначения, является искусственная нейронная сеть (ИНС), представляющая собой набор отдельных цифровых вычислительных элементов - нейронов, обычно расположенных на нескольких последовательных слоях сети. При этом она не программируется в привычном смысле этого слова, а обучается. Эта особенность - главное преимущество ИНС перед традиционными алгоритмами вычислений. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение. Она с высокой вероятностью сможет получить корректный результат на основании данных, которые отсутствовали в обучающей выборке, неполных и/или "зашумленных", а также частично искаженных. В зарубежных публикациях перечисляется широкий круг задач, для эффективного решения которых в ВС целесообразно использовать системы с ИИ. Так, указывается, что подобные системы будут наиболее полезны в разведке, а также при идентификации объектов в процессе обработки видео- и фотоматериалов, получаемых со средств видовой разведки. Кроме того, в ходе обучения на нейронную сеть подается большой массив специально подготовленных изображений, требуемых объектов разведки (например, летательных аппаратов, кораблей, различных видов оружия, физических лиц и т. д.), сделанных под различными углами, освещением и в различном окружении. Нейросеть анализирует характерные признаки изображения (линии, их соединения, формы, цвет, размер и т. п.) и строит модель распознавания, обеспечивающую идентификацию объектов с минимально допустимым уровнем ошибок первого и второго рода. В развитых странах уже сейчас существуют образцы вооружений, реализующие описанные возможности ИИ. Так, в начале 2020 года компания "Рейтеон" объявила о развертывании системы разведки, наблюдения и целеуказания "Истар" (ISTAR - Intelligence Surveillance Target Acquisition and Reconnaissance) на самолетах ВВС Великобритании "Сентинел". Данная система обладает ИИ и обеспечивает: - обнаружение интересующих наземных и морских объектов и наблюдение за их перемещением; - формирование карты местности контролируемых районов; - оценку оперативной ситуации путем контроля активности перемещения различных объектов. Подобными возможностями обладают системы разведки, наблюдения и целеуказания на базе беспилотного летательного аппарата (БПЛА) MQ-4C "Тритон", стоящего на вооружении ВМС США. Другими задачами, возлагаемыми на системы с искусственным интеллектом, являются определение типа обнаруженного радиосигнала и излучающего его радиопередающего средства при ведении радиоэлектронной разведки, распознавание и перевод многоязычной речи в неблагоприятных условиях акустической обстановки, формирование геопространственных сведений из разрозненных неструктурированных геоданных, оценка назначения и характеристик различных объектов по результатам их наблюдения, обработка двухмерных изображений объектов для получения трехмерных. По программе "Блэйд" (BLADE - Behavioral Learning for Adaptive Electronic Warfare System), выполняемой для агентства перспективных исследований Пентагона ДАРПА (DARPA), компанией "Локхид-Мартин" разрабатывается система радиоэлектронной борьбы, предназначенная для автоматического подавления средств радиосвязи противника с непрерывной оценкой ее эффективности с целью преодоления возможных мер противодействия. Утверждается, что ИИ играет ключевую роль в обеспечении эффективности создаваемой системы. Следующей важной прикладной областью применения ИНС в военном деле является киберпространство. В AINS указывается, что ИИ является ключевым элементом, обеспечивающим выполнение самых сложных киберопераций. Его алгоритмы, реализованные в искусственной нейронной сети, могут автоматически определять наличие угроз, оценивать их опасность, модифицировать с целью защиты от них собственное программное обеспечение. По оценке специалистов ДАРПА, выполнение всех этих операций измеряется секундами, а не месяцами, что характерно при задействовании большого штата экспертов в соответствующих областях компьютерных знаний. Потенциально киберсистемы с ИИ способны одновременно решать задачи киберзащиты и кибернападения. Известно об успешных экспериментах, проводимых китайской корпорацией "Тенцент" с целью несанкционированного доступа к ИНС, распознающих различные объекты. Целью такого доступа является сокрытие или подмена объекта распознавания. Специально для защиты от подобного вредоносного воздействия на нейронную сеть, вызывающего ошибки в ее поведении, в ДАРПА существуют специальные программы "Гард" (GARD - Guaranteeing AI Robustness against Deception) по разработке аппаратно-программных средств, обеспечивающих гарантированную устойчивость систем с ИИ от попыток их взлома. Экспертами по кибербезопасности предлагается использовать методы шифрования кодов исполняемых в ИНС программ для защиты от кибернападения. Еще одним направлением использования систем с искусственным интеллектом являются информационные операции. Уже сейчас они умеют формировать поддельные фото-, аудио-, видеоматериалы, причем встраивая в них реальные элементы обстановки и реальных действующих лиц, создают в Интернете ложные профили вымышленных или настоящих людей с поддержкой ретроспективы их семейных отношений, образования, карьеры, связей, кредитной истории и т. д. Данные технологии могут использоваться для создания ложных, так называемых фейковых новостей в средствах массовой информации, разработки легенд оперативным сотрудникам, дискредитации определенных лиц или их шантажа. Известен проект "Медифор" (MediFor - Media Forensics) агентства ДАРПА по противодействию подобным системам, направленный на вскрытие и документирование фактов их применения. Однако известно, что интеллектуальные средства создания ложной информации также могут обладать способностью обучения методам противодействия способам их обнаружения. Существует еще одно важное направление развития военных систем, обладающих искусственным интеллектом, - централизованное планирование и координация проведения военных операций различного масштаба в воздушном, космическом, кибер-, морском и наземном пространстве. В зарубежной литературе подобные действия получили название "многосферное управление и контроль" (Multi-Domain Command and Control - MDC). Путем сбора и обработки всей доступной информации, полученной от различных источников, предлагается создавать интегрированный источник информации, так называемую глобальную оперативную картину, на основе которой командирам различного уровня будут автоматически предлагаться наиболее эффективные варианты действий для достижения целей операции. Известно о разработке подобных систем в интересах ВВС США компаниями "Локхид-Мартин" и "Харрис". Кроме того, следует отметить, что различные автоматизированные системы поддержки принятия решений и компьютерного моделирования оперативной обстановки в ВС развитых стран широко применялись с 70-х годов прошлого столетия, но эти системы не обладали возможностью обучения и, соответственно, искусственным интеллектом. Одними из первых используемых на практике военных средств с ИИ стали имитационные тренажеры, применяемые для обучения операторов различных военных машин. Целью имитации являлось воссоздание реальных условий боевой обстановки, например, путем формирования соответствующего видео- и звукового контента для загрузки на устройства отображения информации в процессе подготовки оператора и изменение этих условий в ответ на его действия. В настоящее время наиболее широко ИИ используется в военной логистике ВС США. Такие системы уже сейчас применяются для оценки потенциальных потребностей в запчастях, определения наиболее рациональных по времени выполнения и стоимости способов их доставки. Принцип их работы заключается в автоматическом анализе технических параметров, получаемых от различных датчиков, размещенных в средствах вооружения, с целью определения необходимости и объема проведения операций обслуживания или ремонта военной техники. Американскими военными специалистами отмечается, что логистические военные системы с ИИ обеспечивают более эффективную организацию операций по критериям количество удовлетворенных заявок/стоимость логистических операций/продолжительность их проведения. Традиционно технологии с искусственным интеллектом широко применяются в автономных боевых и обеспечивающих мобильных средствах, способных действовать самостоятельно и продолжать выполнение задания (или возвращаться на заданную позицию) в случае потери связи с центром управления. Известными примерами такой техники являются беспилотные летательные аппараты (БПЛА), автономные наземные машины, надводные и подводные аппараты различного назначения. Эта сфера применения ИИ хорошо проработана в теоретическом и прикладном плане благодаря наличию богатого опыта использования подобных систем гражданского назначения. В военной области известны опыты применения в ВВС США беспилотных истребителей F-16. Примером современного ударного БПЛА является разработанный американской компанией "Кратос дефенс энд секьюрити слюшинс" БПЛА XQ-58 "Валькирия". Известно об относительно успешных испытаниях данного аппарата, позиционируемого как "напарник" управляемого человеком истребителя, в 2019 и 2020 годах. В ВМС США автономные системы с ИИ тестируются для решения задач противолодочной и противодиверсионной обороны, контроля акватории, прилегающей к важным объектам береговой инфраструктуры, доставки необходимого снаряжения на мобильные и стационарные морские объекты. Также разрабатываются необитаемые подводные аппараты большого водоизмещения типа "Лдуув" (LDUUV - Large Displacement Unmanned Underwater Vehicle) с автономностью хода не менее 70 сут, способные самостоятельно решать навигационные задачи, обходить различные препятствия и идентифицировать подводные и надводные цели. Перспективным направлением дальнейшего совершенствования автономных транспортных и боевых средств является обеспечение возможности их автоматического группового взаимодействия. Так ДАРПА реализует программы по отработке вопросов группового применения беспилотных летательных аппаратов (до нескольких сотен в одной группе), автономных надводных и подводных объектов, наземных мобильных роботизированных платформ различного назначения. При этом к автономным средствам группового применения предъявляются следующие требования: - способность определять особенности окружающей обстановки, в том числе, устанавливать наличие других участников группы; - способность автоматически организовывать каналы связи и определять старшего группы или выбирать нового при потере предыдущего; - способность взаимодействовать для выполнения поставленной задачи. Согласно заявлениям официальных представителей министерства обороны КНР осенью 2020 года в Китае впервые проведена успешная проверка одновременного применения 200 взаимодействующих между собой БПЛА для решения задач поиска и уничтожения наземных целей. Кроме того, ИИ может применяться в следующих военных областях: - системы противоракетной и противовоздушной обороны, использующие ИИ для формирования информационно-расчетных задач в масштабе реального времени с учетом динамично меняющейся воздушно-космической обстановки; - военные системы связи, использующие ИИ для выбора оптимальных каналов передачи информации, применяемых сигнально-кодовых конструкций, способов сжатия и закрытия передаваемых сообщений; - интеллектуальные боеприпасы, способные самостоятельно идентифицировать цели и корректировать траекторию при подлете к ним; - прицелы и устройства отображения оптико-электронной информации - от лобовых стекол на различных машинах и до специальных шлемов и очков, позволяющих формировать т. н. виртуальную реальность, то есть, совмещать в поле зрения визуальные и цифровые изображения, получаемые от различных датчиков; - системы биометрической идентификации персонала с целью определения прав допуска к информации, в помещения, к управлению оружием и т. д.; - аппаратура определения состояния военнослужащих в военной медицине с указанием мер восстановления здоровья; - метеорологические системы, оценивающие влияние погодных факторов на планирование военных операций. Очевидно, что количество направлений и способов применения искусственного интеллекта в военном деле будет только расширяться вслед за появлением новых идей и реализующих их технологий. Вместе с тем в настоящее время существуют три основные проблемы, влияющие на эффективность и целесообразность применения искусственного интеллекта. Во-первых, многочисленные зарубежные исследования и экспертные оценки говорят о недопустимости полного доверия системам с ИИ в вопросах самостоятельного применения оружия. Высказываются опасения, что ИИ потенциально способен выработать решение на нанесение упреждающего удара по целям противника, если он увидит возможность получения преимущества в результате такого удара. В исследовании, проведенном американской организацией "Рэнд корпорейшэн", подчеркивается опасность использования ИИ для принятия стратегических военных решений по причине отсутствия критического мышления у систем, обладающих ИИ, и их склонности к состязательности, что, в целом, может привести к неверной оценке обстановки. Во-вторых, использование искусственного интеллекта в автономных системах летального оружия (Lethal Autonomous Weapon Systems - LAWS) оказывается крайне чувствительным для человеческой морали. Под термином "автономность" здесь понимается возможность принятия решения на применение оружия без участия человека-оператора. С 2017 года в ВС США проводятся работы по интеграции искусственного интеллекта в действующие системы управления ВВТ в рамках проекта "Мэйвен", существует опыт применения таких систем для обнаружения и поражения целей в Ираке, Афганистане и Сирии. В американских военных и научно-исследовательских кругах существуют разные, часто противоположные точки зрения на необходимость развития и использования автономных боевых средств, обладающих ИИ. Допускается применение любых форм электромагнитного или психологического оружия и любого разрушающего воздействия на материальные объекты. По поводу автоматического использования летального оружия против человека такой однозначности нет. Известны примеры выхода компаний-разработчиков из соответствующих программ из-за нежелания участвовать в создании боевых систем с искусственным интеллектом. Так, в 2018 году компания "Гугл" вышла из работ по созданию роботизированных боевых платформ в рамках проекта "Мэйвен". С другой стороны, высшими военными руководителями США обосновывается необходимость разработки таких систем как для поиска и преодоления их уязвимостей, так и по причине наличия подобных видов вооружения у противоборствующей стороны. Последней проблемой использования ИИ в системах военного назначения является его принципиальная уязвимость для специализированных атак на аппаратно-программное обеспечение. В отличие от традиционных кибератак, требующих для успешного осуществления наличия уязвимостей аппаратного и программного обеспечения, вызванных, как правило, недостаточной проработкой вопросов безопасности при создании или эксплуатации такого обеспечения. Атаки на ИИ в основном используют врожденные ограничения, присущие таким системам. Под этим понимается принципиальная невозможность на уровне обычной, специально не подготовленной к конкретному виду атак системы, обладающей искусственным интеллектом, отделять реальные входные данные от фальсифицированных. Даже для современных, математически крайне сложных алгоритмов реализации ИИ, практически идеально работающих в нормальных условиях, незначительное, неопределяемое для человеческого восприятия, но продуманное изменение входных данных (например, коррекция изображения) может приводить к ошибочному результату обработки. Поскольку значение искусственного интеллекта в военной сфере определяется именно высокой скоростью обработки больших массивов разнородных данных, позволяющей существенно сокращать длительность цикла управления войсками и оружием, то обратной стороной такого процесса может оказаться катастрофическое ухудшение ситуации в случае принятия решений по неполным, неверным или, что еще хуже, сфальсифицированным исходным данным. Таким образом, зарубежные военные и научно-технические специалисты в большинстве своем отмечают постоянно растущее влияние искусственного интеллекта на современные виды ВВТ, серьезно расширяющие их возможности и меняющие существующие концепции их использования в будущих войнах. Например, в "Стратегии национальной обороны" США говорится, что ИИ "изменит общество и в итоге характер войны", а британский аналитик Дж. Джонсон утверждает, что "искусственный интеллект может принести фундаментальные изменения в военную силу и повлечь последствия в виде переформатирования баланса сил. Гонка в разработке потенциала ИИ бесспорно повлияет, в частности, на геополитическое соперничество между Китаем и США". Будущие изменения связывают с повышением эффективности ведения военных операций за счет значительного улучшения показателей оперативности и точности применения оружия, минимизации ошибок, вызванных человеческим фактором при планировании и осуществлении боевых действий, оптимизации логистических процессов в мирное и военное время. При этом высказывается опасение, что истинные возможности неприятельских систем вооружения, обладающих ИИ, могут быть недооценены вплоть до получения результатов их реального боевого применения. В этой связи согласно "Стратегии искусственного интеллекта", являющейся одной из составных частей "Стратегии национальной обороны", МО США будет поддерживать опережающий по отношению к соперничающим государствам, прежде всего России и Китаю, темп развития и внедрения технологий искусственного интеллекта с целью обеспечения устойчивого превосходства американских оборонительных и наступательных систем вооружения над системами противоборствующих стран. Зарубежное военное обозрение. - 2021. - №1. - С. 30-35