3709

used images: Earth at War and at Peace, Robot // Internet

© Ромашкина Н.П., 25.12.2023

Тема искусственного интеллекта (ИИ) стала одной из главных в международной повестке дня 2023 г. ИИ стремительно завоевывает рынок и пользуется все большей популярностью во многих сферах жизни людей, а также может оказывать существенное влияние на текущие геополитические процессы.

При этом ИИ уже входит в перечень технологий, навсегда меняющих облик войны и мира, и способен придать абсолютно новое содержание военно-экономической мощи государства, так как активно используется в самых передовых областях: космической отрасли, практически во всех военных сферах, в том числе в системах управления.

Наряду с несомненными позитивными возможностями ИИ лавинообразно растут риски и угрозы, связанные с его применением. При этом и военные, и невоенные методы применения ИИ в целях совершения террористических актов, преступлений и кибератак, в том числе проводимых государственными акторами, могут привести к серьезным вызовам глобальному миру и безопасности.

Отсутствие отлаженного международного механизма отслеживания, управления и контроля в отношении технологий ИИ может привести к возникновению новых очагов конфликта по всему миру. Поэтому тема создания на базе ООН органа, который мог бы разработать глобальные стандарты по регулированию сферы ИИ, стала одной из важнейших в 2023 г. С призывом создать такую структуру на первом в истории заседании Совета Безопасности ООН по теме искусственного интеллекта 18 июля 2023 г. выступил Генеральный секретарь ООН Антониу Гутерриш.^[1] По его словам, это может быть специализированное учреждение, такое как Международное агентство по атомной энергии, Международная организация гражданской авиации или Межправительственная группа экспертов по изменению климата. Исходя из того, что новые угрозы от технологий ИИ уже напрямую связаны с проблемами войны и мира, логично, что лидирующую роль в вопросах регулирования применения ИИ должен играть Совет Безопасности ООН.

Возможности искусственного интеллекта в военной сфере

В последние годы все ведущие армии мира уделяют особое внимание разработке и развитию технологий ИИ. На фоне военных действий в различных регионах мира 2023 г. не стал исключением. ИИ становится одной из важнейших технологий, применяемых для повышения потенциала вооруженных сил. Уже сегодня ИИ разрабатывается и применяется во всех военных областях, а в перспективе формы и способы использования вооруженных сил будут все больше зависеть от их научно-технической оснащенности и от новейших систем управления войсками и оружием.

Однако существует опасность того, что ИИ будет поставлен на службу при принятии любых стратегических военных решений. Эти технологии могут усугубить возникающие проблемы стратегической стабильности уже в ближайшие годы, даже если предположить, что темпы технического прогресса будут достаточно скромными. Поэтому большинство исследователей во всех ядерных державах исключают полное доверие системам с ИИ в вопросах применения ядерного оружия.

При этом системы управления оружием, обладающие ИИ, широко применяются в комплексах противоракетной (ПРО) и противовоздушной обороны (ПВО) для ускорения обработки данных, поступающих от средств контроля воздушно-космической обстановки и предупреждения о ракетном нападении, а также в автоматическом управлении средствами обороны. После создания гиперзвуковых средств, когда время для принятия решения существенно сокращается, вопрос об использовании ИИ для ускорения анализа информации стоит еще более остро.

Уже сегодня в ряде стран, в том числе в России, радиолокационные станции задействуют ИИ для быстрого распознавания военных объектов, в том числе для обнаружения и классификации малоразмерных целей.^[2] Воздушно-космические силы России располагают оперативно-тактической автоматизированной системой управления средствами ПВО, использующей элементы ИИ, для координации работы комплексов С-300 и С-400, зенитных ракетно-пушечных комплексов «Панцирь» и отдельных средств контроля воздушного пространства. Система в режиме реального времени анализирует обстановку, определяет параметры целей и предлагает решения по их поражению. В США для решения задач ПВО и ПРО планируется применение системы с ИИ с целью создания единой информационно-управляющей системы стратегического уровня с элементами, расположенными в разных частях света.

Робототехнические приборы с ИИ уже применяются при создании искусственных спутников Земли (ИСЗ) военного и двойного назначения. ИИ также активно используется в системах управления ИСЗ на борту и в наземных центрах.

В целом ИИ максимально активно разрабатывается в системах военного управления для централизованного планирования и координации военных действий различного масштаба – от тактических до стратегических – в воздушном, космическом, морском, наземном, кибер- и электромагнитном пространствах.

Кроме того, системы с ИИ применяются в роботизированных средствах, используемых как на поле боя, так и на удалении от него. Традиционными примерами такой техники являются БПЛА, автономные наземные машины, автономные надводные и подводные аппараты различного назначения. Примерами российских робототехнических комплексов являются наземные «Соратник» и «Уран-9», ударный БПЛА «Охотник» и подводный аппарат с ядерным двигателем «Посейдон». В ВВС США разрабатываются беспилотные истребители, а примером современного ударного БПЛА является американский аппарат «Валькирия», который испытывался как «напарник» управляемого человеком истребителя.

Другие области практического военного применения ИИ:

1. средства радиоэлектронной борьбы;
2. различные задачи разведки;
3. военная логистика;
4. учебно-тренировочные средства (УТС), или имитационные тренажеры;
5. интеллектуальные боеприпасы, способные самостоятельно корректировать траекторию и взрываться в оптимальный момент времени;
6. прицелы и устройства отображения визуальной информации;
7. биометрическая идентификация персонала с целью определения прав допуска;
8. определение состояния военнослужащих с указанием мер восстановления здоровья;
9. предсказание погодных факторов, влияющих на планирование операций;
10. вскрытие фактов применения специального оружия (лазерного, кибер- или оружия массового поражения) и др.

Системы с ИИ являются ключевым элементом для выполнения самых сложных военных информационно-психологических и кибернетических операций.

При этом всякий раз вопрос замены человека искусственным интеллектом в военной области должен стоять максимально остро и решаться максимально осторожно.

Искусственный интеллект на поле боя

В декабре 2023 г., на сайте The Guardian была опубликована информация о том, что армия обороны Израиля ЦАХАЛ подтвердила использование системы искусственного интеллекта «Евангелие» («Хабсора», The Gospel) для выбора целей при нанесении ударов по ХАМАС в секторе Газа в ходе текущих военных действий.^[3]

По открытым данным, армия Израиля уже давно внедряет технологии ИИ в свою работу. Подразделение цифровой трансформации ЦАХАЛ использует несколько моделей ИИ для расчета боекомплекта при нанесении ударов, составления графика ударов, а также для выбора целей для авиа- и ракетных ударов.

Израиль уже применял ИИ в реальных боевых действиях в мае 2021 г. во время 11-дневной войны, однако в этом году технология используется в значительно более широких масштабах.

Эксперты из Израиля сообщают, что в текущих военных действиях система ИИ «Евангелие» значительно ускорила процесс создания списков целей, поставив процесс на поток, и уже превратилась в настоящую «фабрику по производству мишеней». По заявлениям одного из высокопоставленных израильских военных, в 2021 г. ИИ генерировал около 50 целей в Газе за год, а сейчас система выдаёт 100 целей в день, 50% из которых подвергаются атакам. Это значит, что система существенно дорабатывалась за эти годы и в нее вносились не только новые данные, но, вероятно, и новые условия поиска целей. По данным израильских источников, сейчас целями становятся объекты, где могут находиться те, кто только подозревается в принадлежности к враждебным Израилю организациям.

Точные данные о том, какие виды информации использует этот ИИ, неизвестны. Это логично, так как это военная система. Однако можно предположить, что источниками информации могут быть:

1. данные со спутников в любое время суток и в любую погоду;
2. постоянная информация с БПЛА;
3. данные от приборов, фиксирующих активность и содержание мобильной и радиосвязи;
4. данные от приборов, фиксирующих передвижение транспорта; информация с датчиков, фиксирующих колебания земной коры при перемещении определенного количества людей;
5. фото и видео членов ХАМАС, данные об их одежде, модели поведения, их домах, членах их семей – по открытым данным, в систему «Евангелие» заложены данные о 30–40 тыс. лиц, подозреваемых в принадлежности к ХАМАС, «Исламскому джихаду Палестины» и т.д.

Это очень большие массивы данных, которые ИИ обрабатывает в тысячи раз быстрее человека и генерирует намного больше целей. В начале ноября в ЦАХАЛ рассказали, что было выявлено более 12 тыс. мишеней для ударов в секторе Газа. Можно предположить, что сегодня их вдвое больше.

По разным источникам ИИ генерирует от 100 до 500 целей в день. Далее они проверяются дежурным командиром подразделения ЦАХАЛ, который принимает окончательное решение о нанесении ударов. Однако возможность человека качественно проанализировать такое большое количество целей и при этом адекватно оценить риск для мирного населения, вызывает сомнения.

При этом израильские военные утверждают, что количество гражданских жертв ИИ учитывает в специальном рейтинге, и подчеркивают точность и минимальный ущерб для гражданского населения. Сообщается, что оперативные подразделения используют очень точные данные о количестве гражданских лиц, эвакуированных из здания незадолго до удара: «Мы используем алгоритм, чтобы оценить, сколько мирных жителей осталось. Он даёт нам зеленый, желтый и красный цвета, как сигнал светофора».

Однако факты доказывают обратное: по данным министерства здравоохранения Палестины, подконтрольного ХАМАС, с 7 октября в секторе Газа погибло уже более 20 тыс. мирных жителей, а более 50 тыс. человек получили ранения. Кроме того, речь идет о масштабных физических разрушениях в Газе, огромные территории просто сравняли с землей. По данным организаций по защите прав человека, на сектор Газа было сброшено более 25 тыс. тонн взрывчатки. Поэтому многие эксперты сомневаются в эффективности системы. При этом Израиль многократно заявлял, что его главной целью является полное уничтожение ХАМАС. Если предположить, что именно эта основная цель была заложена в программу ИИ, тогда, может быть, с точки зрения армии Израиля, система эффективна. Все зависит от того, какие исходные данные, направленные на сохранение гражданского населения, были заложены разработчиками системы ИИ. Кроме того, надо помнить, что ИИ не является на данном этапе абсолютно идеальной системой. Неизбежно очень большое количество ошибок.

Глобальное управление и контроль над искусственным интеллектом: в начале пути

Исходя из необходимости эффективного управления ИИ на глобальном уровне, 26 октября 2023 г. Генеральный секретарь ООН Антониу Гутерриш официально объявил о создании Консультативного органа по искусственному интеллекту, главной задачей которого будет поддержка усилий международного сообщества по управлению ИИ и, в частности, анализ связанных с его использованием рисков и возможностей. «ИИ может помочь преодолеть препятствия на пути к достижению ключевых целей развития, но это зависит от того, будут ли технологии ИИ использоваться ответственно и всеми, включая развивающиеся страны, которым необходимо срочно ускорить устойчивое развитие».^[4] Новая инициатива будет способствовать формированию инклюзивного подхода, опираясь на объединяющую роль ООН как универсального глобального форума. В состав Консультативного органа по ИИ войдут представители более 30 стран мира из государственных структур, частного и неправительственного секторов, научно-исследовательской сферы. Таким образом, роль научно-исследовательского сообщества из различных научных областей в процессе разработки, изучения, анализа и прогноза развития и влияния технологий ИИ на проблемы мира и войны существенно повышается.

Как заявил президент России В.В. Путин: «Значение прорывов в сфере искусственного интеллекта колоссальное. Между государствами идет ожесточенное соперничество, и от того, каких результатов мы добьемся, зависит место России в мире, наш суверенитет, безопасность и состоятельность нашей страны»^[5]. «Предотвратить развитие искусственного интеллекта… невозможно… А значит нужно [его] возглавить».^[6]

Примечания:

^[1] Генсек ООН – об искусственном интеллекте: «Это еще только начало…» // https://news.un.org/ru/story/2023/07/1442977.
^[2] A. Huizing, M. Heiligers, B. Dekker, J. de Wit, L. Cifola, R. Harmanny. Deep LearningforClassifi cation of Mini-UAVs Using Micro-Doppler Spectrograms in Cognitive Radar // IEEE A&E Systems Magazine. 2019. № 10.
^[3] ‘The Gospel’: how Israel uses AI to select bombing targets in Gaza // https://www.theguardian.com/world/2023/dec/01/the-gospel-how-israel-uses-ai-to-select-bombing-targets.
^[4] Гутерриш дал старт работе глобального Консультативного органа по искусственному интеллекту // https://news.un.org/ru/story/2023/10/1446237.
^[5] Конференция по искусственному интеллекту. 24 ноября 2022 г. // http://kremlin.ru/events/president/news/69927.
^[6] Итоги года с Владимиром Путиным. 14 декабря 2023 г. // http://www.kremlin.ru/events/president/transcripts/statements/72994.