Автономные системы в войне — как защитить гражданских в городе

Война всё чаще приходит в города вместе с дронами, алгоритмами и автономными платформами. Демократические государства оказываются в парадоксальной ситуации: с одной стороны, они обязаны защищать своих граждан и военных. С другой — должны соблюдать Международное гуманитарное право (далее — МГП) даже тогда, когда противник целенаправленно прячется среди мирного населения и использует гражданскую инфраструктуру как щит.

Последние конфликты, в частности на Украине и в Газе, показали масштаб разрушений и количество жертв среди гражданских. Это породило острые дискуссии о правомерности средств и способов ведения боевых действий. В этой колонке я говорю о пяти аспектах такого городского боя: операционных дилеммах, "красных линиях" для командиров, правовых пробелах, правилах применения автономных решений и механизмах подотчётности.

Операционные дилеммы в плотной городской застройке

Когда демократическое государство применяет роботизированные платформы в густонаселённом городе и пытается сохранить верность МГП и военной этике, возникает несколько уровней риска.

В невооружённых ролях — разведка, наблюдение, сбор данных — летающие или наземные носители обычно не создают значительного юридического давления. Вероятность нарушения базовых принципов на этом этапе ограничена, а дополнительная "картина с воздуха" иногда помогает, наоборот, уменьшить ущерб для мирных жителей.

Когда речь идёт о дистанционно управляемых комплексах, где человек остаётся в контуре, их в правовом смысле можно в большинстве случаев рассматривать как классические пилотируемые средства поражения. В Израиле такие аппараты нередко называют самолётами с дистанционным экипажем, а не просто дронами. Мы намеренно подчёркиваем: определяющим является не место оператора, а то, что именно человек реально контролирует решение о применении силы. В этом случае структура юридического анализа почти не меняется.

Настоящая дилемма начинается с летальных автономных платформ. Особенно когда противник сознательно встраивается в жилые кварталы, держит боекомплекты в подвалах домов или выходит на пуски с территории школ и больниц. В такой реальности существует серьёзный риск, что алгоритм не сможет с достаточной надёжностью отличить комбатанта от гражданского лица. А значит, базовый принцип МГП — различение — может оказаться невыполненным.

Поэтому любая демократия, которая задумывается о применении полностью автономных ударных платформ, где именно машина выбирает цель и самостоятельно применяет силу, сначала должна ответить на вопрос: обеспечено ли различение на практике. И лишь потом переходить к анализу пропорциональности, предупредительных мер и других основ гуманитарного права.

"Красные линии" и ориентиры для командиров и операторов

Есть несколько принципов, которые, на мой взгляд, должны направлять решения на всех уровнях управления.

Первый — устойчивая связь между человеком и технологией. Это, возможно, один из самых сложных вызовов для современных армий. Такая связь не может строиться на слепом энтузиазме относительно "умной" техники. Она основывается на предсказуемости и понимании поведения платформы: что она делает в типичной ситуации, где ошибается, как ведёт себя в граничных сценариях.

Второй — содержательное участие человека. Даже если автономный комплекс выполняет значительную часть задачи, включая потенциальное финальное применение силы, человек должен оставаться в контуре принятия решения. Это позволяет проследить последний человеческий шаг, сравнить намерение командира с фактическим поведением машины и затем объяснить, почему именно она сработала так, как сработала. Для этого все ключевые действия должны записываться и сохраняться, даже если носитель будет уничтожен во время операции.

Третий ориентир — возможность прервать миссию на любом этапе. Командир или оператор должны иметь реальный, а не декоративный контроль над остановкой процесса. Если платформа уже вышла за пределы этого контроля, это означает, что граница допустимого использования пройдена.

Где право отстаёт от городского боя

С правовой стороны наибольшие пробелы возникают не из-за того, что средства новые, а из-за характера современных конфликтов. Это уже не классические столкновения между армиями государств. Противник сознательно смешивается с гражданскими, использует "живые щиты", не носит формы, запускает ракеты или беспилотники с территории больниц, школ или государственных учреждений.

Формально в МГП существуют нормы, способные охватить значительную часть этих ситуаций. Однако базовое предположение о чётком разделении между мирным населением и комбатантами часто не соответствует реальности боевых действий. Примеры масштабных разрушений жилых районов, которые мы видели в последние годы в секторе Газа, показывают, как трудно обеспечить практическое воплощение принципов различения и пропорциональности в условиях, когда гражданские и участники боевых действий физически перемешаны.

Второй пласт — вопрос, нужны ли технологически специфические режимы именно для автономных ударных платформ. В 2024 году Генеральная Ассамблея получила доклад Генерального секретаря ООН о летальных автономных системах, где государства, среди прочего, подчёркивали проблемы надёжности, точности и способности таких решений различать военные и гражданские цели. В том же году в рамках Конвенции о некоторых видах обычного оружия государства в Группе правительственных экспертов вышли на предварительный консенсус относительно рабочей характеристики летальной автономной системы: как комплекса, способного самостоятельно выбирать и поражать цели без участия оператора.

На мой взгляд, в большинстве случаев следует применять и толковать уже имеющиеся нормы, а не конструировать новый режим под каждую технологию. Но будут ситуации, где узкие, адресные правила всё же станут неизбежными — и дискуссии последних лет об автономном вооружении это подтверждают.

Правила применения и C2 для автономных решений

Государства могут и должны прописывать правила применения силы и процедуры командования даже там, где на поле боя присутствуют автономные платформы.

Для этого требуется очень чёткое понимание ограничений. Операторы должны проходить структурированное обучение и знать, что именно комплекс умеет, а чего не делает вообще. Здесь уместна аналогия с большими языковыми моделями: они способны выдумывать факты, но если пользователь понимает их границы, инструмент остаётся пригодным для работы.

Доверие между пользователем и технологией формирует эффективность боевого применения. Содержательное участие человека должно сохраняться, а ответственность не может ограничиваться только оператором, который нажимает кнопку. Она распространяется на командиров и на оборонную индустрию, создающую эти решения. Командиры должны не просто "подписать документ о МГП", а реально применять эти принципы при планировании и выполнении операций.

Вместе с тем нужно честно признать: если противник целенаправленно использует "живые щиты" и прячется за гражданской инфраструктурой, избежать жертв среди мирного населения всегда не удаётся. В отдельных случаях военная необходимость преобладает, и люди, которые не участвовали в боевых действиях, к сожалению, могут стать частью допустимого побочного ущерба в рамках гуманитарного права. Эта реальность существует независимо от того, применяется ли автономная платформа или "классический" вид оружия.

Ключевые риски городского боя с автономными системами

1. Масштаб ошибок алгоритмов часто остаётся невидимым до момента, когда последствия становятся политически и морально неприемлемыми. Расследования относительно применения цифровых инструментов для автоматизированного отбора тысяч целей в Газе показали, как соблазн ускорить цикл поражения может сочетаться с минимальным участием человека и высокими человеческими потерями.
2. Нормализация высокого побочного ущерба. Часть инструментов цифрового таргетинга в недавних операциях, по оценкам правозащитников и экспертов ООН, могла использовать неполные данные и слишком широкие допуски относительно гибели гражданских, что ставит под сомнение соответствие таким практикам принципам различения и пропорциональности.
3. Размывание ответственности между разработчиками, командирами и алгоритмами. Когда решение фактически принимает техническая система, у соблазна сказать "так решила машина" появляется очень опасное измерение. Именно поэтому часть государств в своих представлениях в ООН прямо подчёркивает необходимость понятных стандартов подотчётности для автономного вооружения.
4. Гонка вооружений в сфере автономии создаёт дополнительное давление на демократии: они видят, как недемократические режимы экспериментируют с менее жёсткими ограничениями, и оказываются между желанием не отставать технологически и обязательством перед собственным обществом оставаться в рамках МГП.

Подотчётность и проверка решений

Ключевые элементы подотчётности начинаются задолго до первого боевого применения. Промышленные разработчики должны получить чёткие рамки: какие правила применения силы закладываются в алгоритм, какие интерфейсы будут у пользователей, как технически кодируются ограничения, связанные с гуманитарным правом.

Подразделения должны быть обучены не только пользоваться AI-решениями, но и понимать право вооружённых конфликтов на практическом уровне. Сама техника должна оставаться максимально объяснимой и трассируемой: с возможностью остановки в любой момент, регистрацией аномалий и фиксацией всех ключевых решений.

Доверие к таким решениям строится во времени. Демократиям не стоит прыгать сразу в полностью летальные автономные платформы. Логичная траектория — начинать с более простых функций: наблюдение, обнаружение, невооружённые сценарии. Лишь после этого, шаг за шагом, можно переходить к более чувствительным применениям.

Автономия не отменяет ответственности. Она лишь делает ещё более важными три вещи: честный взгляд на реальность городского боя, понятные правила для алгоритмов и людей и готовность потом объяснить каждый выстрел — даже если его совершил не пилот, а код.

Ранее Авив Бар Зохар рассказывал о вызовах противодействия беспилотным системам, интеграции гражданского и военного секторов и приоритетах для стран с ограниченными ресурсами в своей колонке "Противовоздушная оборона против дронов — уроки Израиля и Украины"