Автономні системи у війні — як захистити цивільних у місті

Війна дедалі частіше приходить у міста разом із дронами, алгоритмами й автономними платформами. Демократичні держави опиняються у парадоксальній ситуації: з одного боку, вони зобов’язані захищати своїх громадян і військових. З іншого — повинні дотримуватися Міжнародного гуманітарного права (далі — МГП) навіть тоді, коли противник цілеспрямовано ховається серед мирного населення й використовує цивільну інфраструктуру як щит.

Останні конфлікти, зокрема в Україні й у Газі, показали масштаб руйнувань і кількість жертв серед цивільних. Це породило гострі дискусії про правомірність засобів і способів ведення бойових дій. У цій колонці я говорю про п’ять аспектів такого міського бою: операційні дилеми, "червоні лінії" для командирів, правові прогалини, правила застосування автономних рішень і механізми підзвітності.

Операційні дилеми в щільній міській забудові

Коли демократична держава застосовує роботизовані платформи в густонаселеному місті й намагається зберегти вірність МГП та військовій етиці, виникає кілька рівнів ризику.

У неозброєних ролях — розвідка, спостереження, збір даних — літаючі або наземні носії зазвичай не створюють значного юридичного тиску. Ймовірність порушення базових принципів на цьому етапі обмежена, а додаткова "картина з повітря" іноді допомагає, навпаки, зменшити шкоду для мирних мешканців.

Коли йдеться про дистанційно керовані комплекси, де людина залишається в контурі, їх у правовому сенсі можна здебільшого розглядати як класичні пілотовані засоби ураження. В Ізраїлі такі апарати нерідко називають літаками з дистанційним екіпажем, а не просто дронами. Ми навмисно підкреслюємо: визначальним є не місце оператора, а те, що саме людина реально контролює рішення про застосування сили. У цьому разі структура юридичного аналізу майже не змінюється.

Справжня дилема починається з летальних автономних платформ. Особливо коли противник свідомо вбудовується у житлові квартали, тримає боєкомплекти в підвалах будинків або виходить на пуски з території шкіл і лікарень. У такій реальності є серйозний ризик, що алгоритм не зможе з достатньою надійністю відрізнити комбатанта від цивільної особи. А отже, базовий принцип МГП — розрізнення — може виявитися невиконаним.

Тому будь-яка демократія, яка замислюється над застосуванням повністю автономних ударних платформ, де саме машина обирає ціль і самостійно застосовує силу, спершу має відповісти на питання: чи забезпечено розрізнення на практиці. І лише потім переходити до аналізу пропорційності, запобіжних заходів та інших засад гуманітарного права.

"Червоні лінії" та орієнтири для командирів і операторів

Є кілька принципів, які, на мою думку, мають спрямовувати рішення на всіх рівнях управління.

Перший — стійкий зв’язок між людиною й технологією. Це, можливо, один із найскладніших викликів для сучасних армій. Такий зв’язок не може будуватися на сліпому ентузіазмі щодо "розумної" техніки. Він ґрунтується на передбачуваності й розумінні поведінки платформи: що вона робить у типовій ситуації, де помиляється, як поводиться у граничних сценаріях.

Другий — змістовна участь людини. Навіть якщо автономний комплекс виконує значну частину завдання, включно з потенційним фінальним застосуванням сили, людина має залишатися у контурі ухвалення рішення. Це дозволяє простежити останній людський крок, порівняти намір командира з фактичною поведінкою машини й потім пояснити, чому саме вона спрацювала так, як спрацювала. Для цього всі ключові дії мають записуватися й зберігатися, навіть якщо носій буде знищено під час операції.

Третій орієнтир — можливість перервати місію на будь-якому етапі. Командир або оператор повинні мати реальний, а не декоративний контроль над зупинкою процесу. Якщо платформа вже вийшла за межі цього контролю, це означає, що межа допустимого використання пройдена.

Де право відстає від міського бою

З правового боку найбільші прогалини виникають не через те, що засоби нові, а через характер сучасних конфліктів. Це вже не класичні зіткнення між арміями держав. Противник свідомо змішується з цивільними, використовує "живі щити", не носить форми, запускає ракети чи безпілотники з території лікарень, шкіл або державних інституцій.

Формально в МГП існують норми, здатні охопити значну частину цих ситуацій. Однак базове припущення про чіткий поділ між мирним населенням та комбатантами часто не відповідає реальності бойових дій. Приклади масштабних руйнувань житлових районів, які ми бачили останніми роками в секторі Газа, показують, як важко забезпечити практичне втілення принципів розрізнення та пропорційності в умовах, коли цивільні й учасники бойових дій фізично перемішані.

Другий пласт — питання, чи потрібні технологічно специфічні режими саме для автономних ударних платформ. У 2024 році Генеральна Асамблея отримала доповідь Генерального секретаря ООН про летальні автономні системи, де держави, серед іншого, наголошували на проблемах надійності, точності та здатності таких рішень розрізняти військові й цивільні цілі. Того ж року в рамках Конвенції про деякі види звичайної зброї держави в Групі урядових експертів вийшли на попередній консенсус щодо робочої характеристики летальної автономної системи: як комплексу, здатного самостійно обирати та вражати цілі без участі оператора.

На мою думку, у більшості випадків слід застосовувати й тлумачити вже наявні норми, а не конструювати новий режим під кожну технологію. Але будуть ситуації, де вузькі, адресні правила все ж стануть неминучими — і дискусії останніх років про автономне озброєння це підтверджують.

Правила застосування і C2 для автономних рішень

Держави можуть і повинні прописувати правила застосування сили й процедури командування навіть там, де на полі бою присутні автономні платформи.

Для цього потрібне дуже чітке розуміння обмежень. Оператори мають проходити структуроване навчання й знати, що саме комплекс вміє, а чого не робить узагалі. Тут доречна аналогія з великими мовними моделями: вони здатні вигадувати факти, але якщо користувач розуміє їхні межі, інструмент лишається придатним для роботи.

Довіра між користувачем і технологією формує ефективність бойового застосування. Змістовна участь людини має зберігатися, а відповідальність не може обмежуватися лише оператором, який натискає кнопку. Вона поширюється на командирів і на оборонну індустрію, що створює ці рішення. Командири повинні не просто "підписати документ про МГП", а реально застосовувати ці принципи під час планування та виконання операцій.

Водночас потрібно чесно визнати: якщо противник цілеспрямовано використовує "живі щити" й ховається за цивільною інфраструктурою, уникнути жертв серед мирного населення завжди не вдається. В окремих випадках воєнна необхідність переважає, і люди, які не брали участі в бойових діях, на жаль, можуть стати частиною допустимої побічної шкоди в рамках гуманітарного права. Ця реальність існує незалежно від того, чи застосовується автономна платформа, чи "класичний" вид зброї.

Ключові ризики міського бою з автономними системами

1. Масштаб помилок алгоритмів часто лишається невидимим до моменту, коли наслідки стають політично й морально неприйнятними. Розслідування щодо застосування цифрових інструментів для автоматизованого добору тисяч цілей у Газі показали, як спокуса прискорити цикл ураження може поєднуватися з мінімальною участю людини і високими людськими втратами.
2. Нормалізація високої побічної шкоди. Частина інструментів цифрового таргетингу в недавніх операціях, за оцінками правозахисників і експертів ООН, могла використовувати неповні дані та надто широкі допуски щодо загибелі цивільних, що ставить під сумнів відповідність таким практикам принципам розрізнення й пропорційності.
3. Розмивання відповідальності між розробниками, командирами й алгоритмами. Коли рішення фактично ухвалює технічна система, у спокуси сказати "так вирішила машина" з’являється дуже небезпечний вимір. Саме тому частина держав у своїх поданнях до ООН прямо наголошує на необхідності зрозумілих стандартів підзвітності для автономного озброєння.
4. Гонка озброєнь у сфері автономії створює додатковий тиск на демократії: вони бачать, як недемократичні режими експериментують із менш жорсткими обмеженнями, і опиняються між бажанням не відставати технологічно та зобов’язанням перед власним суспільством залишатися в межах МГП.

Підзвітність і перевірка рішень

Ключові елементи підзвітності починаються задовго до першого бойового застосування. Промислові розробники мають отримати чіткі рамки: які правила застосування сили закладаються в алгоритм, які інтерфейси будуть у користувачів, як технічно кодуються обмеження, пов’язані з гуманітарним правом.

Підрозділи повинні бути навчені не лише користуватися AI-рішеннями, а й розуміти право збройних конфліктів на практичному рівні. Сама техніка має залишатися максимально пояснюваною й трасованою: з можливістю зупинки в будь-який момент, реєстрацією аномалій і фіксацією усіх ключових рішень.

Довіра до таких рішень будується в часі. Демократіям не варто стрибати одразу в повністю летальні автономні платформи. Логічна траєкторія — починати з простіших функцій: спостереження, виявлення, неозброєні сценарії. Лише після цього, крок за кроком, можна переходити до чутливіших застосувань.

Автономія не скасовує відповідальності. Вона лише робить ще важливішими три речі: чесний погляд на реальність міського бою, зрозумілі правила для алгоритмів і людей та готовність потім пояснити кожен постріл — навіть якщо його здійснив не пілот, а код.

Раніше Авів Бар Зохар розповідав про виклики протидії безпілотним системам, інтеграцію цивільного й військового секторів та пріоритети для країн з обмеженими ресурсами у своїй колонці "Протиповітряна оборона проти дронів —  уроки Ізраїлю та України"