Rozwój broni autonomicznej stał się jednym z najbardziej kontrowersyjnych zjawisk współczesnego przemysłu zbrojeniowego. Systemy zdolne do samodzielnego wyboru i rażenia celów, oparte na algorytmach sztucznej inteligencji, wymykają się tradycyjnym kategoriom prawnym i etycznym, na których oparto dotychczasowe prawo konfliktów zbrojnych. Państwa, organizacje międzynarodowe oraz przedstawiciele nauki i biznesu stają wobec pilnej potrzeby zdefiniowania granic dopuszczalności automatyzacji przemocy, przy jednoczesnym zachowaniu przewagi technologicznej i bezpieczeństwa narodowego. Ten artykuł analizuje aktualny stan regulacji prawa międzynarodowego, wyzwania stawiane przez autonomiczne systemy uzbrojenia oraz kluczową rolę przemysłu zbrojeniowego w kształtowaniu przyszłego ładu normatywnego.

Definicje, klasyfikacje i charakterystyka broni autonomicznej

Pojęcie broni autonomicznej nie jest jednoznacznie zdefiniowane ani w prawie traktatowym, ani w powszechnie przyjętej praktyce państw. W literaturze i debacie międzynarodowej używa się szeregu określeń, takich jak LAWS (Lethal Autonomous Weapon Systems), zautomatyzowane systemy uzbrojenia czy systemy broni oparte na sztucznej inteligencji. Zasadniczym elementem jest jednak stopień samodzielności systemu w cyklu decyzyjnym dotyczącym użycia siły.

Najczęściej przyjmuje się rozróżnienie na trzy poziomy kontroli człowieka nad systemem uzbrojenia:

• Broń sterowana – człowiek bezpośrednio kontroluje każdy etap użycia siły, jak w przypadku klasycznych systemów zdalnie sterowanych, gdzie operator podejmuje wszystkie decyzje o otwarciu ognia.
• Broń półautonomiczna – system posiada zdolność do samodzielnego wykonywania części funkcji (np. nawigacji, identyfikacji celu), lecz decyzja o użyciu śmiercionośnej siły pozostaje po stronie człowieka, który akceptuje lub odrzuca proponowane działanie.
• Broń w pełni autonomiczna – system jest zaprojektowany tak, aby bez dalszej ingerencji człowieka wybierać, namierzać i atakować cele w oparciu o zaprogramowane parametry, uczenie maszynowe lub algorytmy adaptacyjne.

W praktyce granice między tymi kategoriami są płynne. Przemysł zbrojeniowy oferuje coraz bardziej złożone platformy, w których poziom autonomii można programowo zwiększać lub ograniczać w zależności od potrzeb operacyjnych. Dotyczy to szczególnie systemów takich jak bezzałogowe statki powietrzne, autonomiczne pojazdy lądowe, morskie drony bojowe czy inteligentne systemy obrony przeciwrakietowej.

Kluczowe znaczenie dla prawa międzynarodowego ma pytanie, czy dany system może samodzielnie podejmować decyzje o użyciu siły w dynamicznym, nieprzewidywalnym środowisku, gdzie nie da się z góry przewidzieć wszystkich możliwych scenariuszy. Z prawnego punktu widzenia szczególnie niepokojące są systemy zdolne do modyfikacji własnych wzorców działania na podstawie doświadczenia, wykorzystujące głębokie uczenie czy algorytmy ewolucyjne, których zachowania twórcy nie są w stanie w pełni przewidzieć ani odtworzyć.

Warto odróżnić autonomię techniczną od autonomii decyzyjnej w sensie prawnym. System może być wysoko zautomatyzowany, jeśli chodzi o nawigację, komunikację czy rozpoznanie, ale nadal pozostawać całkowicie zależny od człowieka w zakresie decyzji o użyciu siły. Konflikt z prawem międzynarodowym pojawia się przede wszystkim wówczas, gdy dochodzi do delegowania śmiercionośnej decyzji na algorytm, bez efektywnej możliwości ingerencji i ponoszenia odpowiedzialności przez operatora lub dowódcę.

Przemysł zbrojeniowy, napędzany logiką przewagi technologicznej i konkurencji międzynarodowej, inwestuje znaczące środki w rozwój systemów autonomicznych jako sposobu na zwiększenie skuteczności operacyjnej, redukcję strat własnych oraz ograniczenie kosztów długotrwałych operacji. Oznacza to, że nawet przy rosnącej presji na regulacje, proces badawczo-rozwojowy w tej dziedzinie będzie trwał, a prawo międzynarodowe musi dostosować się do faktu, że potencjalnie autonomiczne systemy staną się trwałym elementem arsenałów wielu państw.

Normy międzynarodowego prawa humanitarnego a broń autonomiczna

Międzynarodowe prawo humanitarne (MPH), znane również jako prawo konfliktów zbrojnych, opiera się na kilku fundamentalnych zasadach: rozróżniania, proporcjonalności, konieczności wojskowej oraz zakazu powodowania nadmiernych cierpień. Pytanie, czy i w jaki sposób te zasady mogą być stosowane do broni autonomicznej, stanowi oś debaty prowadzonej w ramach ONZ, Międzynarodowego Komitetu Czerwonego Krzyża oraz licznych forów eksperckich.

Zasada rozróżniania nakazuje odróżnianie między celami wojskowymi a osobami i obiektami cywilnymi. System broni, który nie jest w stanie wiarygodnie rozpoznać statusu prawnego celu, może naruszać tę zasadę. Dzisiejsze technologie rozpoznania oparte na uczeniu maszynowym mają ograniczoną zdolność do oceny kontekstu, intencji czy zachowań ludzkich w złożonym środowisku działań bojowych – szczególnie w konfliktach asymetrycznych i w terenach zurbanizowanych.

W praktyce przemysł zbrojeniowy promuje koncepcję tzw. pozytywnej identyfikacji celu (PID – positive identification) opartej na fuzji sensorów, analizie obrazu i danych wywiadowczych. Mimo imponujących postępów technicznych, żaden producent nie jest w stanie zagwarantować stuprocentowej skuteczności odróżniania kombatantów od cywilów, szczególnie gdy przeciwnik adaptuje swoje taktyki, aby mylić algorytmy (np. poprzez kamuflaż, maskowanie sygnatur czy celowe generowanie szumu informacyjnego).

Zasada proporcjonalności wymaga, aby przewidywane straty wśród ludności cywilnej i zniszczenia dóbr cywilnych nie były nadmierne w stosunku do oczekiwanej przewagi wojskowej. Ocena proporcjonalności ma charakter w dużej mierze jakościowy, związany z osądem dowódcy, jego wiedzą o sytuacji, doświadczeniem i wrażliwością etyczną. Przenieść tę ocenę na algorytm oznacza konieczność formalizacji pojęć takich jak „nadmierność” czy „przewaga wojskowa” w sposób numeryczny, co budzi poważne wątpliwości prawne i filozoficzne.

Producenci systemów autonomicznych podkreślają, że algorytmy mogą minimalizować tzw. uszkodzenia uboczne (collateral damage) poprzez bardziej precyzyjne dobieranie celów i środków rażenia, jednak MPG nie ocenia wyłącznie skutków, ale także proces decyzyjny. Nawet jeśli maszyna byłaby statystycznie „dokładniejsza” niż przeciętny żołnierz, powstaje pytanie, czy delegowanie życia i śmierci na system pozbawiony ludzkiego osądu jest zgodne z duchem prawa humanitarnego oraz zakorzenioną w nim ideą poszanowania godności człowieka.

Zasada konieczności wojskowej dopuszcza użycie siły wyłącznie w zakresie niezbędnym do osiągnięcia uzasadnionego celu militarnego. W przypadku broni autonomicznej ocena „niezbędności” jest w istocie formułowana przez programistów, inżynierów i oficerów planowania, którzy ustalają reguły działania systemu. Jednym z zagrożeń jest dążenie do maksymalizacji skuteczności militarnej w logice „zwycięstwa za wszelką cenę”, która może skłaniać do rozszerzania zakresu dopuszczalnych ataków, jeśli nie zostanie zrównoważona odpowiednimi ograniczeniami prawnymi i politycznymi.

W ramach istniejących konwencji genewskich i zwyczajowego MPH obowiązuje również zakaz używania broni, która ze swej natury nie może być skierowana przeciwko konkretnemu celowi wojskowemu lub której skutków nie można ograniczyć zgodnie z wymogami prawa. Krytycy broni autonomicznej argumentują, że systemy działające w oparciu o uczenie się w czasie rzeczywistym mogą wykazywać emergentne zachowania, których granice skutków są zasadniczo nieprzewidywalne, co może stawiać je bliżej kategorii broni niedyskryminującej.

Istotny, choć często pomijany, jest obowiązek przeprowadzania tzw. przeglądu legalności nowej broni (Article 36 Additional Protocol I do Konwencji Genewskich). Państwa są zobowiązane oceniać, czy wprowadzenie do uzbrojenia nowego systemu jest zgodne z MPH oraz innymi zobowiązaniami międzynarodowymi. W kontekście broni autonomicznej oznacza to, że już na etapie projektowania i testów przemysł zbrojeniowy musi współpracować z prawnikami wojskowymi, aby ograniczyć ryzyko wprowadzenia na rynek systemów niezgodnych z prawem.

Luka regulacyjna i próby międzynarodowej kontroli

Pomimo rosnącej liczby debat i dokumentów miękkiego prawa, jak rezolucje i zalecenia, nie istnieje jeszcze wiążący traktat globalny, który wprost regulowałby broń autonomiczną. Reżim konwencji o zakazie lub ograniczeniu użycia pewnych broni konwencjonalnych (CCW) stał się główną platformą rozmów na temat tzw. LAWS, jednak prace Grupy Ekspertów Rządowych od lat napotykają na impas polityczny.

Wśród państw uczestniczących w tych negocjacjach wykształciły się trzy główne bloki stanowisk:

• Grupa państw domagających się całkowitego zakazu broni autonomicznej o zdolnościach śmiercionośnych. Argumentują one, że tego typu systemy są z natury sprzeczne z zasadami MPH oraz podstawowymi normami etycznymi, a także grożą niekontrolowaną eskalacją konfliktów.
• Państwa opowiadające się za podejściem regulacyjnym bez generalnego zakazu, podkreślające konieczność „znaczącej kontroli człowieka” (meaningful human control) nad każdym użyciem siły. Proponują one wytyczne techniczne i operacyjne oraz wzmocnienie istniejących mechanizmów przeglądu legalności broni.
• Państwa, które preferują zachowanie maksymalnej swobody w rozwoju systemów autonomicznych, argumentując, że obecne prawo międzynarodowe jest wystarczające, a nowe regulacje mogłyby zahamować innowacje i naruszyć równowagę strategiczną.

Dla przemysłu zbrojeniowego niepewność regulacyjna jest poważnym czynnikiem ryzyka. Brak jasnych ram prawnych utrudnia planowanie długoterminowych inwestycji R&D, a jednocześnie tworzy pole do agresywnej konkurencji technologicznej, w której przewaga pierwszego ruchu może przeważyć nad względami etycznymi. Firmy działające w sektorze obronnym coraz częściej lobbyją na rzecz przyjęcia klarownych standardów, które ujednoliciłyby minimalne wymagania odpowiedzialnego projektowania i użycia broni autonomicznej.

Jedną z koncepcji, które wyłoniły się w toku dyskusji, jest wspomniana „znacząca kontrola człowieka”. Jej założeniem jest, że człowiek musi mieć realną możliwość zrozumienia działania systemu, posiadania aktualnej informacji o sytuacji oraz podjęcia lub wstrzymania decyzji o ataku. To podejście stawia przed przemysłem zbrojeniowym zadanie projektowania interfejsów i architektury systemów w taki sposób, aby operator nie stawał się jedynie biernym nadzorcą algorytmów, ale zachował aktywną rolę decyzyjną.

Równolegle rozwijają się inicjatywy o charakterze dobrowolnym, w których uczestniczą koncerny obronne, uczelnie techniczne i organizacje pozarządowe. Kodeksy etyczne, standardy „AI safety” i wytyczne dotyczące przejrzystości algorytmów stają się elementem budowania zaufania i reputacji na rynku. W praktyce jednak ich skuteczność zależy od tego, czy zostaną przełożone na wymogi kontraktowe w przetargach rządowych oraz czy państwa będą gotowe egzekwować odpowiedzialność w przypadku naruszeń.

Kwestia odpowiedzialności prawnej za szkody wyrządzone przez autonomiczne systemy uzbrojenia stanowi odrębny, złożony problem. Obecne prawo międzynarodowe zakłada odpowiedzialność państwa za działania jego sił zbrojnych, niezależnie od tego, czy szkoda powstała w wyniku działania żołnierza, czy systemu technicznego. Jednak w praktyce wewnętrzne dochodzenia, procesy karne i cywilne będą musiały rozstrzygać, w jakim stopniu odpowiedzialność ponoszą dowódcy, operatorzy, programiści czy producenci. To z kolei wpływa na kształt umów między państwami a przemysłem zbrojeniowym, w tym na klauzule dotyczące gwarancji, ubezpieczenia i odszkodowań.

W miarę jak coraz więcej państw rozwija własne programy badań nad autonomicznymi systemami broni, rośnie znaczenie jednolitych standardów testowania i certyfikacji. Bez nich pojawia się ryzyko eksportu systemów o nieprzejrzystych parametrach i niezweryfikowanej zgodności z normami MPH do reżimów o niskich standardach ochrony praw człowieka. Dlatego kontrola zbrojeń w obszarze broni autonomicznej musi uwzględniać nie tylko rozwinięte demokracje, ale także rynki wschodzące i regiony o wysokim poziomie niestabilności.