AI mení vojnu a priniesla desivú otázku. Západu hrozí gól do vlastnej brány
Umelá inteligencia mení vojnu a priniesla desivú otázku. Západu hrozí gól do vlastnej brány
Umelá inteligencia čoraz výraznejšie vstupuje do vojenského rozhodovania a dokáže spracúvať informácie či navrhovať ciele rýchlosťou, na ktorú existujúce kontrolné mechanizmy neboli vytvorené. Bývalý poradca britského ministerstva obrany Dan Summers v analýze pre portál War on the Rocks upozorňuje, že západné armády preto budú musieť nanovo definovať, ktoré rozhodnutia môžu prenechať technológiám a ktoré musia zostať v rukách ľudí.
Ako príklad uvádza vojnu medzi Spojenými štátmi a Iránom z tohto roka. Systém Maven Smart System, ktorý vyvinula spoločnosť Palantir a využíva model Claude od Anthropic, podľa neho pomáhal vytvárať a prioritizovať zoznamy cieľov tempom, ktoré by ešte pred niekoľkými rokmi nebolo možné.
Problém sa podľa neho prejavuje najmä pri vysokom tempe operácií. Počas americko-iránskeho konfliktu sa hovorilo až o tisícke úderov za 24 hodín. To by pri rovnomernom rozložení znamenalo približne 86 sekúnd na jedno rozhodnutie o cieli. „Otázkou nie je, či ponechať ľudí v rozhodovacom procese, ale ako zabezpečiť, aby mal ľudský úsudok skutočný význam pri tempe, ktoré tieto systémy vytvárajú,“ píše Summers.
Summers rozlišuje medzi dvoma úrovňami rozhodovania. Prvou je otázka, či možno útok vykonať v súlade s medzinárodným právom. Druhou je otázka, či by sa útok vôbec mal uskutočniť. Práve druhá rovina podľa neho zahŕňa faktory, ktoré sa len ťažko redukujú na pevne stanovené pravidlá. Aj legálny útok môže poškodiť vzťahy s treťou krajinou, narušiť jednotu koalície, zhoršiť spoluprácu s miestnym obyvateľstvom alebo prekaziť politické rokovania.
„Stroj nikdy nemôže niesť morálnu zodpovednosť za rozhodnutie vziať človeku život,“ uvádza Summers. Za chybu by považoval odstránenie kontrolných mechanizmov len preto, aby sa ľudské rozhodovanie prispôsobilo tempu strojov. Podľa neho by sa AI mohla naopak využiť aj na zlepšenie kontroly – napríklad na upozorňovanie na právne, etické alebo politické riziká, relevantné precedensy či možné dôsledky civilných strát.
Navrhuje tiež používať samostatný systém umelej inteligencie ako priebežný „červený tím“, ktorý by každé odporúčanie na útok preveroval z opačnej strany a upozorňoval veliteľa na argumenty proti zásahu. Konečné rozhodnutie by však neprijímal. Takéto riešenia podľa autora prinášajú aj nové riziká. AI môže vopred zúžiť možnosti, ktoré sa vôbec dostanú pred veliteľa, a ľudia môžu podliehať automatizačnému skresleniu.
Problémom zostáva aj vysvetliteľnosť rozhodnutí. Pri vyšetrovaní chybného amerického útoku v Kábule z roku 2021 bolo možné spätne rekonštruovať, aké informácie analytici videli a z akých predpokladov vychádzali. Ak by však systém navrhol cieľ spôsobom, ktorý nedokážu ľudia spätne vysvetliť, takýto proces učenia z chýb by sa podľa Summersa narušil.
Autor preto navrhuje štyri základné opatrenia. Vlády by mali vopred určiť typy rozhodnutí, ktoré sa nikdy nesmú plne delegovať na umelú inteligenciu. Ministerstvá obrany by mali priamo do systémov na výber cieľov začleniť AI schopnú nezávisle preverovať odporúčania. Zároveň by mala byť povinná dostatočná auditovateľnosť. Štvrtým prvkom má byť ochrana pred tým, aby sa človek v rozhodovacom procese stal iba formálnym schvaľovateľom strojového návrhu.
AI podľa autora prinesie komplikácie aj do spoločných operácií spojencov. Štáty NATO už dnes používajú odlišné právne interpretácie či hranice akceptovateľnej proporcionality a rozdiely riešia národnými obmedzeniami. Pri automatizovanejších systémoch však podľa Summersa nebude stačiť posudzovať iba jednotlivé výsledky. Spojenci sa budú musieť zhodnúť aj na zásadách, podľa ktorých je celý systém navrhnutý a kontrolovaný.
Summers považuje NATO za najprirodzenejšie fórum na vytvorenie spoločných pravidiel. Zachovanie ľudského rozhodovania podľa neho nemusí byť konkurenčnou nevýhodou. Naopak, tvrdí, že demokratická kontrola, zodpovednosť a obmedzenia pri používaní sily sú súčasťou legitimity, na ktorej je založená dlhodobá sila západných aliancií. „Doktrína, ktorá zachová ľudské rozhodovanie vo svojom jadre, posilňuje legitimitu, zodpovednosť a dôveru, ktoré sú základom trvalej strategickej moci,“ uzatvára.
