Od Terminátora k realite: Svet sa blíži k Oppenheimerovmu momentu strojov. Experti bijú na poplach
Od Terminátora k realite: Svet sa blíži k Oppenheimerovmu momentu strojov
Experti varujú pred alarmujúcim trendom vo vojne, kde sa technológie, ktoré kedysi patrili do oblasti sci-fi, stávajú realitou. Autonómne zbrane, schopné samostatne identifikovať ciele a rozhodovať o použití smrtiacej sily bez priameho zásahu človeka, sa už testujú v konfliktoch v mestách na Ukrajine, Líbyi či Pásme Gazy. Tieto technológie predstavujú výrazný posun v spôsobe, akým sa vedú vojny, pričom mnohí analytici a diplomati pripomínajú, že svet sa nachádza na prahu Oppenheimerovho momentu umelej inteligencie.
Nové vojenské technológie a etické výzvy
Na vojnovom poli sa od Američanov odrodili projekty ako Replicator, zatiaľ čo technologickí lídri ako Palantir a Anduril dodávajú zbraňové systémy, ktoré sľubujú rýchlejšie a efektívnejšie vojenské operácie. Poskytovatelia týchto technológií obhajujú svoje inovácie ako morálny pokrok, tvrdia, že stroje sú schopné dodržiavať medzinárodné humanitárne právo lepšie než ľudia, ktorí majú tendenciu konať emocionálne. Avšak otázka, čo ak sa stroj pomýli, zostáva nezodpovedaná; pochybuje sa o zodpovednosti v prípade, že autonómny systém spôsobí smrť nevinných civilistov.
Právne medzery a otázky zodpovednosti
V súčasnosti existuje výrazná „medzera v zodpovednosti“. Generálne platí, že právne normy nie sú prispôsobené na situácie, v ktorých autonómne zbrane spôsobia škodu. Autonómne zbraňové systémy (AWS) niet možné postaviť pred súd. Expertí oznámili, že robot nemá morálnu agentúru a nedokáže obhajovať svoje činy. Ak veliteľ vyšle dron do akcie, ktorý nielenže nesplní úlohu, ale omylom zaútočí na civilistov, jeho nie vždy je jednoznačná zodpovednosť.
Veliteľská zodpovednosť a nemožnosť predvídania
Medzinárodné právo definuje pojem veliteľskej zodpovednosti, ale v kontexte autonómnych zbraní sa stáva zložitým. Veliteľ je zodpovedný len ochranu alebo preventívne opatrenia proti zločinom podriadených, avšak ak nástroje konajú nezávisle, jeho schopnosť vopred usmerňovať zásahy je olimitovaná. Rýchlosť autonómnych operácií presahuje možnosti ľudskej reakcie, čo zvyšuje riziko neúmyselného spôsobenia škôd.
Ilúzia kontroly nad autonómnymi systémami
Vojenské sily i inžinieri uisťujú, že v bojových scenároch zostáva aktívny prvok ľudskej kontroly. V praxi to však za súčasnej situácie môže predstavovať mýtus; ak veliteľ dohliada na stovky dronov, jeho úloha pozorovateľa sa zredukuje na symbolickú a neudrží si praktickú kontrolu.
Jasné medzery v civilnom práve
Ak sú trestné práva nedostatočné, je otázne, či obete konfliktov môžu stabilne dosiahnuť spravodlivosť prostredníctvom civilných žalôb. Existujú právne štíty, ako je štátna imunita, ktorá chráni armádu aj výrobcov vojenskej technológie pred zodpovednosťou za katastrofy na bojisku. Tieto legislatívne medzery znamenajú, že v prípade autonómnych zbraní môže dôjsť k nezákonným škodám, ktoré ostávajú bez postihu.
Ostáva otázka etiky
V súčasnej dobe sa otázky zodpovednosti za autonómne technológie nielen diskutujú, ale aj zdôrazňujú fenomén „dehumanizácie“ vojenského konfliktu. Stroj nezohľadňuje hodnotu ľudského života a môže sa stať nástrojom algoritmickej diskriminácie, ak nebude správne navrhnutý. Autonómne zbrane sú predisponované na chybné hodnotenie a vyhodnocovanie zložitých situácií, čo môže viesť k fatálnym následkom.
Budúcnosť bez automatizovanej smrti
Aj keď viac ako 100 krajín sa snaží dosiahnuť medzinárodný konsenzus na reguláciu autonómnych zbraní, dosiahnutie skutočného pokroku ostáva ťažké. Záväzný zákaz je potrebný, aby sa predišlo tomu, že technológia bude dodávať smrť bez zodpovednosti. Zápasy susedných mocností o bezpečnostné prevahy spôsobujú enormný tlak na zbrojné preteky. Etické úvahy nad rozhodovaním o živote a smrti by mali byť v centre diskusií o budúcnosti vojenských technológií. Je na nás, aby sme si zvolili morálnu a právnu cestu, ktorá zabrání automatikom usmrcovať bez následkov.
