Robot je slovo, na které jsme jako krajané Karla Čapka právem hrdí. Ale víme, jak ho správně skloňovat? Ústav pro jazyk český uvádí, že slovo robot můžeme skloňovat jako neživotné podle vzoru les (množné číslo „roboty“), nebo jako životné podle vzoru pán (množné číslo „roboti“).
Spor o životnost robotů však není jen otázkou jazykovědnou, ale také technickou a potažmo politickou. Elon Musk a před svou smrtí i Stephen Hawking varovali, že během pár let nás začnou ohrožovat „zabijáčtí roboti“. Tedy armádní stroje, které budou samy rozhodovat, koho zabijí a koho ne.
Tyto stroje ještě neexistují, nicméně s pokrokem umělé inteligence to je jen otázka času. Například NATO v roce 2016 označilo kyberprostor za další sféru obrany, vedle tradičních sfér, kterými jsou souš, voda, vzduch a vesmír.
Konference o odzbrojení zasedá v historické místnosti Společnosti národů v Ženevě
Proto se tímto problémem začala zabývat i OSN v Ženevě. Konkrétně Úmluva CCW, jejíž plný název zní „Úmluva o zákazu nebo omezení použití některých konvenčních zbraní, které mohou způsobovat nadměrné utrpení anebo mít nerozlišující účinky“.
V roce 2016 v rámci CCW vznikla otevřená pracovní skupina vládních expertů, která debatuje o nových a budoucích zbraních. Akorát nemluví jako novináři o „zabijáckých robotech“, nýbrž o „autonomních smrtících zbraňových systémech“, pro které se vžila zkratka LAWS.
Všem je zřejmé, že LAWS do vedení války přinesou podobnou revoluci, jako byl vynález střelného prachu nebo jaderných zbraní. Ovšem názory na potřebu regulace či zákazu LAWS se různí.
Země jako USA, Rusko, Izrael, Jižní Korea, které tyto zbraně vyvíjí, nemají zájem na jejich regulaci. Argumentují, že stávající mezinárodní humanitární právo lze aplikovat i na LAWS, a tudíž nové normy nejsou potřeba.
Naopak skupina 28 zemí, vedená neutrálním Rakouskem, Brazílií a Chile, prosazuje přijetí právně závazného nástroje, který by použití LAWS reguloval. Někde uprostřed stojí Čína, která podporuje zákaz použití, nikoliv však vývoje těchto zbraní. Cynik možná namítne, proč vyvíjet zbraně, které nelze použít?
Zde se nabízí paralela s jadernými zbraněmi, které od roku 1945 nikdo ve válce nepoužil, ale dlouho sloužily jako odstrašující pojistka proti konfliktu. Ovšem studená válka skončila a s rozpadem bipolárního světa se pomalu rozpadá i síť dvoustranných a mnohostranných smluv o jaderném odzbrojení.
Americký a sovětský prezident podepsali smlouvu INF v roce 1987.
V roce 2017 sice byla sjednána Smlouva o zákazu jaderných zbraní, ale dosud nevstoupila v platnost. Z evropských zemí ji ratifikovalo pouze Rakousko. Jaderné mocnosti, členové Rady bezpečnosti OSN, ani další země NATO nemají zájem ji ratifikovat.
Smlouva o nešíření jaderných zbraní (NPT) sice funguje už půl století, ale stále nevyřešila problém zemí jako Írán či Severní Korea. Čerstvou ranou pro jaderné odzbrojení se stalo odstoupení USA a následně i Ruska od dohody o likvidaci zbraní středního doletu.
Jaderná paralela však pokulhává. Zatímco výroba jaderných zbraní je složitý proces, který zvládnou jen technologicky nejvyspělejší státy, různé drony či komponenty pro LAWS se dají pořídit běžně přes internet. Pokud se státy zřeknou vývoje LAWS, jak se budou moci bránit proti teroristům, kteří si je vždycky nějak pořídí?
Nástroje vedení války už dávno nejsou jen v rukou vojáků, ale zasahují i do civilního života. Lidstvo stojí na úsvitu sítě páté generace (5G). Vzhledem k technologickému náskoku, který má firma Huawei v 5G, není divu, že se kolem ní v poslední době rozhořel spor. Kdo ovládne 5G, ovládne internet věcí, a tím i miliardy strojů s potenciálně umělou inteligencí.
Kampaň proti zabijáckým robotům.
V této situaci jsou ženevská jednání o LAWS velmi složitá. Pracovní skupina se zatím neshodla ani na definici LAWS. Úzká definice podle technických parametrů nemusí být dostatečná pro postižení všech variant zatím neexistujících zbraní. Navíc nejednají pouze experti vlád (právníci, diplomaté, vojáci), ale také akademici, firmy a nevládní organizace, které mají každé své zájmy.
Jednou z nejhlasitějších organizací je „Stop Killer Robots“, která vede kampaň za úplný zákaz LAWS. Nedávno podnikla průzkum veřejného mínění, podle kterého 61% lidí podporuje jejich úplný zákaz. Nadpoloviční podporu zákazu vyjadřují i občané těch států, které zbraně vyvíjejí (60% lidí v Číně, 59% v Rusku, 52% v USA).
Pracovní skupina alespoň přišla s návrhem deseti principů, kterými by se další posuzování LAWS mělo řídit. Základní principy říkají, že mezinárodní humanitární právo se nadále vztahuje na všechny zbraňové systémy včetně LAWS, a že úmluva CCW poskytuje vhodný rámec pro diskusi o nových zbraňových technologiích.
Klíčový princip a jádro sporu je kolem ponechání lidské odpovědnosti za použití LAWS. U dosud vyvinutých zbraní to není problém. Příkladem je systém C-RAM, který americká armáda nasadila v Iráku. Systém sám odpovídá na přicházející palbu, ale stále ho kontroluje voják, který může zasáhnout. U takových systémů je člověk součástí rozhodnutí („in the loop“).
Podstata umělé inteligence však spočívá v tom, že budou vyvinuty zbraně, které se budou rozhodovat samy bez lidského dohledu. Nicméně rozhodnutí těchto strojů se budou stále dít na základě lidský definovaných algoritmů („humans on the loop“).
Vojenské nemocnice mají být ve válce chráněny.
Některé algoritmy mohou do války vnést více humanity. Představte si algoritmus, který zakáže LAWS útočit na cíle označené červeným křížem. Dokud bojovali pouze lidi, mohli vědomě či omylem tuto zásadu porušit. U naprogramovaných strojů bude omyl vyloučen a životy zraněných budou ušetřeny.
Vyváží tyto humanitární principy potenciální rizika zabijáckých strojů? Vždyť na konci vývoje umělé inteligence mohou být zbraně, které se zcela vymknou lidské kontrole („out of the loop“). Experti o tom zatím nechtějí spekulovat, ale novináři rádi poukazují na hollywoodské filmy.
Terminátor je otázka sci-fi, ovšem zbraně, u kterých člověk nebude „in the loop“, jsou otázkou pár let. Okno příležitosti, kdy lidstvo může upravit zásady či přijmout pravidla pro použití LAWS, se rychle uzavírá. Proto budou jednání ženevské pracovní skupiny o LAWS nadále v centru pozornosti.