Autopilot a dilema: koho «zabiť» – vodiča či chodcov?

Autonómne autá už prestávajú byť sci-fi: na cestách sa objavujú vozidlá s režimom autopilota, ktoré dokážu jazdiť bez zásahu človeka. Motoristi sa zatiaľ viac zaujímajú o tradičné parametre – rýchlosť, výkon, komfort. S nadšením porovnávajú napríklad nemecké supersedany BMW M5 F90 a Mercedes-AMG E63 S podľa ich vlastností. S príchodom autopilota sa však do popredia dostáva úplne iná téma – etika a bezpečnosť. Čo má auto urobiť, keď sa nehode nedá vyhnúť?

Toto už nie je teoretická otázka z učebníc, ale reálny problém na ceste. Predstavme si situáciu: bezpilotné auto letí a zrazu sa pred ním na priechode pre chodcov objaví skupina ľudí. Na brzdenie je už neskoro. Existujú dva scenáre: strhnúť volant do strany a naraziť do steny (obetovať vodiča) alebo pokračovať a zraziť chodcov. Algoritmus umelej inteligencie je naprogramovaný na určité rozhodnutie – a od tohto rozhodnutia závisia životy.

Filozofi nazývajú takúto tragickú voľbu „problémom električky“. Kedysi to bol čisto myšlienkový experiment: či nasmerovať nezastaviteľnú električku na inú koľaj, aby sa zachránilo päť ľudí za cenu života jedného? Dnes podobná dilema stojí pred umelou inteligenciou na ceste – a jej rozhodnutia budú mať reálne následky.

• Zachrániť pasažiera. Pokračovať v jazde a chrániť vodiča, napriek riziku pre skupinu chodcov.
• Zachrániť chodcov. Nasmerovať auto na prekážku alebo na krajnicu, obetujúc život človeka vo vnútri vozidla.
• Vedome si nevyberať. Vyhnúť sa špeciálnemu algoritmu voľby – teda nastaviť minimalizáciu škôd bez cielenia, fakticky nechať udalosti vyvíjať sa spontánne.

Niekto môže namietať, že umelá inteligencia bude natoľko inteligentná, že vždy nájde tretie, bezpečné riešenie. To je však skôr mýtus. V skutočnosti ani najmodernejšie senzory a softvér nedokážu zrušiť zákony fyziky a vylúčiť všetky riziká. Kritické situácie aj tak budú nastávať. Skôr či neskôr sa teda auto môže ocitnúť pred voľbou, koho ochrániť za cenu iného života.

Ľudstvo dodnes nenašlo jednu správnu odpoveď na túto dilemu. Sociologické výskumy však ponúkajú zaujímavý pohľad. Prieskumy ukazujú, že väčšina respondentov súhlasí: v krajnej situácii má autonómne auto obetovať pasažiera, aby zachránilo skupinu ľudí. Tí istí ľudia však priznávajú, že by nechceli jazdiť v aute, ktoré ich v prípade nebezpečenstva vedome obetuje pre cudzie životy. Tento paradox môže byť prekážkou zavádzania bezpilotných áut na cesty.

Uveďme názorný výsledok jedného z prieskumov verejnej mienky o „dileme autopilota“:

Ako vidno, spoločnosť zároveň chce, aby robotickí vodiči zachránili čo najviac ľudí, a pritom nechce riskovať vlastnú bezpečnosť. Tento rozpor medzi morálnymi a osobnými záujmami vytvára dilemu pre výrobcov aj regulátorov. Nech je algoritmus naprogramovaný akokoľvek – rozhodnutie bude kontroverzné a môže vyvolať pobúrenie.

Kto pôjde do väzenia, ak bezpilotné auto spôsobí nehodu?

Ak auto na autopilote predsa len spôsobí nehodu s fatálnymi následkami – koho potrestať? Táto otázka nie je o nič jednoduchšia než morálna voľba. Prvé varovné signály už zazneli. Napríklad v roku 2018 testovacie autonómne vozidlo Uber zrazilo chodca na smrť; známe sú aj ďalšie smrteľné nehody s účasťou Tesla na autopilote. Podobné prípady, keď riadi počítač, spochybňujú tradičný princíp, podľa ktorého všetka vina padá na vodiča.

V situácii s „robo-vodičom“ sú možné rôzne prístupy k určeniu vinníka. Pozrime sa na hlavné scenáre:

1. Majiteľ (pasažier) vozidla. Logika: sedel v aute a zapol režim autopilota. Možno mal človek jazdu kontrolovať a zasiahnuť – a teda nesie časť viny za nečinnosť.
2. Vývojár programu (algoritmu). Veď práve programátori vložili do systému model správania, ktorý viedol k tragédii. Majú inžinieri niesť trestnoprávnu zodpovednosť za následky rozhodnutí svojho kódu?
3. Spoločnosť – výrobca automobilu. Firma, ktorá bezpilotné auto vyrobila, nemusela predvídať všetky riziká alebo šetrila na senzoroch. Zodpovednosť môže niesť výrobca (prostredníctvom vedenia) ako právnická osoba – napríklad cez žaloby a pokuty.

Zatiaľ na to neexistuje jasná zákonná norma. Vo väčšine krajín, kde sa autonómne autá testujú, sa zodpovednosť kladie na človeka za volantom. Súčasné systémy autopilota (úroveň 2–3) totiž vyžadujú, aby vodič zostal pozorný. Aj v prípadoch s Tesla súdy väčšinou uznávajú za vinného vodiča, ktorý precenil možnosti autopilota a nezasiahol, keď to bolo potrebné.

S príchodom plne bezpilotných áut (úroveň 4–5) však logicky vzniká potreba presunúť vinu na tvorcov technológie. V Nemecku národná Etická komisia pre automatizované riadenie už v roku 2017 stanovila: ak človek už auto nekontroluje, zodpovednosť za jeho činnosť nenesie pasažier, ale výrobca alebo prevádzkovateľ systému. Niektorí výrobcovia sú pripravení takúto zodpovednosť prijať – napríklad spoločnosť Volvo verejne prisľúbila, že prevezme vinu, keď jej autá budú jazdiť v autonómnom režime.

Prenesenie viny na spoločnosť má svoje plusy aj mínusy. Na jednej strane budú majitelia ochotnejšie dôverovať autopilotu, ak budú vedieť, že z nich po nehode neurobia „obetných baránkov“. Na druhej strane sa výrobcovia obávajú prevziať plnú zodpovednosť, pretože to hrozí mnohomiliónovými žalobami a dokonca trestnou zodpovednosťou ich funkcionárov. Možno sa zavedú špeciálne poistné produkty alebo právne obmedzenia, aby sa tieto riziká vyvážili.

Napriek všetkým týmto neistotám sa technológie autonómneho riadenia posúvajú vpred. Nové modely áut dostávajú čoraz inteligentnejšie „mozgy“. Napríklad elektrický crossover Volkswagen ID.4 je vybavený systémom Travel Assist pre poloautonómnu jazdu a vodiči tohto modelu môžu zvýšiť komfort a praktickosť montážou rôznych doplnkov pre Volkswagen ID.4. Plne autonómne riadenie (úroveň 5) zatiaľ zostáva záležitosťou budúcnosti. A preto budú diskusie o morálnych algoritmoch a právnej zodpovednosti pokračovať – spoločnosť potrebuje čas, aby dospela ku konsenzu.

Morálna dilema autopilota teda zatiaľ nemá jasné rozuzlenie. Programovať autá na záchranu väčšiny za cenu pasažiera, alebo na ochranu vlastného vodiča za každých okolností? Koho trestať za chyby umelej inteligencie – inžinierov, majiteľov alebo vôbec nikoho? Nad týmito otázkami uvažujú filozofi, právnici aj samotní výrobcovia. Možno už čoskoro bude potrebné prehodnotiť zaužívané princípy etiky a zodpovednosti na cestách. Keď totiž za volantom sedí počítač, aj rozhodnutia, aj vina získavajú úplne nový význam – taký, s ktorým sa ľudstvo ešte len musí naučiť žiť.