Morální intuice

V prvním čísle loňského ročníku magazínu Truck & business jsme slovy dlouholetého odborníka v oblasti vývoje automobilu konstatovali, že u autonomních vozidel nejde, díky výraznému pokroku v oblasti vývoje elektronických zařízení automobilu včetně technického zvládnutí komunikace vozidla s okolím, o otázku technickou, ale o problematiku organizační, právní a morální. Osobně si neumí představit, že by jakkoliv „inteligentní“ počítačově řízené vozidlo mohlo být bezpečné ve společném provozu s „neinteligentním“ řidičem a dalšími „neinteligentními“ (tj. neřídícími se pevnými algoritmy) účastníky provozu

Myšlení a chování lidí v určitých situacích je čistě intuitivní. Vynikající řidič „čte“ vozovku, okolí kolem ní a předvídá určité reakce spoluúčastníků provozu. Kombinací nejrůznějších jízdních situací, poruch elektroniky vozidlové i externí a lidských „úletů“ je nekonečně mnoho. Nemyslí si, že při výskytu některých jízdních situací by byl jakýkoliv algoritmus schopen plně nahradit lidského řidiče. Budoucnost vidí v tom, že některé, zvláště dálniční úseky budou vyhrazeny pouze automaticky řízeným vozidlům, u jiných bude použití automatického řízení přímo zakázáno. Jsme si vědomi závažnosti dané problematiky, zejména z etického hlediska. Dnes proto znovu dáváme slovo tentokrát dvěma odborníkům. Prvnímu z Ústavu státu a práva Akademie věd ČR, v. v. i a Centra Karla Čapka pro studium hodnot ve vědě a technologii a druhému z Přírodovědecké fakulty Univerzity Karlovy a téhož centra.

V předchozím článku jsme se věnovali obecným úvahám o morálních pravidlech, jimiž by se měla řídit autonomní vozidla od okamžiku, kdy se stanou součástí běžné dopravy. Ve hře však není pouze otázka, jakým systémem etických pravidel by se autonomní vozidla (AV) měla řídit. Automobily bude někdo vyrábět a bude jim muset určit, jak se mají na silnicích a během možných kolizních situací chovat. Jenže ani to není vše; AV bude také někdo kupovat (případně si je pronajímat) a někdo bude jejich provoz regulovat. Stojíme tedy před třemi souvisejícími, přesto však odlišnými problémy, pro něž nemusí být snadné nalézt jednoznačné a všeobecně přijímané řešení.

Etika minimalizace újmy

Představme si situaci, kdy by se lidé víceméně shodli na tom, že se AV mají řídit etikou minimalizace újmy.

Možná se budeme zdráhat svěřit takovým vozidlům do rukou jejich osud. Ještě více by nás potom zneklidnila idea, že by někdo, v tomto případě stát, prostřednictvím zákona stanovil, že silničního provozu se mohou účastnit pouze taková vozidla, která se řídí etikou minimalizace újmy. Dostali bychom se do situace, která je velmi ožehavá jak pro automobilky, tak i pro jednotlivé státy. Na jedné straně bychom totiž věděli, že existuje zhruba správné řešení problému „jak se mají AV chovat na silnicích, zvláště v kolizních situacích“, na straně druhé by bylo poměrně jasné, že pokud automobilky budou taková vozidla vyrábět, nebude zřejmě příliš velká ochota je kupovat. A jestliže by stát důslednou regulací umožnil pouze provoz AV řídících se morálním algoritmem „vždy minimalizuj újmu“, mohlo by to vést k neklidu ve společnosti a vzniku morální paniky.

Pro automobilky i stát je proto nesmírně důležité mít k dispozici výsledky důkladných empirických zkoumání morálních intuic lidí – potenciálních majitelů a provozovatelů AV. Zkoumání těchto intuic by se mělo zaměřit na tři potenciálně konfliktní okruhy otázek: první z nich by se měly týkat morálních intuic lidí ohledně rizikových situací spojených s provozem AV, druhý na postoje lidí k představě, že oni či jejich blízcí budou užívat AV řízená určitým konkrétním etickým algoritmem, a konečně třetí by měl zkoumat reakce lidí na možné legislativní zásahy státu.

V magazínu Truck & business 2/2018 uzavíráme naznačenou problematiku těmito slovy: Zahraniční empirický výzkum ukazuje, že úvahy o etice provozu AV vedou k sociálnímu dilematu, se kterým se budou muset inženýři, pracující na řídicích algoritmech AV, uživatelé AV a stát nějakým způsobem vyrovnat. V příštím článku budeme hovořit o výzkumu, který provedli na PřF UK v Praze, jenž potvrzuje existenci sociálního dilematu AV, zároveň však naznačuje určité cesty, jak by snad bylo možné se s tímto dilematem alespoň částečně vyrovnat.

Foto:

Autonomním vozidlům věnují pozornost samozřejmě i všechny renomované automobily. Snímek pochází z nově otevřeného centra BMW pro vývoj těchto vozidel.