Morální odpovědnost

V předchozích dílech tohoto miniseriálu věnovaného autonomním vozidlům (AV) jsme se zabývali v magazínu Truck & business především etickými otázkami: jakými pravidly by se tyto dopravní prostředky měly řídit, aby přinášely lidské společnosti a jejím členům co největší prospěch. Viděli jsme, že se nejedná o problémy jednoduché. Na jedné straně je totiž třeba vzít v úvahu fakt, že AV je produktem, který se bude ucházet o přízeň svých zákazníků, a měl by se tedy chovat co nejvíce podle jejich představ a morálních intuicí, na straně druhé se ukázalo, že lidé by rádi předepisovali obecná etická pravidla všem ostatním účastníkům provozu, pro sebe a své blízké by však chtěli výjimku.

Jedním z možných řešení situace naznačené v úvodním odstavci je rezignace na etický purismus, tedy na představu, že existuje jedna jediná správná etická teorie, již by bylo možné použít v praxi v regulaci chování AV zvláště v případě kolizních situací. Budeme se zřejmě muset smířit s určitou formou etického pluralismu: v některých situacích se AV budou chovat ve shodě s principy umožňující ochranu posádky vozidla, v jiných se zase budou řídit etikou minimalizace újmy.

Na koho přenést odpovědnost

Určením etických pravidel regulace provozu autonomních vozidel se však všechny morální problémy nevyčerpávají. Jednou z důležitých a teoreticky fascinujících oblastí současné filozofické reflexe je také morální odpovědnost, přesněji určení podmínek, za kterých je někdo (nebo možná i něco) morálně odpovědné za své jednání. Autonomní vozidla se budou rozhodovat, často ve velmi komplexních podmínkách, kdo však bude za jejich jednání odpovědný? Majitel vozidla? Posádka vozidla? Tvůrce morálního algoritmu, jímž se budou řídit? Nebo dokonce i samotné vozidlo?

Nemusíme se zde pouštět do složitých obecných úvah o morální odpovědnosti; postačí pár základních postřehů. Často si s morální odpovědností spojujeme jakousi radikální a pouze pro člověka typickou schopnost svobodné volby. Někteří autoři se dokonce domnívají, že právě svoboda vůle a schopnost autonomního jednání uděluje člověku zcela zvláštní a jedinečnou hodnotu, jakou nenalezneme nikde jinde. Dnes však zastánce této teorie (morální odpovědnost předpokládá svobodu vůle) zřejmě spočítáte na prstech jedné ruky. Většina filozofů se domnívá, že morální odpovědnost předpokládá pouze to, že určité postoje jsou dobře odůvodněné. Nejlépe to vysvětlí jednoduchý příklad.

Postavení řidiče při nehodě

Představme si, že se řidič kamiónu plně věnuje řízení, jeho vozidlo splňuje všechny zákonné a technické standardy, dodržuje dopravní předpisy, zvláště povolenou maximální rychlost. V protisměru projíždějící automobil zcela neočekávaně změní směr své jízdy a zamíří do protilehlého jízdního pruhu, kde by se srazil s kamiónem. Jeho řidič zareaguje instinktivně a strhne volant stranou, aby se hrozící nehodě vyhnul, bohužel však vytlačí osobní automobil ze silnice do příkopu, kde jeho posádka tragicky zahyne. Byl řidič za své jednání morálně odpovědný? A co to přesně znamená?

Abychom na tyto otázky odpověděli, nemusíme se ptát, zda řidič disponuje nějakou tajemnou svobodou vůle, jež ho odlišuje od všech ostatních tvorů. Plně postačuje položit si otázku, zda je v jeho situaci smysluplné zaujmout k němu nějaké postoje: zlobit se na něj, vyčítat mu jeho jednání, přičítat mu vinu apod. Zdá se, že neexistují žádné důvody, proč by tyto postoje nebyly možné, koneckonců, je to mentálně zdravý člověk, jehož k strhnutí volantu nikdo nenutil (např. pohrůžkou násilí) a nebylo důsledkem nějaké psychické poruchy, jíž nedokázal vzdorovat. Nic nám tedy nebrání považovat ho za morálně odpovědnou lidskou bytost (v tom smyslu, že naše postoje – chvála, hanění, výčitky atd. – jsou v principu oprávněné), to však neznamená, že je ospravedlněný jakýkoli postoj, jejž k němu můžeme zaujmout. Lze samozřejmě pochopit, že například pozůstalí zahynuvší posádky osobního vozidla mohou vůči řidiči kamiónu pociťovat velmi silné negativní emoce, možná dokonce nenávist, takové postoje však nebudou korektní. V obecné rovině jsme oprávněni přisuzovat tomuto řidiči morální odpovědnost za jeho jednání, v tomto konkrétním případě však za nehodu a smrt spoluúčastníků dopravního provozu morálně odpovědný není. Jednal instinktivně v reakci na zcela nečekanou situaci, kterou neměl pod svou kontrolou. Byl sice morálně odpovědnou bytostí, hanit ho za trhnutí volantu by však bylo neadekvátní.

Kolizním situacím nezabráníme

Mohlo by se zdát, že se zde zabýváme zcela abstraktními a nijak zvláště užitečnými úvahami. Není to ale pravda. Autonomní vozidla se, bohužel, budou dostávat do kolizních situací, budou působit dopravní nehody, škody na majetku, zranění a smrt lidských bytostí. V nás lidech budou takové události vyvolávat různé negativní emoce a postoje, je tedy velmi důležité určit, na koho se vlastně můžeme doopravdy zlobit, komu přičítat vinu, koho považovat za morálně odpovědného.

Kdo je vinen?

Některé situace žádné velké problémy nevzbuzují. Představme si, že autonomní vozidlo delší dobu signalizuje svému majiteli, že musí projít servisní prohlídkou, a především aktualizací svého software. Ten však signály ignoruje a jeho vozidlo jednoho dne způsobí tragickou nehodu, neboť se dostane do situace, v níž chybně zareaguje, pokud by však byly jeho řídicí algoritmy aktualizovány, zachovalo by se jinak a k žádné nehodě by nedošlo. V takovém případě je zřejmé, že morálně odpovědný je řidič: měl provést aktualizaci softwaru, ignoroval pokyny výrobce, a to bylo důvodem, proč se stala tragédie. Naše negativní postoje vůči řidiči jsou tedy oprávněné, on je za nehodu odpovědný.

Jiné situace jsou však svízelnější. Víme, že někdy se budou AV dostávat do situací, kdy budou muset volit mezi dvěma zly, např. mezi usmrcením chodce či obětováním posádky. Řekněme, že bude minimalizovat újmu a vzhledem k tomu, že jeho posádku tvoří rodina s dvěma dětmi, zvolí takovou trajektorii, která povede k nárazu do chodce a jeho smrti. Kdo je odpovědný za jeho smrt? Autonomní vozidlo, jež dané rozhodnutí přijalo a realizovalo? Posádka vozidla?

Autonomní vozidla disponují – zvláště jejich plně autonomní varianta – širokou autonomií; měla by být schopná nás dovézt z libovolného bodu A do bodu B a samostatně řešit všechny situace, s nimiž se na vozovce může setkat. Jde však pouze o to, co američtí filozofové umělé inteligence Wendell Wallach a Colin Allen nazývají funkční morálka: dokáží provádět morálně relevantní volby, nedokáží však sama přijímat morální normy a ospravedlňovat je (to zatím dokáže pouze člověk). A funkční morálka, byť předpokládá určitou míru autonomie, není dostatečným základem pro připisování morální odpovědnosti a zaujímání odpovídajících postojů. Bylo by tedy bláhové se na AV zlobit, pokud jednají podle pravidel, jež jim vštěpujeme.

Měla by tedy za smrt chodce být odpovědná posádka vozidla? Někteří autoři požadují, aby si každý uživatel autonomního vozidla mohl zvolit, jakým etickým algoritmem se bude řídit. Buď například pomocí jakéhosi přepínače (jemuž italský filozof Giuseppe Contissa říká „ethical knob“), jímž by byl každý automobil vybavený a umožňoval by nastavení daných morálních pravidel před každou jízdou, či třeba prostřednictvím nějakého přenosného flashdisku, který by obsahoval etické preference každého řidiče a před jízdou by se nahrál do systému AV. V takovém případě by skutečně morální odpovědnost za výsledek kolizních situací spadala na uživatele; koneckonců, je to on, který nastavením morálního algoritmu rozhodne o tom, jak se v dané situaci jeho vozidlo zachová, v extrémním případě kdo zemře a kdo bude žít.

Toto řešení, třebaže je teoreticky zajímavé a reflektuje pluralitu našich morálních intuicí, postojů a představ, v praxi fungovat moc nebude. Bude totiž narážet na důsledky toho, co jsme v předchozích dílech tohoto seriálu nazvali sociálním dilematem autonomních vozidel. Lze totiž předpokládat, že si všichni budou přát, aby ostatní lidé nastavili svůj „etický knoflík“ do polohy „altruista“, tj. na algoritmus vozidla typu počtář (minimalizuje újmu), zatímco sami by ho otočili do polohy „egoista“, tj. na algoritmus typu tank (chrání posádku). Pokud se ale každý z nás bude řídit touto úvahou, budou nakonec všechna autonomní vozidla či většina nastavena do polohy „egoista“. Z výzkumů morálních intuic víme, že výsledný stav nebude společností přijímaný příznivě a povede k morální panice, zvláště když vozidla typu „tank“ způsobí nehodu s velkým nepoměrem obětí (upřednostní jednoho člověka v autě a usmrtí třeba tři lidi v jiném autě).

Přenést tedy morální odpovědnost na uživatele autonomních vozidel nebude příliš rozumné, pokud by to mělo zahrnovat povolení individuálního nastavování morálních algoritmů. A co jiné řešení? Možná bychom mohli říci, že každý uživatel AV implicitně souhlasí s pravidly, jimiž se bude řídit, měl by tedy být odpovědný za jeho chování a tím také za případné oběti dopravních nehod. Bohužel, i tento návrh naráží na problémy. Lze totiž očekávat, že lidé ve skutečnosti nebudou mít možnost si volit příslušný algoritmus výběrem různých typů automobilů: o něm pravděpodobně rozhodnou příslušné orgány. Je tedy vysoce pravděpodobné, že například na územích zemí Evropské unie bude povolený jen jeden jediný typ morálního algoritmu a nikdo z nás si nebude moci vybírat z více možností. Navíc nezapomínejme na to, že bude sílit tlak na pořízení autonomního vozidla, který nakonec vyústí v zákaz prodeje manuálně řízených automobilů. Nikdo z nás tedy nebude mít na výběr: bude-li chtít cestovat po silnicích, bude muset zvolit autonomní vozidlo s předem určenými morálními pravidly. Jak by nás tedy mohl někdo považovat za morálně odpovědné za jejich chování?

Závěrem

Přiznám se, že z těchto úvah mi zatím vychází jediné řešení. Necháme-li stranou jiné důvody přičítání morální odpovědnosti (nedostatečná údržba, neaktualizovaný software apod.), bude zřejmě v mnoha případech odpovědí na otázku „kdo je morálně odpovědný za nehodu a její důsledky“ jednoduše „nikdo“. Nebude to autonomní vozidlo, protože zatím disponuje pouze funkční morálkou, nebude to ale ani uživatel, neboť si nebude moci svobodně zvolit, jakým morálním algoritmem se jeho automobil bude řídit. Tento závěr může znít paradoxně, ale někdy nám prostě nezbývá než přijmout, že paradoxy jsou součástí našich životů, a naučit se s nimi žít.