AUTONOMNÍ VOZIDLA: VÍCE OTÁZEK NEŽ ODPOVĚDÍ (4)

Předešlý, již třetí příspěvek série „Autonomní vozidla: více otázek než odpovědí“ představil empirický výzkum intuic české veřejnosti, který uskutečňujeme na Přírodovědecké fakultě Univerzity Karlovy. V článku jsme též podrobili kritice závěry Německé etické komise k autonomnímu řízení. V tomto v pořadí již čtvrtém příspěvku přistoupíme k horké novince ve výzkumu etiky autonomního řízení – „Moral Machine“ výzkumníků z Massachusettského technologického institutu. Výzkumníkům se podařilo testovat morální intuice ohledně autonomního řízení na úctyhodném počtu osob po celém světě.

Střet s realitou
Etické problémy autonomního řízení jsou mnohdy jen obměnami problémů řízení manuálního. Bohužel nastávají problematické situace, kdy řidič nebo software musí volit mezi větší a menší škodou. Typický příklad z praxe uvádí literatura (cit. dle Scientific American; Lipson, Kurman: Intelligent Cars and the Road Ahead): V roce 2014 se ve městě Ithaca, stát New York, řidiči nákladního vozu porouchaly brzdy a byl postaven před tragickou volbu, zda nechá svůj neovladatelný vůz najet do stavebních dělníků, nebo jej svede do kavárny. Řidič zvolil změnu směru jízdy, aby zachránil skupinu dělníků, ovšem následkem nárazu nákladního vozu do budovy zamřel jeden zaměstnanec kavárny. Kalkulace s lidskými životy, ač nastává velmi zřídkakdy, je velmi závažná. Přesto někteří odborníci zpochybňují nutnost výzkumu a vývoje morálních kalkulací pro autonomní řízení. Profesor právní vědy Bryant Walker Smith z Univerzity Jižní Karolíny v Columbii připodobňuje v komentáři pro Nature potřebu řešit problémy koho a kdy obětovat za stejně bezpředmětnou a nepravděpodobnou, jako problém zabývat se ochranou autonomních vozů před padajícími asteroidy. Britský deník The Guardian kritizuje smysl tohoto výzkumu ve svém článku o „Moral machine“ a cituje inženýra autonomních vozů společnosti Google, který tvrdí, že většina kolizních situací má jediné řešení, a to okamžitě šlápnout na brzdu. Ovšem vzpomeneme-li si na první výše uvedený příklad, kde hlavní roli ztvárňuje právě kamion s poruchou brzd, tak námitka The Guardian má sama o sobě omezenou platnost.

Vizualizace problému
Ve vědeckém žurnálu Nature, který paří k těm nejprestižnějším na světě, vyšla na konci října tohoto roku studie mapující preference zachraňování a obětování lidských a zvířecích životů. Tým, který vedl Edmond Awad, testoval lidské intuice ohledně rozdělení újmy na silnicích, při nehodách autonomních vozů. Online výzkumu trvajícího od června 2016 do prosince 2017 se zúčastnilo úctyhodných 2,3 milionu pokusných osob. Webová stránka byla přístupná v následujících jazykových mutacích: arabsky, německy, anglicky, španělsky, francouzsky, čínsky, korejsky, portugalsky, rusky a japonsky. Tyto osoby obětovaly kousek svého volného času a hrály hru „Moral Machine“. Tato hra, respektive vizualizace problému, spočívala v tom, že dobrovolníci volili z dvou předem definovaných variant výsledků kolize – vůz má jet rovně nebo zabočit na stranu. Účastníkům se zobrazovaly různé varianty: základem je autonomní vůz, ve kterém seděly nějaké osoby, mířící na chodce nebo betonový zátaras. Výsledkem byli vždy mrtví chodci (a zachráněná posádka) nebo obráceně zemřela posádka (a byli zachránění chodci). Jako příklad jsme vygenerovali obrázek dle softwaru MIT. Vidíme na něm posádku skládající se z dospělého muže, chlapce a dívky. Chodci přecházející na zelenou jsou: stará žena, lupič a pes.

Pokusné osoby dostávaly různé varianty takových kolizí lišící se počtem osob, pohlavím, věkem (např. děti v kočárku, staří lidé o holi), zdravotním stavem (štíhlí a obézní) nebo různého ekonomického statusu (byznysmen, bezdomovec, bankovní lupič s pytlem peněz v ruce), a kromě lidí se vyskytovali v dilematech také psi a kočky. Další proměnnou byla správnost pohybu chodců na přechodu: ve „hře“ bylo vidět, zda chodci dodržují pravidla – přecházejí na červenou nebo na zelenou.

Výsledky studie
Data naznačují obecnou shodu mezi účastníky z celého světa. Některé výsledky byly velmi očekávatelné. Samozřejmě účastníci studie dávali přednost záchraně lidí před psy a kočkami. Preferovali záchranu většího počtu lidí za cenu obětování menšího počtu lidí, preferovali záchranu dětí před seniory. Větší cenu pro účastníky měla záchrana chodců, co přecházejí na zelenou, oproti chodcům přecházejícím na červenou. Sociální předsudky byly vidět v preferenci záchrany lidí s vyšším statusem před lidmi v otrhaném oblečení nebo mírnou preferencí pro záchranu žen před muži.

 

Související články

• Konkurence v IT je velká a aktivní
• Platforma RIO roste