Auta bez řidiče budou rasistická. Hůř poznají černocha za tmy, varuje britský úřad

Autonomní systémy pro osobní vozy mají v blízké budoucnosti přispět k větší bezpečnosti na silnici. Nyní ale britský úřad The Law Commision (právní komise), který má na starosti sestavení zákonů a pravidel pro provoz aut bez řidiče, varuje před nečekaným problémem. Auta s autonomní technologií se mohou chovat rasisticky a dokonce i sexisticky.

„Autonomní vozy mohou mít za tmy potíže s rozeznáním obličejů s černou pletí,“ zaznělo ve vyjádření komise, o kterém píše britský list The Times. Podle ní je software nejpřesnější při detekování mužského obličeje s bílou pletí. Hůř jsou na tom tedy i ženy. Problémů se ale očekává víc, třeba s detekcí vozíčkářů, kteří se mohou pohybovat na různých typech zařízení a mají obličej v nižší výšce než běžný člověk.

I když to článek v Timesech nezmiňuje, britská právní komise zjevně hovoří o systému rozpoznávání chodců, který má autonomním vozům zabránit s jejich střetem. Nejen ve chvíli, kdy lidé nedbale vběhnou do vozovky, ale třeba když přechází po „zebře“ bez semaforů. Mohlo by se tedy v závěru stát, že by auto řízené softwarem přejelo černocha jen proto, že je příliš tmavý a není potmě dobře rozpoznatelný.

„Autonomní systémy většinou navrhují mladí muži, kteří se nedokáží vžít do role ostatních. To ovlivňuje jejich práci,“ stojí ve zprávě právní komise. „Když jsme s nimi tento problém probírali, někteří odpověděli, že je nemožné postavit autonomní vozidlo, které bude ke každému člověku přistupovat stejně,“ dodala. Zákony pro provoz aut bez řidiče mají být ve Velké Británii hotové už příští rok. Tento problém by ale jejich schválení mohl ještě odsunout.

„Lidé jsou méně ochotní podstoupit riziko, když je jeho rozložení neférové. Není možné, aby jedna skupina nesla menší riziko (posádka vozu) na úkor druhé více zranitelné skupiny (chodci),“ dodala právní komise. The Times přirovnávají tuto situaci k první generaci airbagů, která byla vyvinuta tak, aby ochránila nepřipoutané dospělé muže. Proto docházelo k vystřelení větší silou, což naopak ohrožovalo lehčí děti, ženy nebo starce. Mezi lety 1990 až 2008 kvůli tomu zemřelo 291 lidí.

Proti rasismu aut bez řidiče si přisadil i prezident Britské automobilové asociace Edmund King: „Poslední, co bychom si přáli, je další generace Mondea, ze které bude rasistický, misogynní, autonomní vůz. Takové problémy musíme překonat dřív, než dovolíme řidičům, aby sundali ruce z volantu.“

„I když tyto nové technologie přináší skvělé příležitosti, jakýkoliv pokrok na úkor určité skupiny lidí přestává být pokrokem. Místo toho se z něj stává nezdar pro rovnost a lidská práva,“ dodala k problému Equality and Human Rights Commission, tedy komise pro rovnost a lidská práva.