Autoforum

/

Foto: Waymo

Poněkud cynická argumentace nepostrádá logiku, širší rozhled jí ale chybí. Technologie autonomního řízení podle nás musí ujít ještě dlouhou cestu, než jí budeme moci odpovědně předat moc nad osudy našich nejbližších.

Pokud nemám být příliš úzkoprsý, mohu konstatovat, že děti jsou přece také lidé, dělají chyby, a když v mládí zemřou nebo se ošklivé zraní při dopravní (a vlastně jakékoli) nehodě, je to obvykle jejich chyba. Ale proboha, jsou to děti, „nehotoví” lidé, naše ratolesti, nedokonalé kopie nás samých. A jako dospělí musíme dělat maximum pro to, abychom je před následky jejich vlastních chyb ochránili a nechali je se z nich postupně poučit tak, jako to bylo dovoleno nám.

Jestliže na silnice pustíme autonomní auta v jejich současné fázi evoluce, maximum rozhodně neděláme.

Ukazuje to i případ, který se odehrál v kalifornské Santa Monice, kde probíhá jeden z pilotních testovacích programů společnosti Waymo, která by ráda ve velkém provozovala autonomně řízené taxíky. Jak informuje USA Today, právě tam došlo před pár dny k politováníhodnému incidentu, kdy u základní školy došlo ke sražení dítěte Jaguarem I-Pace, jenž se po přilehlé silnici pohyboval bez lidského řidiče za volantem.

Nechceme nyní být hysteričtí, křičet, že nám tahle auta zabíjejí děti, vzít krumpáče a jít je rozsekat na hadry. I bez znalosti jakýchkoli dalších detailů bylo dopředu nanejvýš pravděpodobné, že k nehodě došlo vinou dítěte a auto „nemohlo nic dělat”, statistika je neúprosná. Navíc Waymo ve vydané tiskové zprávě zdůrazňuje, že chodec (sic) utrpěl jen lehká zranění, po srážce byl schopen vstát a přejít znovu na chodník.

Už to zní trochu pohybně, neboť kdybych se sám dostal do takové situace - a díky bohu se to nikdy nestalo - tisíckrát bych se sám sebe ptal, co jsem mohl udělat víc, aby k tomu nedošlo. Určitě bych nešel za rodiči se slovy: „Co dělal, jak dělal, já nedělal, to ono dělalo, co jsem měl dělat? Váš fracek mi tam vlítnul.” I kdyby to byla tisíckrát pravda, cítil bych se provinile - Waymo se tak netváří a nelíbí se mi to, ale pojďme dál.

Podle svědků srážky citovaných USA Today bylo na místě rušno, nacházelo se tam několik dalších dětí a dokonce nedaleko stál strážník na přechodu. Dítě ale vyběhlo na ulici zpoza dvou aut stojících vedle sebe v místech, kde lidé vysazují a nakládají své děti, takže do silnice podle všeho vběhlo bez rozmyslu. A taxík Wayma jej svým elektronickými smysly zachytil až v momentě, kdy se zjevilo před ním. Společnost k tomu uvádí, že když se tak stalo, auto jelo jen 27 km/h a zvládlo zabrzdit na rychlost menší než 10 km/h. Proto srážka nezpůsobila vážnější zranění a společnost odhaduje, že člověk by na stejném místě udělal to samé, navíc by do dítěte narazil vyšší rychlostí.

„Abychom to uvedli v širší perspektivě, náš model ukazuje, že plně pozorný lidský řidič by se v této stejné situaci dostal do kontaktu s chodcem při rychlosti přibližně 22 km/h. Toto významné snížení rychlosti a závažnosti nárazu je demonstrací přínosu Wayma pro bezpečnost,” uvádí dále tisková zpráva společnosti. A co když ne?

Jsem člověk, který se dekády živí v IT, jsem v podstatě technokrat a argumentaci Wayma chápu, je technicky správná. Ale postrádá smysl pro realitu, pro reálný svět přesně tak jako taxíky firmy. Jsem si zatraceně jistý, že když vyhodnotíme tisíce nehod autonomních vozů, dojdeme jen v pár promile případů k závěru, že technicky chybovaly. A statisticky pro ně vůbec všechno vyjde skvěle. Otázka je ale jiná: Dostalo by se vůbec člověkem řízené auto vůbec do takových situací?

Incident popsaný výše není plně opakovatelný a lidé s mým pohledem na věc budou vždy v debatě tahat za kratší kus provazu. Ale když tato auta poznáte v akci, zjistíte, že jsou sice schopna kdečeho, postrádají ale intuici, předvídavost, schopnost reagovat na věci, které se ještě nestaly. Chovají se spíš jako ta nejtupější zvířata reagující až na to, co se stane těsně před nimi, i když i zpoza zadního sedadla jasně vnímáte, že k takové situaci s vysokou pravděpodobností dojde. A jednáte podle toho.

To není žádné tušitelství, je to jen lidskost - v životě jsem asi milionkrát třeba i na právě takových místech předvídal takové situace, protože když vidíte u školy zmatené děti pobíhající kousek u silnice, jako člověk bez jakéhokoli přemýšlení víte, že v zápalu jiné aktivity mohou vběhnout do silnice kdykoli bez varování. A musíte se tomu přizpůsobit - Waymo řekne, že auto jelo jen 27 km/h a skvěle brzdilo. Já říkám, že jeho moc rychle a brzdilo pozdě, protože evidentně nezabránilo velmi předvídatelné chybě malého děcka.

Je mi jasné, že s tím, jak se podobné věci budou stávat, bude docházet k vylepšování těchto řešení. Někdo přidá procesy „škola a okolí”, „míč letí silnicí” apod., bude se reaktivně zabraňovat opakování jedné takové situaci za druhou. Ale nadělit těmto systémům intuitivní předvídavé jednání, které je za volantem schopen efektivně praktikovat i velmi nenadaný řidič, nikdo nesvede.

Neříkám tím: Jezděme navěky na koni. Jednou na přechod na autonomní auta dojde a vždy budeme muset přijmout nějakou míru rizika, která bude snadno statisticky menší než u lidských řidičů. Ale než to opravdu uděláme, musíme si být zatraceně jistí, že riziko zahrnuje jen ty zcela nevyzpytatelné situace, které život tak jako tak přináší. A to sražení dítěte před školou, když vyběhne zpoza zaparkovaných aut, jednoduše není. Asi bych se jako případný rodič nechtěl smiřovat s tím, že sice mám po dítěti, ale statisticky to vychází skvěle a auto vlastně reagovalo na výbornou. Navíc fakt, že to tady dopadlo relativně dobře, mě neuklidňuje, neboť na tom nemá auto žádnou zásadní zásluhu - semlít se to o sekundu později, budou následky jiné a parciální vina na straně auta pořád stejná. Chyba v neodhadu situace se stala dřív.

Je to složitá debata s milionem kdyby, takže se nechci pouštět do dalekosáhlých teorií. Jedna věc mě ale opravdu neuklidňuje - nesebekritické vystupování provozovatele a jeho snaha prezentovat tento incident jako ukázku bezpečnosti těchto řešení. To je podle mě zásadní filosofické nepochopení, se kterým se přijatelného výsledku po mém soudu dobrat nelze. Život není excelová tabulka, to musí Waymo pochopit ze všeho nejdřív.

Zdroje: USA Today, Waymo, Autoforum.cz

Petr Miler