Autoforum

/

Foto: Flock Systems, tiskové materiály

Slova o dobrém sluhovi ale zlém pánu se hodí i zde, těmto systémům prostě není možné slepě věřit. A protože policie jim docela naivně uvěřila, postarala se hned o několik zbytečných přešlapů. Ty teď ženou vodu na mlýn i jejím odpůrcům, kteří nejdou pro ránu daleko.

Od premiéry prvního Terminátora uteklo už 42 let. Za tu dobu se příběh robota cestujícího z budoucnosti, aby zabil matku ještě nenarozeného spasitele lidstva, dostal k uším snad každého. Nezastavitelného zabijáka si zahrál Arnold Schwarzenegger, jehož T-800 po příchodu do Los Angeles roku 1984 zahájí své pátrání po Sarah Connor na bázi telefonního seznamu. V tom je přitom hned několik žen stejného jména, jen se liší tím prostředním či jeho absencí. Protože ale robot dostal zadaná jen některá data, systematicky likviduje kohokoli, kdo by mohl být matkou Johna Connora.

Posledních pár let dochází na takový rozvoj umělé inteligence, že si řada lidí připomíná Terminátora jako nezvratný osud, který nás čeká. Přičemž Joel Feder a Tim Esterdahl jsou nejspíš toho názoru, že nepříjemná budoucnost je už tady. Oba za sebou totiž mají velmi nepříjemný zážitek, za kterým stojí právě způsob zpracování dat ze strany automatizovaných systémů. Na jejich základě se policisté dopustili kontroverzních přešlapů a oběti jejich zásahů mohou hovořit o štěstí, že to byli lidé, které bylo možné přesvědčit o tom, že chybují, ne kybernetický organismus, který bez diskuze jedná.

Příběh začal v jednom kalifornském studiu, kde byly pořizovány oficiální fotky Range Roveru patřícího přímo automobilce. Štábu se ovšem „povedlo” ztratit registrační značku vozu, což následně nahlásil místnímu úřadu šerifa. Banální akt? Vlastně ano, i když už tady se stala chyba, značka „34 03 DTM“ byla do databáze zanesena jako ukradená, nikoli ztracená, navíc v podobě „34 DTM“. Ale to byl jen začátek.

S těmito daty následně pracoval systému dopravních kamer Flock Safety, který mj. čte registrační značky aut a na základě toho policii informuje o kradených autech či vozech jinak hodných pozornosti. Auto řízené Joelem Federem, kolegou novinářem z The Drive, pak označil jako kradené a poslal na něj policii. Vůz tedy policie s Federem i jeho manželkou uvnitř obklíčila na parkovišti v Minnesotě a jednala s ním jako se zlodějem.

Důvodem bylo, že zrovna řídil zapůjčený Range Rover s registrační značkou „34 10 DTM“. To je pochopitelně jiná značka, na registračních tabulkách je ale druhé dvoučíslí vyvedeno tak malým písmem, že ho systém nebyl schopen přečíst správně a za kradená začal na základě onoho banálního hlášení označovat všechny vozy s libovolným označením zahrnujícím znaky „34” a „DTM”.

Jak už padlo, policisté se nakonec nechali přesvědčit a pochopili, že Federem řízený vůz není nijak problematický a všechno je jen mýlka. Federa s policisty dokonce napadlo, že by se sled nešťastných okolností mohl odehrát znovu. A to se skutečně stalo, když byl pár dny strážci zákona zastaven Tim Esterdahl z podcastu PickupTruck + SUV Talk. I on měl přitom zapůjčený novinářský Range Rover, přičemž kamery Flock z registrační značky „34 08 DTM“ znovu zachytily jen začátek a konec. Esterdahl naštěstí již znal Federův příběh, což mu pomohlo při vysvětlování.

Přesto všechno ovšem s policií strávil déle než hodinu, neboť strážce zákona nedokázal ověřit VIN zastaveného Range Roveru, a to z prostého důvodu - ten stále patří automobilce a tudíž nebyl prodán veřejnosti. Jeho identifikační číslo tak stále nebylo zaneseno do systému, ke kterému má policie přístup. Policie pak sice nakonec nechala Esterdahla jet, i když problém s VIN stále nebyl dořešen, nicméně i její bezradnost poukázala na obří selhání celého systému.

Ukazuje se totiž, že policisté se vší vážností konají na základě něčeho, co může takto fatálně chybovat. Navíc nemají k dispozici veškerá potřebná data. Poté ale již stačí málo k tomu, aby situace zašla ještě o krok dál, začalo se střílet a došlo na nevratné škody.

Ve finále se tak nelze divit, že veřejnost mohutně, i finančně podporuje jednání Jeffreyho Soverna, technika amerického vojenského letectva, který se loni rozhodl, že kamery Flock začne ničit. Podle něj jsou protiústavní, neboť porušují čtvrtý dodatek, který Američany chrání před nepřiměřeným vládním dohledem. Nyní se navíc ukázalo, že mohou vést k ohrožení veřejnosti ze strany policie, která jí přitom měla chránit. Jenže jako Terminátor vycházela z neúplných dat.

Společnost Flock pak v reakci na tyto případy uvedla, že její systém zafungoval perfektně, protože skutečně našel to, co po nich bylo požadováno. Tedy auta s registrační značkou „34 DTM“. Jen zkrátka nebyl čas lámat si hlavu s tím, kdo je kdo. Feder a Esterdahl ale naštěstí nedostali dvě dávky. Jenže co když napříště někdo omylem (či třeba i ve zlém úmyslu) stiskne tlačítko potvrzující, že podezřelý je ozbrojený a nebezpečný? To raději ani nechceme domýšlet.

Zdroje: KARE 11, The Drive, GoFundMe, Jalopnik

Petr Prokopec