Autoforum

/

Foto: Susan Walsh, AP

Má za sebou vskutku pozoruhodnou kariéru, kterou ani s blížící se šedesátkou nehodlá pověsit na hřebík. Teď Missy Cummings pronásleduje nejen Elona Muska, ale i firmy Cruise a Waymo pro způsob, jakým tlačí do běžného provozu své nespolehlivé systémy autonomního řízení.

Pokud dennodenně nelíbáte zem, po které Elon Musk chodí, pak je pro vás nejspíše jméno Mary Louise „Missy“ Cummings neznámé. Pro milovníky Tesly se nicméně jedná o veřejného nepřítele číslo jedna. Prokázali to v období od října 2021 do ledna 2022, kdy tato sedmapadesátiletá expertka na astronautiku a aeronautiku byla součástí organizace NHTSA. Ze své pozice se totiž nemalou měrou pokoušela o zákaz autopilotů až do té doby, než bude daná technologie fungovat tak, aby neohrožovala lidské životy. Což se také nemusí stát nikdy.

Missy se před dvěma lety vyhradila hlavně vůči Tesle, což nakonec vedlo k jejímu vyhazovu. Do hry se totiž nejprve vložil Elon Musk, podle nějž si Cummings na něj a jím řízenou firmu „zasedla“. Jeho příspěvek na Twitteru tehdy odstartoval nenávistnou smršť komentářů, petic za její odvolání i emailů s výhrůžkami smrti. Missy nakonec NHTSA opustila, místo toho přijala post ředitele centra Autonomie a robotiky spadající pod Univerzitu George Masona.

S novou pozicí přišla i mnohem větší vyhraněnost, aktuálně se totiž Missy již nepouští pouze do Tesly, ale také do robotických taxíků společností Cruise a Waymo. V nové studii totiž uvádí, že v případě první zmíněné společnosti dochází na havárie osmkrát častěji než u lidí, u té druhé pak jde o čtyřnásobek. Míra incidentů spojená s umělou inteligencí je tedy na stejné úrovni, na jaké se nacházejí přepracovaní řidiči přepravních služeb jako Uber. To je v přímém rozporu s tím, co nich tvrdí jejich tvůrci.

„V článku, který neskutečně naštval všechny trolly od Tesly, jsem ve skutečnosti zmínila, že nejde jen o problém Tesly - pouze to, že Tesla je první, kdo takové problémy zažívá. Po dlouhá léta lidem říkám, že se něco takového stane, že se takové problémy u autonomního řízení objeví. A jsou tady. To, že je každý z této komunity nyní překvapen, je pouze jeho věc,“ stojí si za svým Missy Cummings. A není to jen díky jejímu doktorátu a akademické práci, ale také s ohledem na její předchozí kariéru.

Tato dáma se totiž v roce 1988 stala jednou z prvních bojových pilotek v armádě Spojených států. Létala se stíhačkou F/A-18 Hornet, která je pochopitelně autopilotem, stejně jako řadou dalších pokročilých autonomních a počítačových systémů osazena. Právě z letectví čerpal inspiraci i Musk, když již před více než 10 lety tvrdil, že pokud umělá inteligence zvládá pilotovat stíhačku, pak zvládne ovládat i mnohem jednodušší věc, jakou je osobní automobil.

Jenže situace není ani zdaleka sak jednoduchá, jak si Musk představuje, a to přesto, že má k dispozici i data své druhé společnosti Space X. Hned první den Missy na tréninku totiž dva piloti zemřeli. A během toho posledního americké námořnictvo dospělo k jedné z největších tragédií. Jen za tři léta, kdy se pochybovala vzduchem rychleji než vítr, tak přišlo o život 36 lidí. Šlo přitom o nehody, na které došlo v nebesích, kde se pomalu nejde potkat s ničím a nikým jiným.

„Když jsem pronikla opravdu do nitra možností těchto senzorů, najednou jako kdybych se probudila. Došlo mi totiž, že v případě aut máme závažný problém,“ říká Cummings. Zároveň ale dodává, že v současném světě, který je navíc stále ovládán muži, někdo něco takového hlavně od ženy nechce slyšet. S poslední dávkou šovinismu přitom měl vyrukovat Kyle Vogt, šéf firmy Cruise, který jí v reakci na její komentáře nabídl „pomoc“.

Tu nicméně Missy odmítla s tím, že by naopak dotyčnému „ráda pomohla s pochopením základů statistiky, využitím počítačových vizí i tím, co znamená být zodpovědným šéfem společnosti“. Má ale pravdu? Ta se dle Stevena Shladovera, výzkumníka na Berkeleyho institutu, nachází někde uprostřed. Dle něj totiž Cumming přiřazuje lidem až příliš nízkou nehodovost, zatímco robotickým taxíkům až příliš velkou.

I kdyby nicméně právě toto byla skutečně realita, autonomní řízení stále představuje nepřijatelně velké riziko. A do té doby, než bude adekvátně fungovat, by vozy Tesly, Cruise a Wayma neměly brázdit veřejný prostor se spuštěným autopilotem. Jenže odpovědným politikům vše dojde až ve chvíli, kdy se jich celá záležitost bude negativně dotýkat. Čeká nás tedy zjevně ještě dost nehod, dopravních kolon a dalších problémů, než se něco změní.

Zdroje: AP, Business Insider

Petr Prokopec