Home > Rubriky a sekce > Zajímavosti > Článek
Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat
5.8.2017 | Petr Miler | Přidat příspěvek
Budoucnost možná patří autonomnímu řízení, než se tak ovšem stane, budou se muset automobilky vypořádat s mnohými riziky. Třeba i s tímto.
Zrovna tento týden nám Mercedes dovolil nahlédnout pod pokličku příprav jeho systémů autonomního řízení. Šéf vývoje v kostce řekl, že automobilka je s vývojem docela daleko a v řádu jednotek let by mohla přijít se systémem, který auta skutečně dokáže samostatně řídit. Potíží je ovšem krom fungování v méně obydlených místech také cena za veškerou nezbytnou techniku, která autopilotům nedovolí větší rozšíření nejspíše ještě po další dekádu či dvě.
To jsou ale stále jen dvě z výzev, se kterými se musí společnosti vyvíjející autopiloty potýkat - tedy vůbec nalézt řešení, které autonomní řízení umožní a zároveň je dovolí dostat do prodeje za přijatelnou cenu. I když se ovšem obojí zadaří, budou výrobci vystaveni i dalším nepříjemnostem. A možná zneužití systému patří mezi ně.
Když se něco takového řekne, většina lidí si představí hackera, který na počítači hledá cesty, kterak narušit proud informací vedoucí třeba ze serverů automobilky k vozu samotnému a nasměruje jej do nejbližšího stromu. Takové riziko pochopitelně existuje, jsou tu ale i jiná, méně zřejmá, která mohou vést ke stejnému výsledku.
Na jedno z nich nás upozorňují vědečtí výzkumníci z washingtonské univerzity, kteří analýzou toho, jak autopiloty vnímají svět kolem sebe, přišli na způsob, jak dokonale zmást jejich vnímají značek okolo silnic. Ty jsou pro ně jedním z důležitých a v dohledné době zřejmě nenahraditelných vstupů - značky je zkrátka třeba „přečíst”, spousta z nich není zanesena v žádných mapách a nelze je vnímat ani nijak jinak. Je to jeden ze vstupů, který bude k dispozici lidským i „počítačovým” řidičům a má-li fungovat, musí jej všichni interpretovat stejně. A to se právě u značek stát nemusí.
Pochopitelně, každého jistě napadlo „dát na značku pytel” a problém je na světě. Jenže toho si každý snadno všimne - člověk na to bude reagovat nejistotou a také autopilot v případě nečitelné značky zvolí určenou náhradní strategii, kterou může být v krajním případě klidně i zastavení. Výzkumníci ale našli způsob, jak vskutku jednoduše a nenápadně pozměnit značku tak, aby výsledek člověk ignorovat jako nesmysl či graffiti a autopilot jako docela jinou značku, kterou se prostě začne řídit.
Stačilo pár vytištěných nálepek na domácí tiskárně a už se jelo. Výzkumníci analýzou toho, na co se autopiloty při rozeznávání značek soustřeďují, dokázali pár opravdu nenápadnými papírky změnit třeba vnímání značky „Stůj, dej přednost v jízdě” na rychlostní limit 45 mil v hodině. Pochybujeme přitom, že takových nálepek na značce si někdo z řidičů ostatních aut všimne a rizika ignorace „stopky” jistě nemusíme dlouze vysvětlovat.
Podobně zafungovaly i nápisy „LOVE HATE” znovu na „stopce” vytvářející dojem graffiti nebo pouhé rozostření šipky na další značce na fotkách níže. A pokud máte pocit, že něco takového může autopilot zmást jen někdy, nějak a ne moc, pak se mýlíte - v 73,3 procentech případů rozeznaly systémy testovaných vozů značku stop jako rychlostní limit.
Je to nepochybně pozoruhodný způsob, jak přivézt systémy autonomního řízení do úzkých. Zmást lze tedy jistě i člověka, ale ne tak snadno a nenápadně, je to přece jen inteligentní tvor vnímající situaci o dost komplexněji. Autoři studie, kterou si celou můžete stáhnout z Arxiv.org, pak dodávají, že právě co nejkomplexnějším vnímáním reality budou muset automobilky a další firmy těmto rizikům čelit - pokud se kdykoli budou spoléhat jen na jeden informační vstup, mohou být snadno zmateny. I bez toho, že by jejich systémy někdo přímo narušil.
Řešení těchto patálií bude ovšem znamenat jediné - více času na vývoj. Desinterpretaci značek lze zabránit například mapami, kde budou všechny značky zaneseny, ale kdo je vytvoří? A co když se značení změní? Je tu zkrátka ještě spousta otázek, na které neznáme odpovědi a je naivní se domnívat, že budou nalezeny v řádu let. Pokud někdo bude chtít tak rychle dostat plně autonomní řízení do provozu, bude nutně riskovat - třeba i problémy, které nastiňují autoři této studie...
Pro vás? Stopka s obrázkem, graffiti nebo skoro standardní směrová značka. Pro autopilot nicotná informace o limitu 45 mil v hodině
Zdroje: Car and Driver, stáhnout z Arxiv.org
Diskuze Přidat příspěvek
Bleskovky
- Špatný den v práci? 24letý zaměstnanec roztřískal při projížďce Ferrari za 76 milionů Kč, splácet ho může po zbytek života
23.4.2024 - V Polsku po nehodě vzplanul luxusní elektromobil tak, že ho po chvíli nepoznal ani majitel, po uhašení se vzňal znovu
21.4.2024 - Pagani Utopia málem dostálo svému jménu, zámožný majitel s ním během povodní vjel do vody
20.4.2024
Nejnovější články
- Dodnes úplně nový, totálně oholený Ford Focus první generace může být váš, při jeho jednoduchosti je to auto navěky
před hodinou - Fiskeru došly peníze. Už neplatí ani úroky z dluhů, bankrot očekává každým dnem
před 3 hodinami - Tesla zlevnila nový Model 3 už na 1 milion Kč. Výsledky za má i proto mizerné, v Evropě už propouští stálé zaměstnance
včera - Ojetý Caddy je recept na levný rodinný VW s místem i dieselem, umí zaskočit i za už neexistující Škodu
včera - Ford pořád umí ohromit, začal prodávat nový motor V8 s až 821 koňmi od pouhých 271 tisíc Kč
včera
Živá témata na fóru
- Fiat a vše kolem nich 04.25. 08:53 - spooon
- Onboard videa 04.25. 08:36 - řidičBOB
- Lampárna (stěžovatelna) 04.24. 15:55 - řidičBOB
- Elektromobily a vse kolem nich 04.24. 12:23 - Zajda
- Výběrové RZ - kdo má lepší úlovek? 04.23. 21:30 - řidičBOB
- Audi multitronic - cvrlikání 04.23. 16:56 - Pedro22
- Audi klub - pro ty, co chteji Auto 04.23. 12:57 - mattonecz
- Peugeot 207-problém po nastartování 04.23. 08:42 - Arkis