Home > Rubriky a sekce > Zajímavosti > Článek
Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat
5.8.2017 | Petr Miler | Přidat příspěvek
Budoucnost možná patří autonomnímu řízení, než se tak ovšem stane, budou se muset automobilky vypořádat s mnohými riziky. Třeba i s tímto.
Zrovna tento týden nám Mercedes dovolil nahlédnout pod pokličku příprav jeho systémů autonomního řízení. Šéf vývoje v kostce řekl, že automobilka je s vývojem docela daleko a v řádu jednotek let by mohla přijít se systémem, který auta skutečně dokáže samostatně řídit. Potíží je ovšem krom fungování v méně obydlených místech také cena za veškerou nezbytnou techniku, která autopilotům nedovolí větší rozšíření nejspíše ještě po další dekádu či dvě.
To jsou ale stále jen dvě z výzev, se kterými se musí společnosti vyvíjející autopiloty potýkat - tedy vůbec nalézt řešení, které autonomní řízení umožní a zároveň je dovolí dostat do prodeje za přijatelnou cenu. I když se ovšem obojí zadaří, budou výrobci vystaveni i dalším nepříjemnostem. A možná zneužití systému patří mezi ně.
Když se něco takového řekne, většina lidí si představí hackera, který na počítači hledá cesty, kterak narušit proud informací vedoucí třeba ze serverů automobilky k vozu samotnému a nasměruje jej do nejbližšího stromu. Takové riziko pochopitelně existuje, jsou tu ale i jiná, méně zřejmá, která mohou vést ke stejnému výsledku.
Na jedno z nich nás upozorňují vědečtí výzkumníci z washingtonské univerzity, kteří analýzou toho, jak autopiloty vnímají svět kolem sebe, přišli na způsob, jak dokonale zmást jejich vnímají značek okolo silnic. Ty jsou pro ně jedním z důležitých a v dohledné době zřejmě nenahraditelných vstupů - značky je zkrátka třeba „přečíst”, spousta z nich není zanesena v žádných mapách a nelze je vnímat ani nijak jinak. Je to jeden ze vstupů, který bude k dispozici lidským i „počítačovým” řidičům a má-li fungovat, musí jej všichni interpretovat stejně. A to se právě u značek stát nemusí.
Pochopitelně, každého jistě napadlo „dát na značku pytel” a problém je na světě. Jenže toho si každý snadno všimne - člověk na to bude reagovat nejistotou a také autopilot v případě nečitelné značky zvolí určenou náhradní strategii, kterou může být v krajním případě klidně i zastavení. Výzkumníci ale našli způsob, jak vskutku jednoduše a nenápadně pozměnit značku tak, aby výsledek člověk ignorovat jako nesmysl či graffiti a autopilot jako docela jinou značku, kterou se prostě začne řídit.
Stačilo pár vytištěných nálepek na domácí tiskárně a už se jelo. Výzkumníci analýzou toho, na co se autopiloty při rozeznávání značek soustřeďují, dokázali pár opravdu nenápadnými papírky změnit třeba vnímání značky „Stůj, dej přednost v jízdě” na rychlostní limit 45 mil v hodině. Pochybujeme přitom, že takových nálepek na značce si někdo z řidičů ostatních aut všimne a rizika ignorace „stopky” jistě nemusíme dlouze vysvětlovat.
Podobně zafungovaly i nápisy „LOVE HATE” znovu na „stopce” vytvářející dojem graffiti nebo pouhé rozostření šipky na další značce na fotkách níže. A pokud máte pocit, že něco takového může autopilot zmást jen někdy, nějak a ne moc, pak se mýlíte - v 73,3 procentech případů rozeznaly systémy testovaných vozů značku stop jako rychlostní limit.
Je to nepochybně pozoruhodný způsob, jak přivézt systémy autonomního řízení do úzkých. Zmást lze tedy jistě i člověka, ale ne tak snadno a nenápadně, je to přece jen inteligentní tvor vnímající situaci o dost komplexněji. Autoři studie, kterou si celou můžete stáhnout z Arxiv.org, pak dodávají, že právě co nejkomplexnějším vnímáním reality budou muset automobilky a další firmy těmto rizikům čelit - pokud se kdykoli budou spoléhat jen na jeden informační vstup, mohou být snadno zmateny. I bez toho, že by jejich systémy někdo přímo narušil.
Řešení těchto patálií bude ovšem znamenat jediné - více času na vývoj. Desinterpretaci značek lze zabránit například mapami, kde budou všechny značky zaneseny, ale kdo je vytvoří? A co když se značení změní? Je tu zkrátka ještě spousta otázek, na které neznáme odpovědi a je naivní se domnívat, že budou nalezeny v řádu let. Pokud někdo bude chtít tak rychle dostat plně autonomní řízení do provozu, bude nutně riskovat - třeba i problémy, které nastiňují autoři této studie...
Pro vás? Stopka s obrázkem, graffiti nebo skoro standardní směrová značka. Pro autopilot nicotná informace o limitu 45 mil v hodině
Zdroje: Car and Driver, stáhnout z Arxiv.org
Diskuze Přidat příspěvek
Bleskovky
- 11 let staré Porsche málem vytřelo s nejnovějšími hybridními sporťáky Ferrari a Lamborghini. Není to ostuda?
včera - Špatný den v práci? 24letý zaměstnanec roztřískal při projížďce Ferrari za 76 milionů Kč, splácet ho může po zbytek života
23.4.2024 - V Polsku po nehodě vzplanul luxusní elektromobil tak, že ho po chvíli nepoznal ani majitel, po uhašení se vzňal znovu
21.4.2024
Nové na MotoForum.cz
Nejnovější články
- Dvojí výkon vrcholné Tesly Model 3 byl vysvětlen, Česko i většina světa dostane ošizenou verzi
před hodinou - Dlouholetý šéfdesignér Škody přešel k Číňanům. Na povel bude mít i značku, která stále víc boduje v Česku
před 2 hodinami - V nizozemském Utrechtu už začínají vypínat dobíjecí stanice elektromobilů. Elektřina není, situace se nezlepší roky
před 4 hodinami - Tesla si nechala zaplatit v roce 2017 od Pepsi za 100 tahačů, dodala jich jen 36. Ze 125 kamionů pro UPS ani jeden
před 5 hodinami - „Příšerné” nařizování elektromobilů zabije automobilový průmysl, říká šéf Stellantisu, začne to ve Velké Británii
před 7 hodinami
Živá témata na fóru
- Elektromobily a vse kolem nich 04.26. 11:47 - HondaMan
- Tiguan 2.0TSI 6MT 4x4 Sport&Style 04.26. 10:35 - Brus
- Dříve M135i, nyní ///M2 04.26. 09:48 - Eda
- Výběr Hybrid auta 04.26. 09:34 - mattonecz
- RYBNÍK NA PODLAZE - OCTAVIA 1 04.26. 07:49 - nostromo23
- Onboard videa 04.26. 07:47 - Truck Daškam
- Jak odstranit zaschlý vosk z kapoty auta? Prosím o radu 04.26. 07:46 - nostromo23
- Jak snižovat spotřebu 04.26. 07:41 - nostromo23