Home > Rubriky a sekce > Zajímavosti > Článek
Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat
5.8.2017 | Petr Miler | Přidat příspěvek
Budoucnost možná patří autonomnímu řízení, než se tak ovšem stane, budou se muset automobilky vypořádat s mnohými riziky. Třeba i s tímto.
Zrovna tento týden nám Mercedes dovolil nahlédnout pod pokličku příprav jeho systémů autonomního řízení. Šéf vývoje v kostce řekl, že automobilka je s vývojem docela daleko a v řádu jednotek let by mohla přijít se systémem, který auta skutečně dokáže samostatně řídit. Potíží je ovšem krom fungování v méně obydlených místech také cena za veškerou nezbytnou techniku, která autopilotům nedovolí větší rozšíření nejspíše ještě po další dekádu či dvě.
To jsou ale stále jen dvě z výzev, se kterými se musí společnosti vyvíjející autopiloty potýkat - tedy vůbec nalézt řešení, které autonomní řízení umožní a zároveň je dovolí dostat do prodeje za přijatelnou cenu. I když se ovšem obojí zadaří, budou výrobci vystaveni i dalším nepříjemnostem. A možná zneužití systému patří mezi ně.
Když se něco takového řekne, většina lidí si představí hackera, který na počítači hledá cesty, kterak narušit proud informací vedoucí třeba ze serverů automobilky k vozu samotnému a nasměruje jej do nejbližšího stromu. Takové riziko pochopitelně existuje, jsou tu ale i jiná, méně zřejmá, která mohou vést ke stejnému výsledku.
Na jedno z nich nás upozorňují vědečtí výzkumníci z washingtonské univerzity, kteří analýzou toho, jak autopiloty vnímají svět kolem sebe, přišli na způsob, jak dokonale zmást jejich vnímají značek okolo silnic. Ty jsou pro ně jedním z důležitých a v dohledné době zřejmě nenahraditelných vstupů - značky je zkrátka třeba „přečíst”, spousta z nich není zanesena v žádných mapách a nelze je vnímat ani nijak jinak. Je to jeden ze vstupů, který bude k dispozici lidským i „počítačovým” řidičům a má-li fungovat, musí jej všichni interpretovat stejně. A to se právě u značek stát nemusí.
Pochopitelně, každého jistě napadlo „dát na značku pytel” a problém je na světě. Jenže toho si každý snadno všimne - člověk na to bude reagovat nejistotou a také autopilot v případě nečitelné značky zvolí určenou náhradní strategii, kterou může být v krajním případě klidně i zastavení. Výzkumníci ale našli způsob, jak vskutku jednoduše a nenápadně pozměnit značku tak, aby výsledek člověk ignorovat jako nesmysl či graffiti a autopilot jako docela jinou značku, kterou se prostě začne řídit.
Stačilo pár vytištěných nálepek na domácí tiskárně a už se jelo. Výzkumníci analýzou toho, na co se autopiloty při rozeznávání značek soustřeďují, dokázali pár opravdu nenápadnými papírky změnit třeba vnímání značky „Stůj, dej přednost v jízdě” na rychlostní limit 45 mil v hodině. Pochybujeme přitom, že takových nálepek na značce si někdo z řidičů ostatních aut všimne a rizika ignorace „stopky” jistě nemusíme dlouze vysvětlovat.
Podobně zafungovaly i nápisy „LOVE HATE” znovu na „stopce” vytvářející dojem graffiti nebo pouhé rozostření šipky na další značce na fotkách níže. A pokud máte pocit, že něco takového může autopilot zmást jen někdy, nějak a ne moc, pak se mýlíte - v 73,3 procentech případů rozeznaly systémy testovaných vozů značku stop jako rychlostní limit.
Je to nepochybně pozoruhodný způsob, jak přivézt systémy autonomního řízení do úzkých. Zmást lze tedy jistě i člověka, ale ne tak snadno a nenápadně, je to přece jen inteligentní tvor vnímající situaci o dost komplexněji. Autoři studie, kterou si celou můžete stáhnout z Arxiv.org, pak dodávají, že právě co nejkomplexnějším vnímáním reality budou muset automobilky a další firmy těmto rizikům čelit - pokud se kdykoli budou spoléhat jen na jeden informační vstup, mohou být snadno zmateny. I bez toho, že by jejich systémy někdo přímo narušil.
Řešení těchto patálií bude ovšem znamenat jediné - více času na vývoj. Desinterpretaci značek lze zabránit například mapami, kde budou všechny značky zaneseny, ale kdo je vytvoří? A co když se značení změní? Je tu zkrátka ještě spousta otázek, na které neznáme odpovědi a je naivní se domnívat, že budou nalezeny v řádu let. Pokud někdo bude chtít tak rychle dostat plně autonomní řízení do provozu, bude nutně riskovat - třeba i problémy, které nastiňují autoři této studie...
Pro vás? Stopka s obrázkem, graffiti nebo skoro standardní směrová značka. Pro autopilot nicotná informace o limitu 45 mil v hodině
Zdroje: Car and Driver, stáhnout z Arxiv.org
Diskuze Přidat příspěvek
Bleskovky
- Tesla nakonec propouští i v Evropě, 300 lidí může čekat, že je v pondělí už nepustí do práce
před 10 hodinami - Vrcholný Lucid zvládá i v reálu stovku pod 2 s. Je rychlejší než Bugatti, přitom je to pořád rodinné auto za zlomek ceny
včera - Zákazníci masivně ruší objednávky na auto od Xiaomi, které za cenu Škody nabízí vzhled i dynamiku Porsche
17.4.2024
Nové na MotoForum.cz
Nejnovější články
- Fiat Panda má pověst velmi poruchového auta, v bazarech přesto táhne, časem svým způsobem zraje
před 5 hodinami - Někdo najel s nejkrásnějším moderním Astonem Martin 514 tisíc kilometrů, něco takového jsme v životě neviděli
před 6 hodinami - Hra se otočila. Číňané léta kopírovali evropská auta, teď si VW koupil kus čínské značky, aby sám mohl opisovat
před 8 hodinami - Absurdní elektrický nástupce nejlepší Kie zamířil k ledu, už i Korejci vnímají změnu nálad na trhu
před 9 hodinami - Tesla nakonec propouští i v Evropě, 300 lidí může čekat, že je v pondělí už nepustí do práce
před 10 hodinami
Živá témata na fóru
- Řidiči, co to mají v ruce... 04.19. 21:40 - řidičBOB
- Prodávám Tiguana, 2019, 176kW perfektní stav 04.19. 20:50 - řidičBOB
- Policejní kontroly a měření 04.19. 18:38 - rutak11
- Elektromobily a vse kolem nich 04.19. 16:19 - honziss
- Peugeot 207-problém po nastartování 04.19. 15:42 - grizly
- BMW Divize 04.19. 15:12 - jerry
- Chip modul PCM zvýšení výkonu 2.0TSI GEN4 300+PS 04.19. 14:11 - venomage
- Dříve M135i, nyní ///M2 04.19. 09:13 - Eda