Home > Rubriky a sekce > Zajímavosti > Článek
Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat
5.8.2017 | Petr Miler | Přidat příspěvek
Budoucnost možná patří autonomnímu řízení, než se tak ovšem stane, budou se muset automobilky vypořádat s mnohými riziky. Třeba i s tímto.
Zrovna tento týden nám Mercedes dovolil nahlédnout pod pokličku příprav jeho systémů autonomního řízení. Šéf vývoje v kostce řekl, že automobilka je s vývojem docela daleko a v řádu jednotek let by mohla přijít se systémem, který auta skutečně dokáže samostatně řídit. Potíží je ovšem krom fungování v méně obydlených místech také cena za veškerou nezbytnou techniku, která autopilotům nedovolí větší rozšíření nejspíše ještě po další dekádu či dvě.
To jsou ale stále jen dvě z výzev, se kterými se musí společnosti vyvíjející autopiloty potýkat - tedy vůbec nalézt řešení, které autonomní řízení umožní a zároveň je dovolí dostat do prodeje za přijatelnou cenu. I když se ovšem obojí zadaří, budou výrobci vystaveni i dalším nepříjemnostem. A možná zneužití systému patří mezi ně.
Když se něco takového řekne, většina lidí si představí hackera, který na počítači hledá cesty, kterak narušit proud informací vedoucí třeba ze serverů automobilky k vozu samotnému a nasměruje jej do nejbližšího stromu. Takové riziko pochopitelně existuje, jsou tu ale i jiná, méně zřejmá, která mohou vést ke stejnému výsledku.
Na jedno z nich nás upozorňují vědečtí výzkumníci z washingtonské univerzity, kteří analýzou toho, jak autopiloty vnímají svět kolem sebe, přišli na způsob, jak dokonale zmást jejich vnímají značek okolo silnic. Ty jsou pro ně jedním z důležitých a v dohledné době zřejmě nenahraditelných vstupů - značky je zkrátka třeba „přečíst”, spousta z nich není zanesena v žádných mapách a nelze je vnímat ani nijak jinak. Je to jeden ze vstupů, který bude k dispozici lidským i „počítačovým” řidičům a má-li fungovat, musí jej všichni interpretovat stejně. A to se právě u značek stát nemusí.
Pochopitelně, každého jistě napadlo „dát na značku pytel” a problém je na světě. Jenže toho si každý snadno všimne - člověk na to bude reagovat nejistotou a také autopilot v případě nečitelné značky zvolí určenou náhradní strategii, kterou může být v krajním případě klidně i zastavení. Výzkumníci ale našli způsob, jak vskutku jednoduše a nenápadně pozměnit značku tak, aby výsledek člověk ignorovat jako nesmysl či graffiti a autopilot jako docela jinou značku, kterou se prostě začne řídit.
Stačilo pár vytištěných nálepek na domácí tiskárně a už se jelo. Výzkumníci analýzou toho, na co se autopiloty při rozeznávání značek soustřeďují, dokázali pár opravdu nenápadnými papírky změnit třeba vnímání značky „Stůj, dej přednost v jízdě” na rychlostní limit 45 mil v hodině. Pochybujeme přitom, že takových nálepek na značce si někdo z řidičů ostatních aut všimne a rizika ignorace „stopky” jistě nemusíme dlouze vysvětlovat.
Podobně zafungovaly i nápisy „LOVE HATE” znovu na „stopce” vytvářející dojem graffiti nebo pouhé rozostření šipky na další značce na fotkách níže. A pokud máte pocit, že něco takového může autopilot zmást jen někdy, nějak a ne moc, pak se mýlíte - v 73,3 procentech případů rozeznaly systémy testovaných vozů značku stop jako rychlostní limit.
Je to nepochybně pozoruhodný způsob, jak přivézt systémy autonomního řízení do úzkých. Zmást lze tedy jistě i člověka, ale ne tak snadno a nenápadně, je to přece jen inteligentní tvor vnímající situaci o dost komplexněji. Autoři studie, kterou si celou můžete stáhnout z Arxiv.org, pak dodávají, že právě co nejkomplexnějším vnímáním reality budou muset automobilky a další firmy těmto rizikům čelit - pokud se kdykoli budou spoléhat jen na jeden informační vstup, mohou být snadno zmateny. I bez toho, že by jejich systémy někdo přímo narušil.
Řešení těchto patálií bude ovšem znamenat jediné - více času na vývoj. Desinterpretaci značek lze zabránit například mapami, kde budou všechny značky zaneseny, ale kdo je vytvoří? A co když se značení změní? Je tu zkrátka ještě spousta otázek, na které neznáme odpovědi a je naivní se domnívat, že budou nalezeny v řádu let. Pokud někdo bude chtít tak rychle dostat plně autonomní řízení do provozu, bude nutně riskovat - třeba i problémy, které nastiňují autoři této studie...
Pro vás? Stopka s obrázkem, graffiti nebo skoro standardní směrová značka. Pro autopilot nicotná informace o limitu 45 mil v hodině
Zdroje: Car and Driver, stáhnout z Arxiv.org
Diskuze Přidat příspěvek
Bleskovky
- Tesla nakonec propouští i v Evropě, 300 lidí může čekat, že je v pondělí už nepustí do práce
včera - Vrcholný Lucid zvládá i v reálu stovku pod 2 s. Je rychlejší než Bugatti, přitom je to pořád rodinné auto za zlomek ceny
18.4.2024 - Zákazníci masivně ruší objednávky na auto od Xiaomi, které za cenu Škody nabízí vzhled i dynamiku Porsche
17.4.2024
Nové na MotoForum.cz
- Superpole WSSP vyhrál Manzi, 33. Vostatek včera 16:36
- Počasí způsobilo chaos v Assenu, nejlepším v pátek Bautista včera 16:27
- FIM EWC 24h Le Mans: PP pro YART s Hanikou včera 16:19
- Superpole WSSP300 pro Garciu, 4. Svoboda včera 14:17
- V Assenu začal nejrychleji Razgatlioglu včera 13:49
Nejnovější články
- Fiat Panda má pověst velmi poruchového auta, v bazarech přesto táhne, časem svým způsobem zraje
včera - Někdo najel s nejkrásnějším moderním Astonem Martin 514 tisíc kilometrů, něco takového jsme v životě neviděli
včera - Hra se otočila. Číňané léta kopírovali evropská auta, teď si VW koupil kus čínské značky, aby sám mohl opisovat
včera - Absurdní elektrický nástupce nejlepší Kie zamířil k ledu, už i Korejci vnímají změnu nálad na trhu
včera - Tesla nakonec propouští i v Evropě, 300 lidí může čekat, že je v pondělí už nepustí do práce
včera
Tiskové zprávy
- Mio MiVue R850T: zrcátková autokamera s 2.5K, antireflexním dotykovým displejem a zadní kamerou
tisková zpráva - Mio MiVue C545: moderní verze 60snímkové autokamery s HDR nočním režimem
tisková zpráva - OMV a Pražská energetika otevřely společně 40. nabíjecí stanici pro elektromobily na odpočívce Mikulášov
tisková zpráva - Mio MiVue C588T: duální autokamera s pozoruhodným natáčením i ve tmě
tisková zpráva - Mio MiVue 886 WiFi GPS autokamera s 4K rozlišením a upozorněním na měřené úseky
tisková zpráva - Mio MiVue 818 WiFi 2K: kniha jízd jako speciální funkce v autokameře
tisková zpráva