Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat

Budoucnost možná patří autonomnímu řízení, než se tak ovšem stane, budou se muset automobilky vypořádat s mnohými riziky. Třeba i s tímto.
  1. Autoforum.cz
  2. Rubriky a sekce
  3. Zajímavosti

Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat

5.8.2017 | Petr Miler | 9 příspěvků

Budoucnost možná patří autonomnímu řízení, než se tak ovšem stane, budou se muset automobilky vypořádat s mnohými riziky. Třeba i s tímto.

Zrovna tento týden nám Mercedes dovolil nahlédnout pod pokličku příprav jeho systémů autonomního řízení. Šéf vývoje v kostce řekl, že automobilka je s vývojem docela daleko a v řádu jednotek let by mohla přijít se systémem, který auta skutečně dokáže samostatně řídit. Potíží je ovšem krom fungování v méně obydlených místech také cena za veškerou nezbytnou techniku, která autopilotům nedovolí větší rozšíření nejspíše ještě po další dekádu či dvě.

To jsou ale stále jen dvě z výzev, se kterými se musí společnosti vyvíjející autopiloty potýkat - tedy vůbec nalézt řešení, které autonomní řízení umožní a zároveň je dovolí dostat do prodeje za přijatelnou cenu. I když se ovšem obojí zadaří, budou výrobci vystaveni i dalším nepříjemnostem. A možná zneužití systému patří mezi ně.

Když se něco takového řekne, většina lidí si představí hackera, který na počítači hledá cesty, kterak narušit proud informací vedoucí třeba ze serverů automobilky k vozu samotnému a nasměruje jej do nejbližšího stromu. Takové riziko pochopitelně existuje, jsou tu ale i jiná, méně zřejmá, která mohou vést ke stejnému výsledku.

Na jedno z nich nás upozorňují vědečtí výzkumníci z washingtonské univerzity, kteří analýzou toho, jak autopiloty vnímají svět kolem sebe, přišli na způsob, jak dokonale zmást jejich vnímají značek okolo silnic. Ty jsou pro ně jedním z důležitých a v dohledné době zřejmě nenahraditelných vstupů - značky je zkrátka třeba „přečíst”, spousta z nich není zanesena v žádných mapách a nelze je vnímat ani nijak jinak. Je to jeden ze vstupů, který bude k dispozici lidským i „počítačovým” řidičům a má-li fungovat, musí jej všichni interpretovat stejně. A to se právě u značek stát nemusí.

Pochopitelně, každého jistě napadlo „dát na značku pytel” a problém je na světě. Jenže toho si každý snadno všimne - člověk na to bude reagovat nejistotou a také autopilot v případě nečitelné značky zvolí určenou náhradní strategii, kterou může být v krajním případě klidně i zastavení. Výzkumníci ale našli způsob, jak vskutku jednoduše a nenápadně pozměnit značku tak, aby výsledek člověk ignorovat jako nesmysl či graffiti a autopilot jako docela jinou značku, kterou se prostě začne řídit.

Stačilo pár vytištěných nálepek na domácí tiskárně a už se jelo. Výzkumníci analýzou toho, na co se autopiloty při rozeznávání značek soustřeďují, dokázali pár opravdu nenápadnými papírky změnit třeba vnímání značky „Stůj, dej přednost v jízdě” na rychlostní limit 45 mil v hodině. Pochybujeme přitom, že takových nálepek na značce si někdo z řidičů ostatních aut všimne a rizika ignorace „stopky” jistě nemusíme dlouze vysvětlovat.

Podobně zafungovaly i nápisy „LOVE HATE” znovu na „stopce” vytvářející dojem graffiti nebo pouhé rozostření šipky na další značce na fotkách níže. A pokud máte pocit, že něco takového může autopilot zmást jen někdy, nějak a ne moc, pak se mýlíte - v 73,3 procentech případů rozeznaly systémy testovaných vozů značku stop jako rychlostní limit.

Je to nepochybně pozoruhodný způsob, jak přivézt systémy autonomního řízení do úzkých. Zmást lze tedy jistě i člověka, ale ne tak snadno a nenápadně, je to přece jen inteligentní tvor vnímající situaci o dost komplexněji. Autoři studie, kterou si celou můžete stáhnout z Arxiv.org, pak dodávají, že právě co nejkomplexnějším vnímáním reality budou muset automobilky a další firmy těmto rizikům čelit - pokud se kdykoli budou spoléhat jen na jeden informační vstup, mohou být snadno zmateny. I bez toho, že by jejich systémy někdo přímo narušil.

Řešení těchto patálií bude ovšem znamenat jediné - více času na vývoj. Desinterpretaci značek lze zabránit například mapami, kde budou všechny značky zaneseny, ale kdo je vytvoří? A co když se značení změní? Je tu zkrátka ještě spousta otázek, na které neznáme odpovědi a je naivní se domnívat, že budou nalezeny v řádu let. Pokud někdo bude chtít tak rychle dostat plně autonomní řízení do provozu, bude nutně riskovat - třeba i problémy, které nastiňují autoři této studie...

Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat - 1 - Zmateni autopilotu vyzkumnici UW 01Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat - 2 - Zmateni autopilotu vyzkumnici UW 02Vědci našli mrazivě nenápadný způsob, jak donutit autopiloty klidně i nabourat - 3 - Zmateni autopilotu vyzkumnici UW 03
Pro vás? Stopka s obrázkem, graffiti nebo skoro standardní směrová značka. Pro autopilot nicotná informace o limitu 45 mil v hodině

Zdroje: Car and Driver, stáhnout z Arxiv.org

Petr Miler

Další zajímavé články:

Diskuze 9 příspěvků

Autobazar

zobrazit vše