Autoforum

/

Foto: BMW

Trochu to připomíná filmový Skynet, ale přesně o tom rizika spojená s AI jsou. Ve své dnešní podobě může být ceněným pomocníkem, svěřit jí samostatně jakoukoli agendu zavání průšvihem.

Podobně jako sirky také umělá inteligence může být nejen dobrým sluhou, ale také zlým pánem. Nově se o tom přesvědčil dealer BMW v kanadském Torontu, od kterého si před časem jeden zákazník koupil nové SUV X3. To se ovšem nyní rozhodl nabídnout dealerovi na protiúčet za nový vůz, kvůli čemuž začal s dealerem komunikovat přes chat. Samozřejmě si myslel, že je ve spojení s konkrétní osobou, která se záhy vytasila nabídkou podle jeho představ. Obchod byl touto cestou domluven, došlo i na dojednání termínu schůzky za účelem předání vozu a vyřízení „papírů”. Záhy se ovšem ukázalo, že na druhé straně obrazovky neseděl člověk z masa a kostí, nýbrž umělá inteligence, která udělala chybu.

Celý příběh zdokumentovaný CBC News odstartoval v roce 2021, kdy si Zack Giacomelli v showroomu BMW Toronto vybral zmíněné SUV, které si následně také odvezl domů. Letos se s ním ovšem rozhodl rozloučit a pořídit si nový vůz, proto jej dealerství nabídnul k odkupu. To je standardní postup, za nikoli neobvyklou lze označit i písemnou komunikaci s osobou jménem Quinn, o kterém si zákazník neměl důvod myslet, že nejde o normálního zaměstnance, dealer nic takového ani neuváděl.

Quinn majiteli po předání klíčových informací za vůz nabídl 27 162,19 dolarů neboli 570 500 Kč, což byla stejná suma, jakou Giacomelli ještě dlužil na splátkách za vůz, pro majitele ideální situace. „Říkal jsem si, že mně tenhle Quinn konečně vyslyšel. Cítil jsem se velmi dobře,“ sdělil CBC. A potvrdil, že s Quinnem naplánoval i onu schůzku, kde mělo být vše dokončeno. Jenže než vůbec dorazil do showroomu, ozval se mu tentokrát skutečný zaměstnanec BMW Toronto s tím, že Quinn není živou osobou, nýbrž umělou inteligencí, která udělala chybu. „Řekl mi, že žádná dohoda neplatí,“ uvedl Giacomelli.

Místo původních 27 tisíc dolarů tak dostal novou nabídku, v jejímž případě se cena blížila 20 tisícům dolarů, tedy 420 tisícům korun. „To mně vážně dostalo. Pokud chtějí nahrazovat své zaměstnance umělou inteligencí, pak by také měli ctít, co AI řekne,“ sdělil vcelku pochopitelně s tím, že Quinn se za celou dobu ani neidentifikoval jako umělá inteligence. Kanál CBC News proto kontaktoval dealerství se žádostí o vysvětlení, přičemž mu bylo sděleno, že AI zaměnila výši dluhu za nabídku. Ooops.

Dealer původně trval na tom, že auto nevykoupí, po nevítané mediální pozornosti ale uznal, že mu to za 7 tisíc dolarů nestojí a původní nabídka platí - Giacomellimu tedy vyplatilo oněch 27 tisíc dolarů. BMW Toronto tak vyšla tato úspora dost draho a nyní už nehodlá při výkupu aut umělou inteligenci využívat, místo toho budou mít danou agendu znovu na starosti lidé

Právě to je důvod, proč máme k AI své výhrady. V poslední době je totiž zaměstnávána stále více firmami, které se snaží především šetřit. Sami jsme tak při asistenci při koupi či prodeji auta, mj. přes jeden největší český autobazar, narazili na naprostou nekompetenci jinak bystrého chatbota, který byl schopen tvrdit, že auto, které fyzicky bylo k dispozici na pobočce a nebylo nikým rezervováno, je prodané, že auto, které si říká BMW a vypadá jako BMW, je ve skutečnosti Škoda a podobné kiksy. Cesta ke kompetentnější živé osobě pak neexistovala jinak než telefonicky, k tomu třeba nemusíte mít prostor.

Největším problémem AI je tedy její nespolehlivost, ať už se pokouší o cokoli. Je jako jinak schopný kolega z práce, který ale čas od času udělá obrovskou botu, kterou pohřbí přínos veškerých svých zbylých aktivit. Na takového člověka musíte dávat pozor, stejně tak na AI musíte dávat pozor. Jinak vám zkazí kšefty nebo vás připraví o peníze a nedozvíte se o tom dřív, než bude pozdě. V Torontu to poznali z první ruky...

Zdroje: CBC News, Autoforum.cz

Petr Prokopec