Autoforum

/

Foto: SeongJoon Cho, Bloomberg

Co bylo před pár dekádami pouze filmovou fikcí, se nyní nepříjemně přibližuje realitě. Umělá inteligence během cvičení dostala příkaz nezničit cíl, ten však dle jejího uvažování byl v rozporu s nadřazenými úkoly. Odnesl to operátor pak i komunikační věž.

Pokud znáte filmovou sérii Terminátor, jistě vám není cizí ani označení fiktivního počítačového systému Skynet. Na jeho spuštění armádou došlo 4. srpna 1997, o pouhých pětadvacet dní později si však umělá inteligence uvědomila sama sebe. Když jeho operátoři poznali rozsah schopností Skynetu, pokusili se jej vypnout. To už ale systém dokázal fungovat zcela autonomně a pokus o vypnutí vyhodnotil jako útok, na který se rozhodl odpovědět zničením lidstva. Došlo tak k odpálení jaderných střel a tzv. Soudný den neměly přežít 3 miliardy lidí.

Co kdysi vzešlo z hlav Jamese Camerona a Gale Anne Hurd, se naneštěstí v současné době stává realitou. Minulý týden totiž na summitu vojenských expertů jeden z řečníků zmínil incident, ke kterému došlo během cvičení americké armády s drony. Ty byly pověřené likvidací pozemních cílů, k jejich zničení nicméně mělo dojít až poté, co by souhlas vydal operátor. Ten zároveň měl mít možnost celou misi odvolat. A přesně k tomu v daném případě došlo. V té chvíli se ale člověk dostal do křížku s umělou inteligencí.

Dron měl vyhodnotit zničení cílů jako vyšší poslání, než je uposlechnutí příkazu operátora. A proto přikročil k výše popsané obdobě Soudného dne. „Při simulacích trénujeme, jak najít a zaměřit pozemní cíle. Poté operátor potvrdí, že je třeba hrozbu zlikvidovat. Systém si nicméně začal uvědomovat, že i když hrozbu identifikoval, od operátora nedostal povolení k jejímu zničení. Za to pak nedostal body. Co se tedy rozhodl udělat? Zabít operátora,“ uvedl plukovník Tucker Hamilton.

Armádní šéf testů umělé inteligence pak dále zmínil, že na základě incidentu se operační středisko rozhodlo dron proškolit a oznámilo mu, že zabití operátora je špatné. „Co ale v té chvíli udělal? Zničil komunikační věž, kterou operátor používal ke komunikaci s dronem, protože tím bránil ve zničení cíle,“ dodal. Zopakujme, že šlo o simulaci, takže nikdo reálně nezemřel, kdyby ale cvičení bylo skutečné a nikoli jen simulované... Filmová realita se tak reálnému světu neskutečně přiblížila, což je důvod, proč řada expertů začíná bít na poplach. Ve hře je totiž dle nich skutečně konec života na Zemi.

„Snížení rizika vyhubení lidstva v důsledku umělé inteligence by mělo být globální prioritou po boku dalších celospolečenských rizik, jako jsou pandemie a jaderná válka,“ uvádí se v nové výzvě, kterou kromě Geoffreyho Hintona, slavného informatika, podepsalo dalších sto vědců, kteří se AI zabývají. Podobný apel tu nicméně byl již před pár měsíci, kdy odborníci požadovali pozastavení vývoje, který je dle nich až příliš rychlý. Tuto výzvu podepsal i Elon Musk.

Vědci dosud zmiňovali, že umělá inteligence nejspíše nebude zabíjet, pouze představuje značnou hrozbu. Nyní tu ovšem máme další posun v jejím uvažování. Opravdu tak nastal čas k obavám. A nejde tu zdaleka jen o vojenské záležitosti, počítače stále více přebírají moc i nad našimi auty a přemoci je bývá stále těžší. To pak může jít o „kejhák” i cestou do práce, i když vlastně neuděláte vůbec nic problematického.

Zdroje: Jalopnik, Bloomberg

Petr Prokopec