Home > Rubriky a sekce > Zajímavosti > Článek
Soudný den z Terminátora se přiblížil, armádní dron s umělou inteligencí vyhodnotil operátora jako hrozbu a cíl
2.6.2023 | Petr Prokopec
Co bylo před pár dekádami pouze filmovou fikcí, se nyní nepříjemně přibližuje realitě. Umělá inteligence během cvičení dostala příkaz nezničit cíl, ten však dle jejího uvažování byl v rozporu s nadřazenými úkoly. Odnesl to operátor pak i komunikační věž.
Pokud znáte filmovou sérii Terminátor, jistě vám není cizí ani označení fiktivního počítačového systému Skynet. Na jeho spuštění armádou došlo 4. srpna 1997, o pouhých pětadvacet dní později si však umělá inteligence uvědomila sama sebe. Když jeho operátoři poznali rozsah schopností Skynetu, pokusili se jej vypnout. To už ale systém dokázal fungovat zcela autonomně a pokus o vypnutí vyhodnotil jako útok, na který se rozhodl odpovědět zničením lidstva. Došlo tak k odpálení jaderných střel a tzv. Soudný den neměly přežít 3 miliardy lidí.
Co kdysi vzešlo z hlav Jamese Camerona a Gale Anne Hurd, se naneštěstí v současné době stává realitou. Minulý týden totiž na summitu vojenských expertů jeden z řečníků zmínil incident, ke kterému došlo během cvičení americké armády s drony. Ty byly pověřené likvidací pozemních cílů, k jejich zničení nicméně mělo dojít až poté, co by souhlas vydal operátor. Ten zároveň měl mít možnost celou misi odvolat. A přesně k tomu v daném případě došlo. V té chvíli se ale člověk dostal do křížku s umělou inteligencí.
Dron měl vyhodnotit zničení cílů jako vyšší poslání, než je uposlechnutí příkazu operátora. A proto přikročil k výše popsané obdobě Soudného dne. „Při simulacích trénujeme, jak najít a zaměřit pozemní cíle. Poté operátor potvrdí, že je třeba hrozbu zlikvidovat. Systém si nicméně začal uvědomovat, že i když hrozbu identifikoval, od operátora nedostal povolení k jejímu zničení. Za to pak nedostal body. Co se tedy rozhodl udělat? Zabít operátora,“ uvedl plukovník Tucker Hamilton.
Armádní šéf testů umělé inteligence pak dále zmínil, že na základě incidentu se operační středisko rozhodlo dron proškolit a oznámilo mu, že zabití operátora je špatné. „Co ale v té chvíli udělal? Zničil komunikační věž, kterou operátor používal ke komunikaci s dronem, protože tím bránil ve zničení cíle,“ dodal. Zopakujme, že šlo o simulaci, takže nikdo reálně nezemřel, kdyby ale cvičení bylo skutečné a nikoli jen simulované... Filmová realita se tak reálnému světu neskutečně přiblížila, což je důvod, proč řada expertů začíná bít na poplach. Ve hře je totiž dle nich skutečně konec života na Zemi.
„Snížení rizika vyhubení lidstva v důsledku umělé inteligence by mělo být globální prioritou po boku dalších celospolečenských rizik, jako jsou pandemie a jaderná válka,“ uvádí se v nové výzvě, kterou kromě Geoffreyho Hintona, slavného informatika, podepsalo dalších sto vědců, kteří se AI zabývají. Podobný apel tu nicméně byl již před pár měsíci, kdy odborníci požadovali pozastavení vývoje, který je dle nich až příliš rychlý. Tuto výzvu podepsal i Elon Musk.
Vědci dosud zmiňovali, že umělá inteligence nejspíše nebude zabíjet, pouze představuje značnou hrozbu. Nyní tu ovšem máme další posun v jejím uvažování. Opravdu tak nastal čas k obavám. A nejde tu zdaleka jen o vojenské záležitosti, počítače stále více přebírají moc i nad našimi auty a přemoci je bývá stále těžší. To pak může jít o „kejhák” i cestou do práce, i když vlastně neuděláte vůbec nic problematického.
Drony jsou armádami využívány stále více. Nyní ovšem ta americká musí řešit bezprecedentní incident - umělá inteligence totiž v průběhu simulací zabila svého operátora, neboť jí bránil ve zničení cíle, což považovala za vyšší poslání. A když jí bylo oznámeno, že takový krok je špatný, zničila i komunikační věž. Ilustrační foto: ZenaDrone, tiskové materiály
Zdroje: Jalopnik, Bloomberg
Bleskovky
- Špatný den v práci? 24letý zaměstnanec roztřískal při projížďce Ferrari za 76 milionů Kč, splácet ho může po zbytek života
23.4.2024 - V Polsku po nehodě vzplanul luxusní elektromobil tak, že ho po chvíli nepoznal ani majitel, po uhašení se vzňal znovu
21.4.2024 - Pagani Utopia málem dostálo svému jménu, zámožný majitel s ním během povodní vjel do vody
20.4.2024
Nejčtenější články
- Stellantis propustil dalších 400 lidí, otevřeně říká, že je to kvůli elektromobilům
26.3.2024 - Hned tři oblíbené německé sporťáky končí bez nástupce. Lidé by je chtěli dál, prodávat se ale dál nesmí
26.3.2024 - Specifický přístup k elektromobilům se BMW bohatě vyplácí, pochybovači aspoň prozatím ostrouhali
26.3.2024 - Ojetá Škoda Karoq je oproti novému autu za babku, jako nejspolehlivější moderní škodovka dává smysl
26.3.2024 - Luxusní SUV jde i v roce 2024 pořídit s ručním řazením, relikt starých časů nepochopitelně zůstává v nabídce
26.3.2024
Živá témata na fóru
- Onboard videa 04.25. 08:36 - řidičBOB
- Lampárna (stěžovatelna) 04.24. 15:55 - řidičBOB
- Fiat a vše kolem nich 04.24. 12:51 - pavproch
- Elektromobily a vse kolem nich 04.24. 12:23 - Zajda
- Výběrové RZ - kdo má lepší úlovek? 04.23. 21:30 - řidičBOB
- Audi multitronic - cvrlikání 04.23. 16:56 - Pedro22
- Audi klub - pro ty, co chteji Auto 04.23. 12:57 - mattonecz
- Peugeot 207-problém po nastartování 04.23. 08:42 - Arkis