Je to asi stále věčná otázka. Otázka, která nebude nikdy plně z zodpovězena. A čím víc se bude AI do aut dostávat, a čím víc nehod bude, tím více se lidi budou ptát. Jak moc se umělá inteligence ohrožující? Nárůst automobilů s vlastním řízením vyvolal rozsáhlé debaty o dopadech umělé inteligence na každodenní život. Údaje získané díky úzké spolupráci s americkým Národním úřadem pro bezpečnost silničního provozu (NHTSA) ukazují na potenciální rizika spojená s umělou inteligencí v samořiditelných vozidlech.

AI jako řidič auta s lidskou posádkou je extrémním rizikem

Podle úřadu je zde je pět klíčových zjištění, která poskytují lepší pochopení překážek, jež je třeba překonat pro regulaci této technologie. Jinak řečeno, existuje řada kritérií, které neumí umělá inteligence splnit. Pokud AI by v této formě plně řídila auto, pak je vysoká pravděpodobnost, že nabourá. A že dojde k úhoně, klidně i fatálního charakteru. O co tedy jde přesně? Lidské chyby v provozu jsou nahrazeny lidskými chybami v kódování.

iZdroj fotografie: Depositphotos

Vyloučení lidských řidičů může přinést bezpečnostní výhody, pokud není člověk za volantem, neudělá chybu. Ale při vývoji softwaru pro autonomní vozidla se objevují nové problémy. Člověk chybuje při vývoji autonomního auta. Havárie samořiditelných aut jsou důkazem toho, že chyby v programování mohou mít fatální následky. Řádné testování a regulace jsou nezbytné k minimalizaci tohoto rizika.

Umělá inteligence už je v radarech a vidí všechno: Stačí se dotknout telefonu, a už platíte. Češi mají obavy

Lze předpokládat, že stoprocentní odstranění chyb nebude nikdy. Jinak formulováno, i autonomní auta budou bourat. Režimy selhání AI je těžké předvídat. I přes použití statistického uvažování jsou samořídící auta a velké jazykové modely náchylné k neočekávaným selháním. Vývoj robustních metod pro zvládání neočekávaných situací je klíčový pro zajištění bezpečnosti autonomních vozidel. Nikdo nemže vědět, co umělá inteligence udělá a proč. Umělá inteligence může mít obtíže s neznámými situacemi, ve kterých by byla efektivnější lidská intuice.

Umělá inteligence nemůže sama řídit auto. Myslíte si opak?

Tohle je velký problém, jakkoli to tak nemusí vypadat. Člověk se umí rozhodnout. Na základě zkušenosti, emocí, špatně nebo dobře. Ale vždy s ohledem na „lidský aspekt“ věci. Tohle AI nikdy nemůže zvládnout. K nezbytnému snížení rizik spojených s nejistotou u AI. Je zásadní aktualizace modelů AI a pravidelná údržba. Aktuální a použitelná data jsou nezbytná pro správnou funkci.  modelů Pravidelné aktualizace jsou nezbytné k zabránění zastarání a nedostatečnosti modelů AI. A teď se podívejme na to, ruku na srdce, jak lidi aktualizují třeba telefony nebo počítače.

A teď si to přeneste na auta bez řidiče. Samořídící auta mohou mít bezpečnostní prvky, které vozidlo při nejistotě zastaví, fajn. Fajn? Je to nesmysl, takové řešení rizikových situací může mít nepředvídatelné následky na provoz a dopravu. Auto samo zastaví uprostřed dálnice. Auto samo zastaví před blížícím se kamionem. A nikdo to nedokáže předpovědět a ovlivnit, nikdo nemá šanci tušit, co si AI zamane, na co zareaguje. Člověk as radši přejede holuba na silnici, než aby naboural sebe a své blízké.

iZdroj fotografie: Depositphotos

Co ale udělá „robot“? Nikdy by mne nenapadlo, to je osobní poznámka, že takovou větu kdy napíšu, že toto kdy budu řešit. Auta bez řidiče, robot „za volantem“. Abychom účinně regulovali umělou inteligenci v samořiditelných autech, musí vlády upřednostňovat technickou způsobilost a spolupráci mezi akademickou sférou, průmyslem a vládou. Jít na to pozvolna. A přesto, nikdy nebude zaručena absolutní jistota. Jen se odpovědnost z člověka přenese na stroje. Tohle začíná zavánět pořádným alibismem.