Nová studie zpochybňuje vliv umělé inteligence na demokracii
Zatímco experti a média často varují před katastrofickými dopady, realita může být daleko méně dramatická, tvrdí britský výzkumník.
Zatímco experti a média často varují před katastrofickými dopady umělé inteligence na demokracii, realita může být daleko méně dramatická, tvrdí britský výzkumník Dan Williams ve svém novém článku "What if the truth about AI is more boring than we'd like?" (Co když je pravda o umělé inteligenci nudnější, než bychom chtěli?).
Williams považuje současný diskurz o AI za "přehnaně negativní a alarmistický" a zpochybňuje zejména populární tvrzení, že AI představuje existenční hrozbu pro demokratické systémy. Jako příklad uvádí nedávnou diskusi mezi počítačovým vědcem Yoshuou Bengio a intelektuálem Yuvalem Noahem Hararim, kteří přirovnávali vztah člověka a AI ke vztahu člověka a žáby.
"Tato analogie spočívá na tolika nedorozuměních na tolika různých úrovních, že ani nevím, kde začít," píše Williams a zdůrazňuje základní rozdíl mezi evolučně vyvinutými organismy a nástroji, které vědomě navrhujeme pro naše vlastní cíle.
Williams také poukazuje na studii Institutu Alana Turinga z roku 2024, která zjistila pokusy o ovlivňování pomocí AI pouze v 19 ze 112 sledovaných národních voleb, přičemž žádný z nich významně neovlivnil očekávané výsledky.
"Obavy z AI dezinformací ignorují desetiletí výzkumu o omezených účincích masových přesvědčovacích kampaní a komplexních faktorech volebního chování," cituje Williams odborníky Felixe Simona, Keegana McBridea a Sachu Altaye.
Následně identifikuje několik klíčových faktorů zkreslujících veřejnou debatu, včetně tzv. negativního zkreslení - přirozené lidské tendence věnovat větší pozornost hrozbám a nebezpečím.
"Jedním z nešťastných vedlejších produktů této tendence je, že velká část veřejné konverzace kolem AI ignoruje, že mnoho (vsadil bych, že většina) aplikací těchto technologií je pozitivních, alespoň v západních demokraciích," píše Williams.
Dalším faktorem je podle něj tzv. "efekt třetí osoby" - přesvědčení, že ostatní lidé jsou mnohem snadněji manipulovatelní prostřednictvím médií než my sami. Rovněž zmiňuje mediální pobídky, které systematicky upřednostňují senzacechtivé negativní příběhy před střízlivými analýzami.
Williams navíc argumentuje, že AI systémy jako ChatGPT mohou ve skutečnosti zlepšovat informační prostředí v západních demokraciích.
"Ať už se jedná o text-to-speech technologii, která se v posledních letech výrazně zlepšila, nebo o využití velkých jazykových modelů k rychlému a užitečnému shrnutí a syntéze velkých objemů informací," uvádí příklady pozitivních dopadů AI.
"V ideálním světě by nás lidská psychologie a veřejná debata orientovaly k pravdě. V reálném světě se totiž skutečnost často liší od fiktivních světů, o kterých přemýšlíme a mluvíme nejraději," píše Williams a vyzývá k vyváženějšímu hodnocení jak rizik, tak přínosů AI technologií v demokratických společnostech.