John Symons: Predikce a demokracie jsou lepší než fact-checking a cenzura

Abychom si takzvaně "kvůli pravdě" nezavřeli demokratickou cestu k pravdě, musíme se i v krizi vyvarovat cenzury, říká profesor John Symons.

Autor: Petr Šourek

Abychom si takzvaně "kvůli pravdě" nezavřeli demokratickou cestu k pravdě, musíme se i v krizi vyvarovat cenzury. Ředitel Centra pro kyberneticko-sociální dynamiku Kansaské univerzity Prof. John Symons se v rozhovoru s Petrem Šourkem pozastavuje nad tím, jak snadno eurokraté přijímají cenzuru a naivně věří ve svou schopnost rozpoznat vlastnosti pravdivých a lživých tvrzení. Stylem evropských byrokratů uvažují ve Spojených státech "lidé s notebooky", kteří vedou nedemokratické instituce jako korporace nebo univerzity.

"Nejspíš se hned nestrefíme, trochu se v tom budeme motat, ale nakonec přece jen najdeme lepší řešení, když se budeme demokraticky dohadovat, než když budeme jenom poslouchat experty," říká filozof John Symons. "Nechat se řídit vědou je cesta do záhuby. Je to zároveň i eticky vadný postoj, protože ‘věřit vědě’ znamená zříci se odpovědnosti za vlastní rozhodnutí."

Fact-checking se v USA nesetkal s úspěchem. Spíš než se lopotit s vyvracením minulých nepravd, musíme podle Johna Symonse mít odvahu k předpovědím. 

Audio verze rozhovoru je k dispozici v podcastu Odolné společnosti Sylva sylvarum.

Přepis rozhovoru s Johnem Symonsem

Petr Šourek: Mluvím s Johnem Symnonsem, který přiletěl ze Spojených Států, z Kansasu, kde na univerzitě učí filozofii. Vítám tě v Praze, Johne.

John Symons: Díky, Petře. Abych upřesnil, co dělám: jsem profesorem filozofie na Kansaské univerzitě a tam také vedu nové Centrum studia kyberspolečenské dynamiky.

PŠ: Kyber… společenské ….

JS: … dynamiky.

PŠ: To zní jako žhavé téma.

JS: To doufám.

PŠ: Abychom si to trochu přiblížili: týká se to třeba dezinformací v kyberprostoru?

Ptám se takhle, protože jsi v Praze na konferenci [CEDMO], která má problémy s dezinformační propagandou řešit.

JS: To, co děláme, se týká dezinformací, zavádějicích informací, ale také toho, jak designujeme softwarová řešení. Patří tam i tradiční témata etiky umělé inteligence jako předsudky a stereotypy, otázky ochrany soukromí…

V této chvíli se ale koncentrujeme na společenské normy a to, jak je lze ovlivňovat, nebo s nimi pracovat. Přesouváme tak pozornost od jednotlivce, který vyhodnocuje informaci, a jeho osobní přesvědčení a postoje mohou být terčem dezinformátorů. To je řekněme tradiční přístup expertů na boj s dezinformacemi: jak nepřítel může cíleným infomačním tlakem změnit názory jednotlivých občanů a ovlivnit skrze ně veřejné mínění.

My se naproti tomu díváme, jak nepřátelské zásahy mění společenské normy. Právě společenské normy totiž zajišťují fungování institucí. A proto pokud nepřítel atakuje společenské normy, může se mu povést podlomit fungování důležitých institucí.

PŠ: Je to něco podobného, jako když se mluví o klesající důvěře ve společenské instituce?

JS: I to je možná perspektiva. Vezměme třeba korupci – vím, že provozuješ korupční cestovku a je to přesně tohle – většina zemí bude mít nějaké zákony proti korupci na úřadech, ale mít zákony nebo pravidla nestačí, potřebujeme k tomu ještě normy, které nám zajistí, že se podle těch pravidel a zákonů bude někdo také chovat.

Takže pokud platí společenská norma, že uplácet na úřadech je normální, pak je jedno, co se píše v zákonech, a dokonce to vyruší i náš morální odsudek korupce. Jsem si jistý, že i v těch nejzkorumpovanějších zemích třeba východní Evropy, lidé považují úplatkářství za amorální, a stejně – jak na to upozorňuje filozofka Cristina Bicchieri – společenské normy v takových situacích přebíjejí etické zásady.

Sice si myslíš, že není etické šoupnout obálku úředníkovi, aby uspíšil rozhodnutí v tvůj prospěch, ale kladeš si ještě dvě další otázky:

Zaprvé: dělají to tak všichni? Předpokládám, že ano, každý na mém místě by to udělal – to je empirické očekávání.

A pak je tu normativní očekávání: pokud to udělám, nikdo se na mě kvůli tomu nebude dívat zvlášť zle.

Empirické a normativní očekávání tedy podemílá zákonnou regulaci. Zase si to půjčuji od Cristiny Bicchieri: tahle očekávání jsou důvodem, proč se chováme podle společenských norem.

PŠ: Jsou společenské normy morálka v praxi?

JS: Těsně vedle. Existují také společenské normy, které se s morálními nekryjí. Proto je mezi nimi rozdíl.

Například v západních zemích nevěsty nosí bílé šaty. Pokud by nevěsta měla jinou barvu šatů, určitě to nikdo nebude považovat za morálně odsouzeníhodné. Nicméně i tak v převážně křesťanských společnostech nevěsty oblékají bílou. Proč se tím zvykem řídí? Jednak proto, že si myslí, že se to tak dělá - tedy že to tak každý dělá. A krom toho si myslí, že když nebudou mít bílé šaty, budou to lidé považovat ze směšné, možná přepjaté, jako že se tím snaží něco říct, nějak se odlišit, možná je to proto, že se musím za něco stydět ze své minulosti…

PŠ: Že za tím něco je, co tím třeba řeším.

JS: Přesně tak. Takže to by byl příklad společenské normy, která se netýká morálky, ale je to víc než pouhá konvence, neutrální pravidlo jako to, že jedu po správné straně silnice. Její naplňování provází pocit, že to musím udělat tak, jak se to dělá, a to na základě očekávání, jak se na mě budou druzí dívat a jak by se druzí chovali na mém místě.

A právě proto jsou společenské normy základem fungování institucí. Díky nim společenské instituce skutečně fungují. A nezáleží na tom, jaké zákony jsme si sepsali, nebo jak mravné máme obyvatelstvo, to je něco jiného.

O společenských normách už přemýšlejí ekonomové, sociologové… My bychom se na ně chtěli podívat z filozofického hlediska a v kontextu toho, co se děje na internetu a na sociálních sítích.

PŠ: Když říkáš, že společenské normy přebíjejí etické normy, napadají mě dynamické případy, kdy si lidé, kteří mají pocit, že obecně dělají hodně dobrého pro společnost (třeba jako zaměstnanci nebo dobrovolníci v charitě) a morálně jsou na tom lépe než ostatní, povolují (jako svého druhu kompenzaci) něco, co je špatné a zlé.

JS: Není to moje tvrzení, že společenské normy obecně přebíjejí etické normy – to říká Cristina Bicchieri – odkazuje přitom na zkušenost.

“Není nereálné, aby mravnost zvítězila nad konvencí, ale zároveň je většinou pravda, že se chováme jako ostatní, abychom nenaráželi.”

Mohli bychom ale klidně říct, že morální princip musí zvítězit nad společenskými normami, že jsme v první řadě povinni udělat to, co je správné, a tahle povinnost jde přes společenské – můžeme-li tomu vůbec tak říkat – “povinnosti”, tedy že naplňování společenských konvencí a norem je druhotné. A určitě si umíme představit člověka, který trvá na tom, že když jde o vyšší mravní princip, musí danou společenskou normu překročit. Čili to není nejen nemyslitelné, ale ani nereálné, aby mravnost zvítězila nad konvencí, ale zároveň je většinou pravda, že se chováme jako ostatní, abychom nenaráželi. Jsme společenští živočichové, a abychom nebyli za potížisty, tak se přizpůsobujeme.

A to je taky ten důvod, proč u nás vítězí společenské normy nad etickými. To nejspíš vedlo také k tomu, jak jsme viděli během pandemie, že se spousta lidí chovala podvojně. Osobně si třeba mysleli, že nošení roušek je pitomost, ale nechtěli si kvůli tomu dělat problémy v rodině, v práci… což je naprosto pochopitelné.

PŠ: A jak sem zapadají hodnoty?

JS: Když ještě zůstaneme u epidemie a podíváme se zpátky, jak jsme uvažovali, jaká hygienická opatření přicházela v úvahu, jak se bude epidemie vyvíjet. Když se podíváme na celou epidemiologickou debatu, musí nám být při pohledu zpátky jasné, to co nám mělo být jasné dávno a celou dobu: že hodnotové soudy jako, kvůli čemu to děláme, o co nám jde a co je pro nás opravdu důležité, jsou obsaženy v samém jádru vědecké práce. Hodnotové úvahy se tak netýkají jenom aplikace vědeckých výsledků, ale podílejí se přímo na formulaci otázek a vzniku vědeckého poznání.

Vezměme například pokusy modelovat epidemii. Pokaždé, když vytváříme model – vědecký model určitého jevu, musíme se rozhodnout, co v něm bude a co ne. To znamená, je to vždy selekce. V modelu nemůže být všechno a dostane se do něj jen to, co považujeme za relevantní. Tedy jde o to, na čem nám skutečně záleží. To pak chceme, aby nám model ukázal. Chceme například ukázat ztracené roky života, nebo kolika lidí se to týká? Dopad nemoci tak můžeme znázornit různým způsobem podle toho, jak model nastavíme.

PŠ: Nějak tak to bylo i u toho slavného, nebo možná spíš neslavně slavného modelu Imperial College London. Když se týmu kolem Neila Fergusona ptali, proč jejich model nějak nezobrazoval negativní dopady lockdownu, odpověděli, že to po nich nikdy nikdo nechtěl.

JS: Přesně to je ono. Model londýnské Imperial College je nejspíš nejdůležitější kus vědeckého softwaru v dějinách lidstva. Zásadním způsobem ovlivnil to, jak jsme nahlíželi na pandemii a jak jsme přemýšleli o způsobech jejího zvládnutí. Když se podíváme, které hodnoty a v jakém intervalu, jsou v tom modelu zahrnuty, ty takzvané parametry...

PŠ: V tom modelu bylo, tuším, 700 parametrů!

JS: Ano, 700.

PŠ: To je množství, které se přece ani nedá ošetřit.

JS: Nejen, že se nedá ošetřit, co je horší, parametry v modelu jsou tak vzájemně provázané, že když chcete, můžete ten model nechat vyrobit naprosto předpojatý výsledek.

PŠ: V mnoha parametrech ICL modelu nebyly žádné změřené hodnoty, jen dosazené. Hodnoty číselné stejně jako ty morální.

JS: Pro přesnost bych posluchače odkázal na článek, který jsme o tom napsali.

PŠ: To je ten článek, co jsi napsal s Ericem Winsbergem o hodnotách zabudovaných do modelů?

JS: Ještě jeden jiný, konkrétně článek o modelu londýnské Imperial College – Softwarové standardy epidemiologických modelů/ Software engineering standards for epidemiological models.

PŠ: To je tedy odkaz pro posluchače, které zajímají konkrétní detaily.

JS: Ale abych shrnul, o co jde: samozřejmě to nemá být kritika modelování jako takového, je naprosto v pořádku, že se pokoušíme model vytvořit, ale nemůžeme přitom přehlížet, jak naše předsudky a představy o světě ovlivňují podobu našich modelů.

Patří k povaze skoro každého epidemiologa nebo epidemioložky, že mají u nemocí velký sklon k předběžné opatrnosti. Protože nechtějí, aby se něco stalo a lidé umírali, představují si vždy ten nejhorší možný scénář. Sklon k předběžné opatrnosti je zabudován do základů epidemiologie a není to kritika epidemiologie nebo epidemiologů, pouze jejich charakteristika.

Poučení konzumenti jejich expertízy s tím musejí počítat – nejen občané, ale především úředníci a politici. Jak se říká, experti jsou tu od vědění, ne od velení. Experti v takových riskantních situacích nemohou sami rozhodovat. Je to naše odpovědnost – musíme umět jejich modely kriticky využívat.

Nestačí věřit vědě. Chovat se jako panstvo, které se jenom veze. Věřit vědě a následovat to, co věda říká, je cesta do záhuby. Je to zároveň i eticky vadný postoj, protože věřit vědě znamená zříci se odpovědnosti za vlastní rozhodnutí.

Podle mě je skutečně klíčové rozlišovat mezi politickou a epistemickou, tedy vědeckou autoritou. Experti v etablovaném vědním oboru a epidemiologie je obor, jehož vědění je do značné míry ustálené, etablované, mají autoritu vědců, kterou je třeba respektovat a jejich názory si vyslechnout. Tento respekt k vědecké autoritě ale v žádném případě neznamená, že bychom na vědce měli překlopit svou odpovědnost, aby rozhodli za nás.

PŠ: Jinak skončíme v epistokracii.

JS: Ano, v literatuře se rozlišuje mezi epistemickou, vědní demokracií a epistokracií. Epistokracie je systém, kde vědění znamená moc, a vědoucí vládnou...

PŠ: Něco jako Baconova Nová Atlantida.

JS: Ano, všechno řídí experti. Naproti tomu epistemická demokracie je odlišný přístup k vědění. Epistemická demokracie vychází z přesvědčení, že demokratické principy, které mnozí z nás vyznáváme a které v klasicky liberálních režimech sajeme s mateřským mlékem, vedou k poznání pravdy. Nejspíš se hned nestrefíme, trochu se v tom budeme motat, ale nakonec přece jen najdeme lepší řešení, když se o tom budeme demokraticky dohadovat, než když budeme jenom poslouchat experty.

Když to tedy vztáhneme zpátky na pandemii: jestli si někdo myslel, že vládnout mají odborníci na epidemie, tak přemýšlel jako epistokrat. Nebezpečí se skrývá v tom, že vědecká zkoumání jsou vždy ovlivněna hodnotami těch, kdo je dělají. A když přenecháme rozhodnutí expertům, maskujeme tím fakt, že ve vědě je zabudována spousta politiky.

To bychom si neměli skrývat. Nikdy jsme si to neměli skrývat. Měli bychom o tom naopak otevřeně debatovat. U epidemie jsme měli diskutovat, jestli jsme jako společnost ochotni platit daň v podobě ztraceného vzdělání, zhoršení života mladých lidí nebo dětí jenom proto, abychom za to získali nepatrné množství ochrany seniorů.

To jsou otevřené hodnotové otázky. A je zcela legitimní, když se neshodneme. Byly náklady protiepidemických opatření, které nesly děti, vyváženy potenciálním ziskem pro starší a nemocné lidi? Nepříjemná hodnotová otázka, nepříjemná debata, do které se politici neměli odvahu pustit. A když nemáte odvahu jít do debaty, celkem se vám hodí, že můžete problém převelet na tu Vědu s velkým V. A to bylo fundamentální selhání lidí, kteří měli naše západní společnosti v krizi vést.

PŠ: Teď jsme uprostřed další krize. A je tu určité nebezpečí, že budeme stejné chyby opakovat... Ty jsi tak trochu nasál místní atmosféru na konferenci CEDMO –Středoevropské observatoře digitálních médií a zajímalo by mě, jak se na témata konference – tedy boj proti dezinformacím a nepřátelské propagandě díváš z americké perspektivy. Co je podle tebe v Evropě jinak než v Americe?

JS: Jeden z křiklavých rozdílů pro mě byl jakási shoda napříč skupinou lidí, kteří se sešli tady v Praze na konferenci Středoevropské observatoře digitálních médií – CEDMO, že administrativní nebo řídící složky dokážou přesně vydefinovat vlastnosti pravdivých a nepravdivých sdělení. To tam bylo poměrně citelné.

Ta představa, že dokážeme ověřovat faktickou správnost informací, je sama o sobě velice sporná, ale dokonce i kdyby člověk věřil, že má takové ověřování faktů nakonec smysl a mohu se podle něj řídit, představa, že mohu ověřováním faktů pověřit úřady nebo nějaké vládní instituce, se hluboce příčí americkému politickému nastavení.

PŠ: A co ověřování faktů třetí stranou - to je něco, čeho se nechtějí pustit.

JS: Co se týče ověřování fakt třetí stranou: když se jedná o vysoce sporné opatření opřené o multidisciplinární vědecké výsledky, nebo o krizovou situaci, které se vyvíjí a musíme ji pravidelně monitorovat, nebo v případech, kdy pracujeme s informacemi, které jsou zprostředkované, závisí na výpočetních nástrojích a kapacitách, dostupných datech a počítačových modelech, do jejichž vnitřností není příliš dobře vidět, v takových případech se nedá říct, co jsou fakta, fakta se každou chvíli mění a my můžeme nanejvýš říct, že tohle tak zhruba víme teď a musíme se na základě toho nějak rozhodnout.

Nedá se proto snadno mluvit o faktech – s pojmem faktu je třeba zacházet opatrněji.

Myslím, že tu pozorujeme i určitou lenost, lenost v tom smyslu, že se outsourcuje epistemická autorita. Lidé říkají: nemám moc času, nemám čas číst vědecké časopisy, chci prostě vědět, co k tomu říká špičková věda. Takhle to ale nejde, nemůžeme se zbavit odpovědnosti za to, co konzumujeme. Není to stejná odpovědnost, jakou mají vědci, ale přece jen musíme tomu, podle čeho se řídíme, nějak rozumět.

Nebezpečí vidím právě v tom, že zaměňujeme dva druhy autority. Tedy že politickou autoritu nahradíme autoritou apistemickou a oháníme se tím, že se řídíme vědou. Politická autorita – legitimní politická autorita se zakládá na souhlasu těch, kterým vládnu. Epistemická autorita je jiná záležitost a ve chvíli, kdy na ni převádím svá rozhodnutí, tak jsem de facto abdikoval a tvářím se, že vůbec nejsem politik, což je podle mě morálně vadné.

PŠ: Když se vrátíme k problémům, o kterých se mluvilo na konferenci CEDMO, jaký přístup by převažoval ve Spojených státech?

JS: Spojené státy mají přece jen dost odlišné vstupní podmínky. Je to jedna země s kontinentálními rozměry a 330 miliony lidí. Díky ústavně garantovaným svobodám se u nás nedá aktivně cenzurovat nebo nějakým zákonem omezit svobodu slova...

PŠ: Chceš tím říct, že lidé na této konferenci k tomu měli sklon?

JS: Bylo to tam… a v Evropě se v každém případě přijímá cenzura různých druhů projevu, je zabudovaná do evropského zákonodárství. Ale navíc tu panuje i takový postoj k cenzuře. Když se člověk ohradí proti tomu, že mu něco zablokovali a zcenzurovali, odpověď zní: každá platforma si to hlídá, vždycky je tu nějaký filtr. Rovnou se předpokládá, že nějaká cenzura už běží a nikdy nemáme zcela svobodný trh s myšlenkami. S takovým předpokladem pak jsou účastníci debat (jako ty na konferenci CEDMO) ochotni snášet úroveň cenzury ze strany vlády a různých složek státní správy, jaká by ve Spojených státech nebyla prakticky možná, ať už by to bylo lepší nebo horší, já myslím, že v tomto případě lepší. A ve vztahu k velkým politickým tématům…

PŠ: Ten předpoklad vytváří hodnotový rámec?

JS: Jo, jo, jo, myslím, že se to dotýká základních politických hodnot. Ale i kdybychom zůstali na úrovni konkrétních jevů, takhle intenzivní politická intervence by nebyla ve Spojených státech realizovatelná, proveditelná. My bychom to prostě…

PŠ: Neakceptovali.

JS: Ano, protože je to prostě protiústavní.

Podobný přístup bychom v Americe viděli v nedemokratických institucích – v korporacích, na univerzitách… Tam to bylo i velice dobře vidět během covidu, jak se lidé v jejich čele nekriticky odvolávali na různá nařízení a zbavovali se tím odpovědnosti za řízení. Mohli bychom to označit za čínský model vládnutí.

Zatímco lidé v USA reagovali na různé způsoby a byl to slepenec všeho možného, shoda panovala právě v organizacích jako The New York Times, National Public Radio a napříč třídou administrativních vedoucích pracovníků, těch “lidí s notebooky”, jak se jim říká, kteří řídí nedemokratické instituce.

PŠ: Zkrátka korporace…

JS: Ano, tam to bylo nejsilnější – to slepé věříme Vědě, následujeme Vědu, řídíme se Vědou.

PŠ: Je to ideologie – korporativismus, mohli bychom to označit za čínský model?

JS: Také veřejně obdivovali čínské řešení covidu. Ale co bylo skutečně zarážející: ta míra shody napříč třídou byrokratických elit! Přitom když se podíváme na celou společnost, názorů a postojů bylo v americké společnosti prakticky nepočítaně.

Co se tedy dělo a děje v Americe v nedemokratickém, korporátním prostředí, se podobá uvažování v rámci evropských byrokratických struktur, jak to bylo slyšet i na této konferenci CEDMO.

PŠ: Co tedy funguje v amerických poměrech lépe?

JS: Máme u nás také dost organizací, které se věnují ověřování fakt, nicméně – jak dobře víš – konzervativní část veřejnosti těmto fack-checkerům obecně nevěří. Mainstreamová média se pokoušejí dát dohromady seznamy věcí, které jsou pravda, nebo ne, ale vůbec se to nesetkalo s úspěchem.

Existují ovšem i pozitivní případy. Na webu běhá spousta podvrhů. Máme ale i stránky jako třeba snopes.com, kam se úplně obyčejní uživatelé facebooku (tvoje babička nebo teta) podívají, když se jim něco nezdá. A tak to podle mě může docela dobře fungovat - jako soukromá, dobrovolná iniciativa, kde jsou hlavním motorem uživatelé sami, a je to konkurenční prostředí, takže také svobodné tržiště idejí.

PŠ: Kompetitivní fact-checking?

JS: Ano, to celkem funguje. Ale my s kolegy navrhujeme se zaměřit jiným směrem. Spíš než ověřovat fakta a poukazovat na nepravdy vidíme perspektivu v předvídání budoucnosti. Predikce jsou mnohem méně problematické než fact-checking. U fact-checkingu to mají různí pochybovači nakonec celkem snadné. Můžeme se donekonečna dohadovat, co se stalo v Doněcku nebo Luhansku. A nikam to nevede.

Naproti tomu předpověď má zcela jiný epistemický charakter. Abychom vůbec mohli udělat předpověď, musíme se shodnout na tom, kdy se naplní a kdy ne, kdy bude pravdivá, jinak by to nebyla předpověď. A tím automaticky vytváříme jistou shodu, společnou půdu.

PŠ: Je to jako v sázení. Musíme se shodnout, v čem je spor.

JS: Ano, například když šel Blinken až tak daleko, že v televizi řekl “Zítra Rusko napadne Ukrajinu”. Vypadalo to jako velmi riskantní krok, že dává hlavu na špalek. Ale když se ukázalo, že se nemýlil, neuvěřitelně to posílilo jeho kredibilitu.

Jde o jasný, nezpochybnitelný úspěch ve vztahu k budoucnosti proti tomu nekonečnému, lopotnému a ne moc úspěšnému vyvracení minulých nepravd. Fact-checking vychází z představy, že je tu nějaká suma přijatých skutečností, na které se stačí odkázat. Predikce má jiný charakter, působí na vás zcela jinak, nemám na to zatím žádnou velkou teorii, proč to tak je.

PŠ: Ano, pocit z predikce je zcela jiný. Mluvili jsme o tom, jak politici přenášeli odpovědnost za svá rozhodnutí na vědu, kdežto tady ten, kdo dělá predikci, na sebe bere odpovědnost za to, co říká.

JS: Ano, to bude ono.