Umelá inteligencia (AI) prináša obrovské možnosti. Pomáha pri vzdelávaní, výskume, zdravotníctve, podnikaní aj každodennej práci. Dokáže pripravovať texty, vytvárať obrázky, videá, analyzovať údaje a sprístupňovať informácie rýchlejšie ako kedykoľvek predtým.
Tak ako každá mocná technológia však môže byť využitá aj na manipuláciu – zneužitie. O tom bola aj vážna diskusia členov združenia na poslednom stretnutí. Práve preto sa čoraz častejšie objavuje otázka: Ako ochrániť demokratické rozhodovanie občanov v čase, keď je možné vytvárať presvedčivý obsah takmer bez obmedzení?
Čo sa zmenilo s príchodom umelej inteligencie?
Ešte pred niekoľkými rokmi si vytvorenie rozsiahlej informačnej kampane vyžadovalo veľa času, ľudí a peňazí.
Dnes dokáže umelá inteligencia za niekoľko minút vytvoriť stovky článkov, tisíce príspevkov na sociálnych sieťach, videá, fotografie či hlasové nahrávky napodobňujúce konkrétne osoby.
Samotná technológia nie je problémom. Problémom môže byť jej zneužitie.
Ako možno umelú inteligenciu zneužiť pri referendách?
Predstavme si referendum o spaľovni odpadu, veterných elektrárňach, batériárni alebo inej významnej otázke.
Počas kampane môžu vznikať stovky článkov, videí a príspevkov podporujúcich jednu alebo druhú stranu. Objaviť sa môžu aj zmanipulované fotografie, deepfake videá alebo falošné hlasové nahrávky.
Bežný občan sa môže veľmi ľahko ocitnúť v situácii, keď už nedokáže rozlíšiť, čo vytvoril človek a čo algoritmus.
Dokáže bežný občan overiť všetky informácie?
Buďme úprimní.
Väčšina ľudí chodí do práce, stará sa o rodinu a rieši každodenné povinnosti. Len málokto má čas preverovať desiatky zdrojov a odborných štúdií.
Problémom dneška už nie je nedostatok informácií.
Problémom je ich nadbytok.
Čím viac informácií máme k dispozícii, tým ťažšie je odlíšiť podstatné od nepodstatného a pravdivé od zavádzajúceho.
Čo je občianska rada k referendu?
Občianska rada (oregonského vzoru) je skupina náhodne vybraných občanov, ktorá svojím zložením čo najviac demograficky pripomína spoločnosť ako celok.
Účastníci dostanú rovnaké podklady, vypočujú si zástancov aj odporcov návrhu (referendovej otázky), kladú otázky odborníkom a následne medzi sebou diskutujú. Proces trvá spravidla 2 víkendy.
Výsledkom je stručné a zrozumiteľné odporúčanie s argumentami za a proti pre ostatných občanov, ktoré sa prikladá k ich hlasovacím lístkom.
Úlohou občianskej rady nie je rozhodnúť namiesto občanov.
Úlohou je pomôcť občanom lepšie sa zorientovať pred hlasovaním v referende.
Prečo môžu byť občianske rady odpoveďou na éru umelej inteligencie?
Ak umelá inteligencia dokáže vytvárať obrovské množstvo obsahu, spoločnosť potrebuje mechanizmy, ktoré umožnia dôkladné preverenie argumentov.
Občianska rada predstavuje akýsi ľudský filter dôveryhodnosti.
Jej sila nespočíva v algoritmoch, ale v tom, že skutoční občania diskutujú tvárou v tvár, pýtajú sa odborníkov a spoločne hľadajú najlepšie možné riešenie.
Takýto proces je podstatne odolnejší voči manipulácii než anonymné diskusie na sociálnych sieťach.
Prinúti umelá inteligencia štáty inštitucionalizovať občianske rady?
Po celé desaťročia boli občianske rady vnímané najmä ako zaujímavý demokratický experiment.
Rozvoj umelej inteligencie však môže túto situáciu zmeniť.
Ak bude čoraz jednoduchšie vytvárať presvedčivé informačné kampane a ovplyvňovať verejnú mienku, demokracie budú hľadať nové nástroje na posilnenie dôveryhodnej verejnej diskusie.
Práve občianske rady môžu byť jedným z nich.
Nevychádzajú z algoritmov ani z umelej inteligencie. Ich základom sú skutoční občania, ktorí sa osobne stretávajú, diskutujú a spoločne hľadajú riešenia.
Ak priemyselná revolúcia prispela k rozšíreniu volebného práva, revolúcia umelej inteligencie môže prispieť k postupnej inštitucionalizácii občianskych rád.
Ako chce tento problém riešiť projekt OZ ROBME TO SPRÁVNE?
Aj preto pripravilo občianske združenie ROBME TO SPRÁVNE projekt po získaní grantu zameraný na pilotné overenie občianskej rady k referendu podľa oregonského vzoru v slovenských podmienkach.
Cieľom projektu je otestovať model občianskej rady v praxi, pripraviť metodiku pre samosprávy a vytvoriť odporúčania, ktoré pomôžu občanom robiť informované rozhodnutia aj v čase rastúceho vplyvu umelej inteligencie.
Nejde o nahradenie referenda.
Práve naopak.
Ide o jeho posilnenie.
Ak majú mať občania posledné slovo v rozhodovaní, mali by mať zároveň čo najlepšie podmienky na to, aby sa mohli rozhodovať informovane.
Umelá inteligencia nie je nepriateľom demokracie. Je však technológiou, ktorú možno zneužiť na manipuláciu verejnej mienky v rozsahu, aký bol ešte pred niekoľkými rokmi nepredstaviteľný.
Čím viac obsahu budú vytvárať algoritmy, tým väčšiu hodnotu môže mať stretnutie skutočných občanov, ktorí si navzájom kladú otázky, overujú argumenty a hľadajú riešenia pre svoju obec, kraj alebo štát.
Možno práve preto potrebujeme v ére umelej inteligencie občianske rady k referendám viac než kedykoľvek predtým.