Umelá inteligencia a dezinformácie: stratégia inštitúcií v teste posledných európskych volieb. Využite príležitosti, ktoré ponúkajú technológie AI, aby ste zabezpečili hladký priebeh verejnej účasti a rozhodovacích procesov, počnúc kľúčovým testom tohto týždňových hlasovacích operácií.

Umelá inteligencia AI a dezinformácie, stratégia inštitúcií v teste európskych volieb

Nadchádzajúce voľby do Európskeho parlamentu vyzvú asi 400 miliónov ľudí, aby volili, a sú súčasťou mimoriadne živého roka v globálnom scenári (ktorý sa už nazýva „najvolebnejší v histórii“), s celkovo približne 2 miliardami voličov zapojených do viac ako 50 krajinách.

Ako je známe, národné a nadnárodné inštitúcie sa zamerali na základné riziká, najmä v období pred voľbami, dezinformačných aktivít zvnútra, ale najmä zvonka jednotlivých štátov, Európskej únie alebo Spojených štátov amerických, najmä v súvislosti s tými, ktorí boli páchaní od rozšírenia internetu a digitálnej komunikácie prostredníctvom umelej inteligencie.

V tomto ohľade sa vďaka vývoju generatívnej AI v posledných rokoch rozšírili systémy schopné produkovať vysoko realistický (hlboko falošný) obsah (obrázky, videá a texty): myslite napríklad na re-enactment tváre a pery.

Techniky synchronizácie pomocou ktorých je možné manipulovať s videom tak, aby sa upravili pohyby a výrazy tváre portrétovanej osoby (prípad z novembra 2023 súvisiaci s masívnym šírením videa zobrazujúceho Demokratickú stranu USA na sociálnych sieťach Zástupca Ocasio-Cortez s prejavom, ktorý sa nikdy neuskutočnil, na mimoriadne citlivú tému je dobre známy); alebo na systémy schopné syntetizovať zvukový obsah z textového vstupu (prevod textu na reč) alebo upravovať zvukový obsah takým spôsobom, aby sa doň preniesli vokálne charakteristiky danej osoby (prevod hlasu); alebo napokon do systémov automatizovanej tvorby textov, ktoré sú realistické len naoko.

Umelá inteligencia sa však čoraz častejšie využíva aj na šírenie neinformatívneho obsahu, napríklad prostredníctvom sociálnych botov, falošných účtov spravovaných v automatizovanej forme alebo systémov odporúčaní (systémy odporúčaní alebo odporúčaní), ktoré počnúc údajmi a informáciami zozbieranými na individuálnych preferencií používateľov, môžu predpovedať ich index páči sa mi, pokiaľ ide o nový obsah a prvky (najmä v sociálnych sieťach alebo platformách na zdieľanie videí).

Únia si uvedomuje riziko, že júnové voľby do parlamentu by mohla byť ovplyvnená – slovami podpredsedníčky Európskej komisie pre hodnoty a transparentnosť Very Jurovej – „vlnou dezinformácií“, a preto začala tlačiť veľké technologické spoločnosti, aby podnikli kroky, zabezpečiť demokratickú účasť.

Od 17. februára 2024 je totiž v platnosti nariadenie EÚ 2022/2065 – Zákon o digitálnych službách (DSA), ktorého hlavným cieľom je ochrana spotrebiteľov a ich základných práv v rámci siete.

Nariadenie sa vzťahuje na všetky sprostredkovateľské služby prenosu alebo ukladania informácií (platformy, vyhľadávače, hosting) v rámci Európskej únie. Nariadenie sa zameriava na spoločnosti ako Meta, Google, X Corp a ByteDance, ktoré podliehajú niekoľkým novým povinnostiam, ktoré sa vyznačujú vyššou transparentnosťou v správe platforiem (Facebook, Instagram, X, YouTube, TikTok atď.), najmä pokiaľ ide o prevádzku. algoritmov, rozhodnutia o odstránení obsahu a prispôsobenie reklamy používateľom.

Poskytovatelia služieb tiež musia mať zavedené mechanizmy, ktoré umožnia akejkoľvek osobe alebo subjektu oznámiť prítomnosť potenciálne nezákonných informácií alebo obsahu a akékoľvek obmedzenia musia byť jasne a konkrétne odôvodnené. V prípade preukázaných porušení hrozia pokuty (až do 6 percent z celkového ročného celosvetového obratu spoločnosti), periodické penále (až do 5 percent priemerného denného obratu) a vhodné nápravné opatrenia.

Od nadobudnutia účinnosti legislatívy a ako sa blížia voľby, Európska komisia už formálne otvorila niekoľko konaní na posúdenie možného porušenia DSA , dve z nich proti spoločnosti Meta, poskytovateľovi Facebooku a Instagramu. Prvý, z konca apríla, sa zaoberá práve politickým obsahom: Komisia má podozrenie, že stratégia Meta súvisiaca s jej prístupom k politickému obsahu, ktorý degraduje politický obsah v systéme odporúčaní Instagramu a Facebooku, vrátane ich kanálov, dodržiavať povinnosti DSA.

Vyšetrovanie sa zameria na zlučiteľnosť tohto prístupu s povinnosťami transparentnosti a nápravy zo strany užívateľov, ako aj s požiadavkami na hodnotenie rizík a zmiernenie požiadaviek na občiansky diskurz a volebné procesy. Ďalší uhol vyšetrovania sa týka údajnej nedostupnosti účinného nástroja tretej strany na monitorovanie občianskeho diskurzu a volieb v reálnom čase v období pred európskymi a národnými volebnými operáciami, čo vyplýva z rozhodnutia Meta odmietnuť „CrowdTangle, ” nástroj na verejné štatistiky, ktorý umožňuje výskumníkom, novinárom a občianskej spoločnosti sledovať voľby v reálnom čase.

Za zmienku tiež stojí, že systémy umelej inteligencie nemožno chápať len ako prostriedok na vytváranie a šírenie falošného obsahu, keďže predstavujú aj jeden z hlavných nástrojov boja proti dezinformáciám na webe. Online platformy používajú AI na odhaľovanie falošných profilov (napr. takzvaných „botov“ alebo „trollov“ na webe) monitorovaním ich aktivít a správania prostredníctvom analýzy špecifických ukazovateľov.

Používajú tiež AI na objavovanie falošného alebo manipulovaného obsahu pomocou modelov hlbokého učenia založených na „konvolučných“ neurónových sieťach (CNN).

Inštitúcie a technologické spoločnosti sa preto vyzývajú, aby upravili svoje stratégie boja proti dezinformáciám vo svetle dnešného kontextu: najmä cieľ využiť príležitosti, ktoré ponúkajú technológie umelej inteligencie na zabezpečenie hladkého priebehu verejnej účasti a rozhodovacích procesov, počnúc kľúčový test hlasovacích operácií tento týždeň bude musieť prejsť časom.