Zdieľame: Ako spoznať koordinované neautentické správanie?
EU DisinfoLab: Ako spoznať koordinované neautentické správanie?
(originálny názov: Coordinated Inauthentic Behaviour Detection Tree)
EU Disinfolab je nezávislou organizáciou, ktorá zhromažďuje poznatky a odborné znalosti o dezinformáciách v Európe
Koordinované neautentické správanie (Coordinated Inauthentic Behaviour, skr. CIB) je v súčasnosti stále viac diskutovaným fenoménom a problémom sociálnych sietí. Tejto problematike venujú aj rôzni odborníci bojujúci proti dezinformáciám a manipulácií v online priestore v štátnej správe, či súkromné firmy ako napríklad spoločnosť META (Facebook, Instagram, Whatsapp), ktorá pravidelne publikuje správy s informáciami o odstraňovaní škodlivých sietí CIB zo svojich platforiem. Dnes vám preto predstavíme materiál organizácie EU Disinfolab zameraný na identifikáciu CIB aktivít.
Neexistuje univerzálna definícia CIB, no autori predmetného materiálu ho chápu ako manipulatívnu komunikačnú stratégiu, ktorá je založená na koordinovanom, neorganickom a neautentickom šírení obsahu. Koordinácia spočíva vo vytvorení spolupracujúcej siete subjektov pri šírení obsahu. Neorganickosť odkazuje na fakt, že obsah je šírený a amplifikovaný umelo, pomocou koordinovanej siete a nie prirodzeným spôsobom prostredníctvom bežných používateľov. Prvok neautenticity zasa poukazuje na skutočnosť, že sa zapojení aktéri cielene snažia falšovať svoju skutočnú identitu a motívy. Dôležitou je tiež skutočnosť, že všetky CIB aktivity majú manipulatívny či zavádzajúci zámer.
CIB je často súčasťou širšieho spektra škodlivých aktivít, kolektívne označovaných ako manipulácia s informáciami a zasahovanie zo zahraničia (Foreign Information Manipulation and Interference, skr. FIMI). CIB tak môže byť pomyselnou zbraňou škodlivých aktérov, napríklad v prípade šírenia klamlivých informácií za účelom ovplyvňovania volebných procesov. Pravidlá používania známych sociálnych sietí zakazujú CIB na svojich platformách, avšak nie všetky disponujú špecifickými mechanizmami pre verejnosť na nahlasovanie podozrení na takúto aktivity.
Ako je možné takéto závažné škodlivé aktivity rozpoznať? Publikácia EU Disinfolab prináša aktualizovaný model detekcie CIB.
Hlavné súčasti detekčného modelu CIB od EU Disinfolab (2021)
Dokument vychádza zo série tematických výstupov EU Disinfolab z roku 2021 zameraných na včasnú detekciu CIB aktivít. V novom materiáli sú tieto poznatky sumarizované do jedného, komplexného celku s väčším dôrazom na rolu umelej inteligencie, ktorá sa v tejto súvislosti stáva dvojsečnou zbraňou. Aj keď vývoj AI otvoril nové možnosti tvorby a amplifikácie neautentického obsahu pre rôznych aktérov, nástroje založené na AI technológií môžu uľahčiť a pomôcť odborníkom pri identifikácii CIB aktivít.
Predstavený model detekcie je tvorený hodnoteniami štyroch oblastí:
1. Zhodnotenie koordinácie
V tejto oblasti sa posudzuje prítomnosť koordinácie, teda systematickej organizácie aktivít medzi rôznymi subjektmi CIB, ktoré spolupracujú na dosiahnutí spoločného škodlivého cieľa. Veľkou výzvou je najmä umelá inteligencia, ktorá umožňuje rozsiahle, rýchle a automatizované vytváranie obsahu, napríklad profilov zapojených do siete CIB, čo môže sťažiť detekciu ich vzájomnej koordinácie.
Posudzovať prípadnú koordináciu subjektov na sociálnych sieťach je možné na základe analýzy ich správania sa, sieťovej analýzy, obsahovej analýzy, kontroly ich zverejnených údajov či fotografií a prostredníctvom posúdenia technických parametrov, resp. dostupných metadát.
Faktory, ktoré môžu indikovať prvok koordinácie subjektov na sociálnych sieťach.
2. Zhodnotenie autenticity
Táto oblasť sa venuje najmä pravosti a legitimite subjektov a nimi šírenému obsahu. Neautentické správanie sa predstavuje zavádzajúce prezentovanie sa subjektov s cieľom zatajiť svoju skutočnú identitu a motívy. Podobne ako v predchádzajúcom bode môže AI uľahčiť vytváranie dôveryhodne vyzerajúcich falošných profilov, či falošného pocitu často nadmernej interakcie generovaním komentárov a reakcií na príspevky v rámci CIB siete.
Odhaľovanie neautentického správania v kampaniach CIB zahŕňa kombináciu analýzy správania sa subjektov, ich obsahu, lingvistických prvkov a podobne.
Faktory, ktoré môžu indikovať neautentické správanie na sociálnych sieťach.
3. Zhodnotenie zdroja
Cieľom tejto vetvy je identifikovať zdroj CIB aktivít. Nakoľko hlavným prvkom CIB kampaní je zavádzanie ostatných o tom, kto sú jej prevádzkovatelia a aké sú ich ciele, identifikovať ich zdroj môže byť obzvlášť náročné. Atribuovať škodlivé aktivity konkrétnym aktérom je však kľúčové pre efektívny prístup v budovaní odolnosti a v boji proti škodlivým aktivitám a zasahovaniu zo zahraničia.
Prístup v tejto oblasti kombinuje analýzu správania, sietí, obsahu, metadát a podobne.
Faktory, ktoré môžu pomôcť pri identifikácii zdroja CIB.
4. Zhodnotenie dopadu
Zdieľaný obsah je prostriedkom na dosahovanie manipulatívnych cieľov CIB, pričom ich úspešnosť do veľkej miery závisí práve na amplifikácii obsahu na sociálnych platformách. Pri vyhodnocovaní dopadu sa sledujú najmä všeobecné štatistiky o celkovom počte používateľov, ku ktorým sa zdieľaný obsah dostal a nie len údaje o interakciách (teda zdieľaniach, označení „páči sa mi“ a pod.). V tejto oblasti umožňuje AI možnosti automatizácie tvorby a distribúcie obsahu ako aj jeho profilovanie na cielené publikum.
Obsahové faktory, ktoré môžu indikovať CIB na sociálnych sieťach.
Škodlivé aktivity na sociálnych sieťach nie sú ničím výnimočným ani v slovenskom digitálnom prostredí. Indikátory, resp. náznaky CIB je možné pozorovať napríklad v komentároch pod príspevkami oficiálnych profilov štátnych inštitúcií. Taktiež sú zaevidované systematické snahy neautentických, vzájomne sa podobajúcich profilov, rozširovať negatívny sentiment medzi diskutujúcimi. Za ich aktivitami môže byť snaha o znižovanie dôveryhodnosť štátnych inštitúcií a ich predstaviteľov alebo silových zložiek, ako aj zneužívanie vysokého spoločenského napätia na ďalšiu polarizáciu spoločnosti. Preto je z pohľadu odborníkov potrebné zavádzať do procesov budovania odolnosti inovatívne automatizované detekčné modely škodlivého správania na sociálnych sieťach, ktoré dokážu vierohodne identifikovať a odhaliť škodlivých aktérov a ich aktivity.
Celý dokument nájdete tu.
(dokument je dostupný v anglickom jazyku)
Tag: umelá inteligencia ,zdieľame