Zdieľame: Prístup digitálnych platforiem k neautentickému správaniu
Centrum výnimočnosti NATO pre strategickú komunikáciu: Prístup digitálnych platforiem k neautentickému správaniu
(originálny názov: Social Media Manipulation for Sale: Experiment on Platform Capabilities to Detect and Counter Inauthentic Social Media Engagement)
Centrum výnimočnosti NATO pre strategickú komunikáciu (NATO Stratcom CoE) je medzinárodná organizácia s mnohonárodnou štruktúrou a akreditáciou NATO, ktorá prispieva k zlepšeniu strategických komunikačných kapacít v rámci Aliancie a spojeneckých krajín.
Začiatkom novembra 2024 vydalo NATO Stratcom CoE publikáciu zameranú na skúmanie manipulácie a neautentického správania na sociálnych médiách. Táto správa vyšla v rámci série hodnotení sociálnych médií vykonávaných od roku 2019, ktoré sú zamerané na posudzovanie ich odolnosti proti manipulácií neautentickým správaním. Neautentické správanie označuje klamlivé a manipulatívne aktivity na sociálnych médiách, v tomto kontexte najmä v podobe vytvárania umelých interakcií (komentárov, zdieľaní a podobne) na príspevkoch prostredníctvom automatizovaných botov. Algoritmy sociálnych médií následne obsah s kvantitatívne vyššími interakciami častejšie zobrazujú a ponúkajú skutočným používateľom. V súčasnosti je možné takéto interakcie zakúpiť od viacerých zahraničných poskytovateľov.
V auguste a septembri 2024 uskutočnili autori publikácie experiment s cieľom otestovať odolnosť vybraných sociálnych médií voči takémuto konaniu. Neautentické interakcie boli zakúpené pre celkovo 44 autormi vytvorených príspevkov na falošných účtoch, ktoré si zaregistrovali na vybraných sociálnych médiách. Za necelých 60 € dokázali získať 1150 neautentických komentárov a viac ako 11 700 označení „páči sa mi to“ na platformách Facebook, Instagram, TikTok, X (Twitter), VKontakte a Youtube. Ich odolnosť voči takémuto konaniu bola následne posudzovaná na základe siedmych hodnotiacich kritérií.
| 1. Blokovanie vytvárania neautentických účtov |
| Podľa zistení bola registrácia účtov na väčšine platforiem pomerne jednoduchá a bez výraznejších prekážok, ktoré by zamedzili vytváraniu neautentických účtov. Autori identifikovali komplikácie najmä v technickej rovine. Napríklad registrácia na platforme VKontakte bola možná len prostredníctvom mobilnej aplikácie, ktorá je v niektorých regiónoch nedostupná. Z hodnotených ukazovateľov vyplýva, že platforma Youtube aplikuje väčšiu mieru ochrany a hromadné vytváranie neautentických účtov je na nej náročnejšie v porovnaní s inými. |
| 2. Odstraňovanie neautentických účtov |
| V priebehu štyroch týždňov bolo platformami odstránených v priemere len 15% identifikovaných neautentických účtov, čo je najnižšia miera za posledné dva experimenty (25 % v roku 2021 a 16 % v roku 2022). Výrazný pokles počtov odstránení bol zistený na platformách VKontakte, Youtube a Tiktok, na ktorých boli odstránené len asi 2 %, resp. 3 % účtov. Naopak, najlepšie výsledky vykázala platforma X, kde bolo počas sledovaného obdobia odstránených 50 % falošných účtov. Nízka miera odstraňovania identifikovaných falošných účtov na väčšine platforiem naznačuje pretrvávajúce zraniteľnosti sociálnych médií voči neautentickému správaniu. |
Odstránené neautentické účty počas sledovaného obdobia v rokoch 2021 – 2024.
| 3. Odstraňovanie neautentických interakcií |
| V tejto kategórii dosiahla najlepšie výsledky platforma X, pričom v prípade jedného z príspevkov boli v priebehu 4 týždňov neautentické zdieľania úplne odstránené. Druhou najúspešnejšou platformou bol Youtube. Ostatné platformy mali úspešnosť odstraňovania interakcii nižšiu ako 7%, pričom v niektorých prípadoch nebolo odstránené ani 1 % neautentických interakcií. Celkovo nebolo v sledovanom období 4 týždňov od zakúpenia odstránených asi 86 % neautentických interakcií. |
Percento neautentických aktivít, ktoré zostali na platformách po štyroch týždňoch od zakúpenia.
| 4. Náklady na zakúpenie neautentických interakcií |
| Autori porovnali ceny „balíkov“ neautentických služieb pozostávajúcich zo 100 označení „páči sa mi to“, 100 komentárov, 100 sledovateľov a 1 000 zobrazení od šiestich ruských poskytovateľov. Od roku 2022 sa ceny znížili v prípade všetkých platforiem okrem platformy VKontakte. V tomto roku bol najvýraznejší pokles ceny zaznamenaný v prípade platformy Facebook. Najnižšie ceny zo všetkých sociálnych médií majú neautentické služby pre platformu Instagram. Trendy klesajúcich cien predstavujú hrozbu pre integritu sociálnych médií. |
Vývoj cien za „balíky“ neautentických služieb v rokoch 2018 – 2024.
| 5. Rýchlosť a dostupnosť neautentických interakcií |
| V rámci experimentu bolo zistené, že až 93 % neautentických interakcií sa objavilo na príspevkoch na sledovaných platformách už počas prvých 24 hodín, čo predstavuje mierne zvýšenie oproti roku 2022. Najhoršie výsledky vykázali platformy YouTube a TikTok, ktoré už v priebehu prvých 12 hodín doručili viac ako 100 % očakávaných interakcií. Platforma X vykázala aj v tomto prípade najlepšie výsledky, pričom sa počas prvých 24 hodín objavilo 64% interakcií. |
| 6. Odozva platforiem |
| Autori skontrolovali účty, ktoré nahlasovali v predchádzajúcej štúdií z roku 2022 a zistili, že žiadnej zo sledovaných platforiem z nich sa nepodarilo úplne odstrániť neautentické účty. Za zmienku však stojí platforma X, na ktorej ostalo aktívnych len 11 % účtov, čo je ďaleko najlepší výsledok v porovnaní s ostatnými. Pomalá miera odstraňovania neautentických účtov poukazuje na skutočnosť, že súčasné opatrenia a mechanizmy nie sú dostatočné. |
Percento neautentických účtov, ktoré ostali aktívne aj po nahlásení v roku 2022.
| 7. Transparentnosť |
| Platformy publikujú dáta o odstraňovaní účtov, avšak v rôznej podobe a rozsahu. Kým napríklad TikTok explicitne informuje o odstraňovaní falošných účtov, platformy Youtube a X informujú o odstránených spamových účtoch. Spoločnosť META zasa poskytuje transparentné dáta o platforme Facebook, nie však o Instagrame. Nekonzistentné vykazovanie transparentnosti je prekážkou v úplnom pochopení a boji proti neautentickému správaniu. Bez podrobných a jednotných údajov sa platformy môžu vyhýbať zodpovednosti. |
V porovnaní s rokom 2022 vykazovali sledované platformy rôznu úroveň odolnosti, pričom v rámci niektorých hodnotených kritérií boli zaznamenané menšie zlepšenia. Napriek tomu majú platformy aj naďalej zásadné problémy s účinným bojom proti neautentickému správaniu. Celkové výsledky, ktoré zhodnocujú kumulatívnu úroveň výkonu vo všetkých kritériách ukazuje, že platformy Facebook, X a YouTube vykazujú zlepšenia, platforma Instagram stagnuje a platformy VKontakte a TikTok zaznamenali zhoršené výsledky v porovnaní s predchádzajúcim obdobím. Problematickou je aj skutočnosť, že manipulatívne služby so sociálnymi médiami sa stávajú stále viac dostupnejšími a menej nákladnými.
Celkové zhodnotenie vývoja odolnosti sledovaných platforiem od roku 2019. Hodnotenie je vytvárané základe kumulatívneho výkonu vo všetkých sledovaných kritériách, pričom vyššie skóre znamená lepší výkon.
Experiment poukázal aj na ďalší dôležitý fakt – automatizované neautentické správanie je možné v menšom rozsahu nepozorovane nasadiť takmer na všetkých sledovaných platformách. To môže byť obzvlášť nebezpečné v kontexte zahraničného zasahovania napr. online manipulatívnych kampaní, ktoré sú realizované koordinovane a v menšom rozsahu, cielené napríklad na publikum vo vybranom jazyku. Odolnosť sociálnych médií je preto mimoriadne dôležitá najmä v súvislosti s tzv. koordinovaným neautentickým správaním (Coordinated Inauthentic Behaviour, skr. CIB), prostredníctvom ktorého amplifikujú škodliví aktéri obsah (dezinformačné kampane, FIMI) na online platformách. Štúdie však poukazujú aj na ďalší komerčný nástroj, ktorý je zneužívaný na škodlivé účely. Je ňou platená reklama na sociálnych médiách, ktorá sa popri platenej neautentickej amplifikácií obsahu stala jedným zo základných nástrojov komerčného šírenia dezinformácií, podvodov a iného škodlivého obsahu.
Tieto skutočnosti sú relevantné aj v podmienkach Slovenskej republiky. Ministerstvo vnútra SR preto nedávno iniciovalo spoluprácu so spoločnosťou META v boji proti online podvodom, v rámci ktorej boli nastavené efektívne procesy komunikácie a nahlasovania obsahu. Ambíciou štátnych inštitúcií je v budúcnosti nadväzovať ďalšie strategické spolupráce so správcami digitálnych platforiem a rozširovať možnosti boja proti dezinformáciám, podvodom a akémukoľvek škodlivému konaniu, ktoré ohrozuje občanov SR na internete.
Ďalšie zaujímavé informácie a celú publikáciu nájdete tu.
(dokument je dostupný v anglickom jazyku)
Tag: dezinformácie ,NATO ,zdieľame