Responsabilitatea ca cenzura online

Probabil că fără norme imperative omenirea ar fi rămas la legea talionului... Normele sunt utile, pentru că... oamenii sunt oameni; unii oameni au parte de educație, alții nu s.a.m.d. – fiecare e unic, cum se spune. Cu sau fără educație, normele imperative au fost și vor fi mereu încălcate de cei care pot (și vor) să ardă etape pentru a-și atinge scopurile.

Începând cu anul 2020 a devenit foarte vizibil – de notorietate, aș zice – modul în care companiile de social media moderează conținutul utilizatorilor, și această moderare este impusă, în general, de guvernele diferitelor state... în interes public (afirmă autoritățile). Se ajunge, astfel, la dileme critice privind drepturile omului, în special dreptul la liberă exprimare.

Reglementarea mediului online

Pentru a impune responsabilitatea, multe guverne (din aproape toate statele) au început să reglementeze conținutul online – există cel puțin patruzeci de legi pentru platformele sociale, adoptate la nivel mondial în ultimii patru-cinci ani și alte zeci sunt în discuție. Această reglementare e o tendința îngrijorătoare, din punct de vedere al reprezentanților Națiunilor Unite pentru Drepturile Omului, și poate avea consecințe nefaste imense pentru dezbaterea și participarea publică.

Guvernele răspund presiunii publice cu soluții simple pentru probleme complexe. Cenzura e cel mai simplu mod de a împiedica ceva să fie adus la cunoștința publicului, dar politicienii (și nu doar ei) numesc această formă de cenzură responsabilitate pentru binele public. Unele guverne iau această legislație ca pe un mod de a limita discursul care nu le e pe plac și pot reduce la tăcere societatea civilă și orice alți critici.

Multe legi de reglementare a Internetului, făcute la repezeală, nu definesc fără echivoc ce înseamnă conținut ilegal sau dăunător; definesc vag ce înseamnă discurs care subminează ordinea publică, decența, moralitatea, suveranitatea, integritatea și securitatea statului. Se pune accent excesiv pe eliminarea conținutului, pe limitarea supravegherii judiciare, pe inteligența artificială sau algoritmi.

Prin aceste legi se pretind mecanisme de raportare ale utilizatorilor, mecanisme ce pot fi utilizate abuziv și de susținătorii partizani ai unui guvern pentru a fi eliminate comentariile critice, iar autorii comentariilor, discursurilor etc. sunt lipsiți de o cale juridică de atac în unele legislații.

Companiile de social media au parte de reacții dure, uneori, din partea unor guverne, când cenzurează/șterg – conform propriilor termeni și condiții - discursul unui politician care incită la ură, de exemplu; riscă suspendarea pe termen nedeterminat a unei rețele sau alta, având de pierdut toți utilizatorii de bună-credință. Prin astfel de blocaje se limitează capacitatea oamenilor de-a avea acces la informații, dar afectează în multe cazuri munca, sănătatea și educația, costurile economice fiind uriașe, subminând chiar dezvoltarea unei economii.

Cu unele excepții, pozitive, nevoia de a reglementa industria tehnologiei informației în ceea ce privește problemele reale precum criminalitatea gravă, extremismul, hărțuirea online, informațiile false, rasismul, practicile de manipulare a pieței etc., este exploatată pentru a submina libertatea de exprimare și pentru a obține acces mai mare la datele private. Multe legi au impus sectorului privat cerințe de cenzură și de colectare a datelor excesiv de largi. Practicile monopoliste în privința colectării de date (în special, dar nu numai) nu fac subiectul acestui text.

Unele legi sunt concepute pentru a suprima conținutul critic la adresa guvernului, mai degrabă decât pentru a proteja utilizatorii de materialele dăunătoare. Altele diminuează standardele procesului echitabil eliminând necesitatea unei hotărâri judecătorești sau impunând utilizarea inteligenței artificiale (AI) pentru eliminarea conținutului, ambele putând duce la daune colaterale semnificative pentru exprimarea politică, socială și religioasă.

Presiunea exercitată de unele guverne împotriva criptării datelor, care este o măsură esențială pentru confidențialitatea datelor și securitatea cibernetică, dar și un instrument esențial pentru jurnaliștii de investigații, pentru apărătorii drepturilor omului în întreaga lume, poate pune în pericol nu doar democrația, informarea, ci și integritatea, viața activiștilor.

Un număr tot mai mare de legi facilitează supravegherea guvernamentală subminând criptarea și obligând platformele să stocheze datele utilizatorilor pe servere din țară, cerință care face ca datele utilizatorilor să fie vulnerabile din cauza setărilor cu standarde slabe de siguranță ale statului în cauză și care face mai dificilă sarcina companiilor de a oferi servicii transnaționale cu puternice caracteristici de securitate cibernetică.

Reglementarea ar trebui să asigure că puterea nu se acumulează în mâinile câtorva actori dominanți, fie guvern, fie sectorul privat. Motivația pentru o mai mare reglementare crește riscul ca în loc să reducă și să descentralizeze puterea companiilor din industria tehnologiei informației, guvernele să încerce să o folosească în propriile scopuri, încălcând drepturilor utilizatorilor.

Reprezentanții statelor autoritariste, totalitare, afirmă de mulți ani că drepturile omului sunt un moft, că un popor nu poate fi pus la respect decât cu mână de fier.

Libera exprimare este supusă unei presiuni fără precedent în întreaga lume, susțin cei de la Freedom House, Citizen Lab, Amnesty Internațional.

Multe guverne încălcă regulile unui stat de drept și, prin diferite programe/aplicații, monitorizează conversațiile private când vor, extrăgând de pe dispozitivele personale ale celor vizați inclusiv fotografii, folosindu-le în contexte care pot aduce inclusiv condamnări penale, deși inițial sunt chestiuni nevinovate, dar astfel pot fi reduse la tăcere vocile care vorbesc împotriva guvernanților autoritari, dictatoriali.

Impactul reglementărilor asupra drepturilor omului variază de la o țară la alta. În democrațiile consolidate, cerințele bine elaborate pentru platforme au potențialul de a atenua daunele online, consolidând în același timp transparența și responsabilitatea. Cu toate acestea, legi similare pot fi utilizate abuziv de politicieni autoritari pentru a elimina discursul politic, social și religios nonviolent.

Acolo unde lipsește controlul și echilibrul democratic, oficialii guvernamentali vor exploata reglementările pentru a pedepsi orice companie social media care moderează discursul politicienilor sau respinge ordinele arbitrare de a elimina conținut sau de a preda date.

Pericolul pe care îl reprezintă cele mai rele inițiative legislative de reglementare a internetului este imens - dacă puterea reglementării e doar în mâinile statului, capacitatea de a cenzura, supraveghea și manipula oamenii în masă poate facilita corupția politică la scară largă, poate submina procesul democratic și poate reprima vocea oponenților politici și a cetățenilor din populațiile marginalizate, minoritare. Măsurile cele mai problematice pot duce la o cenzură sporită a disidenței politice, a raportărilor de investigații și a exprimării identității etnice, religioase, sexuale sau de gen, în special în rândul comunităților marginalizate.

Combaterea agresivă a ceea ce este înțeles ca fiind conținut dăunător riscă să reducă la tăcere și discursul protejat, discurs care – conform dreptului internațional - ar trebui permis. Intervenția în conținut, eliminarea conținutului, afectează dreptul la libera exprimare, dreptul la confidențialitate și poate duce la cenzură.

Ce este cenzura

Cenzura reprezintă puterea de control asupra conținutului și a împiedicării diseminării informației către public de către un grup de control: guverne, grupuri religioase sau de mass-media. (există și alte forme de cenzură – secrete comerciale, militare, confidențialitate în diverse raporturi s.a., care nu pot fi numite cenzură cât timp rămân în limite rezonabile).

Cenzura poate fi aplicată tipăriturilor, muzicii, teatrului, filmelor, televiziunii, radioului, artei, benzilor desenate, jocurilor video, site-urilor web etc. de o autoritate, cu scopul de a limita sau preveni răspândirea materialelor sau ideilor considerate ilegale, imorale, periculoase, mincinoase, greșite s.a.m.d.

În bătălia cu mize mari dintre state și companiile de tehnologie, drepturile utilizatorilor de internet au devenit principalele victime. Un număr tot mai mare de guverne își afirmă autoritatea asupra firmelor de tehnologie, forțând adesea companiile să respecte cenzura și supravegherea online. Aceste evoluții au contribuit la un atac fără precedent asupra liberei exprimări online, provocând scăderea libertății globale a internetului pentru al 11-lea an consecutiv (afirmă cei de la Freedom House, in 2021).

Începând cu ultimii doi-trei ani autoritățile presupun că toți indivizii, nu doar copiii, sunt vulnerabili și au nevoie de protecția împotriva materialelor ofensatoare și/sau periculoase, indiferent dacă e pornografie, rasism, critică radicală a autorității politice și/sau religioase existente. Altfel spus, prin noile reglementări cerute a fi impuse în mediul online ni se arată că nu se poate avea încredere în indivizi să decidă ce doresc să vadă și să citească sau nu sunt capabili să își formeze liber opiniile.

Cenzura poate avea aspecte profund intruzive, putând fi folosită pentru a controla libertatea de exprimare și de gândire a individului, pentru a schimba conștiințele în masă sau pentru a asigura întâietatea mesajului propagandistic.

Cenzura există în statele totalitare și în statele democratice, în comunism și în capitalism. A existat în trecut, există în prezent și – în mod cert – va exista în viitor.

Există – întotdeauna au existat și vor exista – indivizi care cred că cenzura e o metodă utilă – și de dorit – pentru a apăra valorile societății (valori care par că trebuie să fie identice pentru toată suflarea). Poate mai mult ca niciodată, cenzura este azi folosită în special de guvernele autoritare, de unele grupuri religioase dar și de corporații ca un mijloc prin care pot obține și păstra puterea.

Cenzura, care a fost întotdeauna o metodă de a controla fluxul de informații și ideile cetățenilor, a ajuns să fie considerată și folosită ca instrument de represiune.

La voia algoritmilor

Când cineva postează sau caută conținut pe platformele online, o companie gestionează acel proces și decide cum sunt stocate și puse la dispoziție informațiile și în ce ordine apar.

Pe măsură ce tot mai mulți oameni folosesc internetul pentru a accesa informații, pentru a-și exprima opiniile, a protesta și a mobiliza pe alții, modul în care platformele private și statele restricționează sau stimulează conținutul online are consecințe imense pentru dezbaterea publică și participarea publică.

Utilizarea tot mai frecventă a algoritmilor pentru a modera conținutul poate duce la ștergerea conținutului jurnaliștilor, activiștilor, a discursurilor care nu încălca regulile unei platforme online sau a legislației cu privire la discriminare, incitare la violență etc. Algoritmii fac erori frecvente.

Interzicerea conținutului periculos în sine este contrară standardelor de exprimare liberă, cât și imposibil de realizat la scară globală. Unii își imaginează că pot împiedica diseminarea conținutului periculos prin implementarea unor algoritmi care să purifice conținutul nepotrivit. Algoritmul e scris de oameni (inițial) și este o succesiune de activități / operațiuni ce trebuie efectuate într-o anumită ordine pentru a se ajunge la un rezultat dorit. Oamenii sunt supuși greșelii, algoritmii cu atât mai mult (să zic așa).

Cum poate fi diminuată dezinformarea din conținutul online? Pare destul de simplu, dacă e să cred ce a scris Alex Campbell în Just Security:

În absența datelor detaliate despre convingerile politice ale utilizatorilor, vârsta, locația și sexul care ghidează în prezent reclamele și conținutul sugerat, dezinformarea are șanse mai mari de a se pierde în zgomot.

Alături de dezinformare se pot pierde în zgomot discursurile care incită la ură, extremismul s.a.m.d. Practic, platformele online, alcătuiesc profilul utilizatorului în baza diferitelor date: personale, vizualizări precedente, intervenții/comentarii ici-colo, cumpărături etc., apoi redirecționează / sugerează anumite reclame, anumit conținut către acești utilizatori. Eliminarea acestor recomandări (prin redirecționări făcute algoritmic), ar putea diminua răspândirea unui anumit gen de conținut în funcție de profilul utilizatorului).

Așa cum stau lucrurile acum, companiile de publicitate, platformele de socializare sunt libere să colecteze practic orice informații doresc și să le folosească oricum le avantajează rezultatul final.

Reglementarea e utilă - in unele cazuri se impune cu necesitate - dar nu cu încălcarea unor drepturi si libertăți fundamentale. Doar că... cine vrea să facă rău are o mulțime de metode. Cu toate normele imperative existente in mediul fizic asistăm la o mulțime de încălcări cu rezultate dezastruoase. De ce ar crede cineva că va fi diferit in "lumea Internetului"?

Controlul conținutului pe bază de algoritmi nu mi se pare fiabil – în sensul că vor exista prea multe erori, existând riscul să dispară conținut care, în mod obișnuit, se bucură de protecția legii în ceea ce privește libertatea de exprimare (în primul rând). Cum va fi "definit" in algoritm "conținutul dăunător/indecent" etc.? Sunt noțiuni relative.

Mai multe pe temă:

https://web.mit.edu/gtmarx/www/cenandsec.html

https://freedomhouse.org/report/freedom-net/2021/global-drive-control-big-tech

(cu exemple de abuzuri, metode de control și acces ilegal la datele utilizatorilor)

Imagine de Gerd Altmann de la Pixabay

În spatele măștii. Clickbait

Lăsând doar imaginile în postare s-ar fi putut spune că titlul (prima parte) este din genul celor „clickbait” = clic momeală = titlu înșelător.

Ce se ascunde în spatele măștii?

Imaginea sub efect „caleidoscop”:

Ceva natural, dar nu senzațional, se află in spatele măștii:

Sub exact același efect „caleidoscop”:

Oamenii – în marea lor majoritate – sunt la fel de curioși precum pisicile (dar nu la fel de drăgălași). Specialiștii în vânzări profită de această curiozitate, pe lângă alte trăsături psihologice pe care le iau în calcul când vor să vândă ceva, când vor să atragă trafic pe site-urile lor etc.. Și așa s-a inventat termenul „clickbait” = clic momeală. Așa cum pescarul oferă peștilor ceea ce peștii cred că vor să înghită și agenții de publicitate oferă utilizatorilor de Internet ceea ce speră ca aceștia să înghită: despre politică, sexualitate, frumusețe, sănătate, succes profesional, câștiguri bănești facile etc.

Ce este „clickbait și unde e întâlnit

Clickbait e o practică („strategie de marketing” ar zice unii!) prin care utilizatorii sunt atrași cu titluri „explozive” menite să manipuleze emoțiile, să incite curiozitatea: nu o să crezi!, nu vei ghici niciodată ce s-a întâmplat în continuare!; vei fi revoltat aflând ce s-a întâmplat cu acest copil!; acest bărbat a găsit un plic sigilat – e incredibil ce a găsit în el! și tot așa. În loc să prezinte fapte titlurile clickbait se adresează în special emoțiilor, curiozității utilizatorului, dar și lăcomiei acestuia.

În titluri sunt oferite câteva informații care să suscite curiozitatea, dar nu suficiente pentru a o satisface fără accesarea conținutului spre care duce link-ul.

Practica aceasta a clickbait-ului poate fi întâlnită azi aproape pretutindeni (și nu doar online), dar ziarele și revistele tabloide, emisiunile de televiziune tabloide care se bazează mai mult pe senzațional folosesc în mod regulat această practică.

Această cultură tabloid înfloritoare a desființat vechile definiții ale știrilor, incluzând povești nebunești și senzaționale despre celebrități de dragul profitului, afirmă un editorialist de la Washington Post.

Se consideră că această practică a clickbait-ului derivă din așa-numitul „jurnalism galben” (yellow journalism) sau „jurnalism de tabloid”, caracteristic în general tabloidelor, dar folosită și prin alte ziare, reviste etc. încă din secolul al XIX-lea (cândva prin 1890 ar fi fost inventat termenul de „jurnalism galben”).

Jurnalismul de tabloid e acel gen de jurnalism în care sunt prezentate știri puțin sau deloc verificate, unde sunt utilizate titluri scrise cu litere mari în care sunt incluse exagerări sau partea senzațională dintr-un eveniment. Aceste povești/știri senzaționale sunt încadrate în categoria de „jurnalism cu carnetul de cecuri” – reporterii de știri plătesc sursele pentru informațiile oferite dar nu verifică acuratețea acestora, adevărul. Practica este controversată și considerată, în general, lipsită de etică deoarece se poate ajunge la publicarea de acuzații nedovedite mai ales la adresa celebrităților și politicienilor.

Caracteristicile clickbait-ului

O caracteristică definitorie a clickbait-ului este reprezentarea înșelătoare prin care e manipulat utilizatorul să acceseze un anumit conținut. Conținutul la care se poate ajunge accesând un titlu precum Un rege și-a înfometat supușii poate conduce la o informație adevărată. Utilizatorul curios se va gândi aproape imediat la un rege contemporan și va face clic pe link – va afla cum un rege uitat de istorie și-a înfometat supușii... Dacă acel rege a existat cu adevărat nu se poate spune că autorul textului a mințit! A spus un adevăr care nu interesează decât, eventual, istoricii, și a câștigat o mulțime de accesări ale site-ului – ceea ce se traduce prin profit financiar.

Dorința de a afla ceva scandalos, ceva senzațional, ceva inedit îi determină pe unii să acceseze aproape orice! Că dorința rămâne nesatisfăcută în caz de clickbait e altă poveste.

Scopul practicii clickbait

Pe scurt, scopul acestei practici este profitul pentru agențiile de publicitate, pentru vânzători sau prestatori de servicii.

Cu fiecare click făcut site-ul care găzduiește link-ul câștigă bani de la agenții de publicitate dar conținutul e lipsit de valoare, e de calitate îndoielnică. În anumite condiții, în cazul clickbait se poate discuta și despre fraudă.

Clickbait e folosit în principal pentru a genera vizualizări pe site-uri web, fie în scop propriu, fie pentru a crește veniturile din publicitatea online, dar poate fi folosit și pentru atacuri de tip „phishing” cu scopul de a răspândi fișiere rău intenționate sau pentru a sustrage informații despre utilizator – atacul are loc în momentul în care utilizatorul, curios să afle mai multe, deschide link-ul furnizat.

Acele link-uri foarte tentante, pline de „senzațional”, „extraordinar”, „incredibil” etc. și care, de regulă, au valoare mică din punct de vedere al conținutului, îl pot conduce pe utilizator la o pagină unde sunt alte titluri tentante – și el accesează – și tot așa din „tentant” în „tentant”... utilizatorul pierde timp iar agenții de publicitate (și site-urile care găzduiesc link-urile) se aleg cu profit mărit.

Cel care înghite momeala va ajunge la un conținut „învăluit” în reclame – reclamele sunt adevăratul scop al conținutului accesat și, probabil, sunt mulți cei care devin cumpărători pentru cine știe ce; dacă n-ar fi funcționat strategia de clickbait probabil că ar fi dispărut.

Din clickbait câștigă numai agențiile de publicitate și vânzătorii.

Nici nu prea e de mirare că practica aceasta are succes! În fiecare zi suntem bombardați cu informații, instrucțiuni, sfaturi de a cumpăra aia sau aia, de unde e cel mai bine să cumpărăm, unde e cel mai ieftin („compară prețuri!”), fă click aici, află ultimele noutăți, asta trebuie să ai s.a.m.d. încât devine tot mai dificil pentru unii să discearnă ce este cu adevărat util sau are valoare reală. La toată această distragere a atenției mai e și clickbait-ul, care-i face pe unii să citească pagină după pagină de chestiuni irelevante sau dezinformări.

Utilizat cu înțelepciune și cumpătare clickbait poate fi un instrument de marketing eficient, dar când e folosit pentru a umple „golul curiozității” (cum e în majoritatea cazurilor) clickbait e o rețetă pentru dezastru, pentru cei care apelează la această practică din dorința de profit.