Responsabilitatea ca cenzura online

Probabil că fără norme imperative omenirea ar fi rămas la legea talionului... Normele sunt utile, pentru că... oamenii sunt oameni; unii oameni au parte de educație, alții nu s.a.m.d. – fiecare e unic, cum se spune. Cu sau fără educație, normele imperative au fost și vor fi mereu încălcate de cei care pot (și vor) să ardă etape pentru a-și atinge scopurile.

Începând cu anul 2020 a devenit foarte vizibil – de notorietate, aș zice – modul în care companiile de social media moderează conținutul utilizatorilor, și această moderare este impusă, în general, de guvernele diferitelor state... în interes public (afirmă autoritățile). Se ajunge, astfel, la dileme critice privind drepturile omului, în special dreptul la liberă exprimare.

Reglementarea mediului online

Pentru a impune responsabilitatea, multe guverne (din aproape toate statele) au început să reglementeze conținutul online – există cel puțin patruzeci de legi pentru platformele sociale, adoptate la nivel mondial în ultimii patru-cinci ani și alte zeci sunt în discuție. Această reglementare e o tendința îngrijorătoare, din punct de vedere al reprezentanților Națiunilor Unite pentru Drepturile Omului, și poate avea consecințe nefaste imense pentru dezbaterea și participarea publică.

Guvernele răspund presiunii publice cu soluții simple pentru probleme complexe. Cenzura e cel mai simplu mod de a împiedica ceva să fie adus la cunoștința publicului, dar politicienii (și nu doar ei) numesc această formă de cenzură responsabilitate pentru binele public. Unele guverne iau această legislație ca pe un mod de a limita discursul care nu le e pe plac și pot reduce la tăcere societatea civilă și orice alți critici.

Multe legi de reglementare a Internetului, făcute la repezeală, nu definesc fără echivoc ce înseamnă conținut ilegal sau dăunător; definesc vag ce înseamnă discurs care subminează ordinea publică, decența, moralitatea, suveranitatea, integritatea și securitatea statului. Se pune accent excesiv pe eliminarea conținutului, pe limitarea supravegherii judiciare, pe inteligența artificială sau algoritmi.

Prin aceste legi se pretind mecanisme de raportare ale utilizatorilor, mecanisme ce pot fi utilizate abuziv și de susținătorii partizani ai unui guvern pentru a fi eliminate comentariile critice, iar autorii comentariilor, discursurilor etc. sunt lipsiți de o cale juridică de atac în unele legislații.

Companiile de social media au parte de reacții dure, uneori, din partea unor guverne, când cenzurează/șterg – conform propriilor termeni și condiții - discursul unui politician care incită la ură, de exemplu; riscă suspendarea pe termen nedeterminat a unei rețele sau alta, având de pierdut toți utilizatorii de bună-credință. Prin astfel de blocaje se limitează capacitatea oamenilor de-a avea acces la informații, dar afectează în multe cazuri munca, sănătatea și educația, costurile economice fiind uriașe, subminând chiar dezvoltarea unei economii.

Cu unele excepții, pozitive, nevoia de a reglementa industria tehnologiei informației în ceea ce privește problemele reale precum criminalitatea gravă, extremismul, hărțuirea online, informațiile false, rasismul, practicile de manipulare a pieței etc., este exploatată pentru a submina libertatea de exprimare și pentru a obține acces mai mare la datele private. Multe legi au impus sectorului privat cerințe de cenzură și de colectare a datelor excesiv de largi. Practicile monopoliste în privința colectării de date (în special, dar nu numai) nu fac subiectul acestui text.

Unele legi sunt concepute pentru a suprima conținutul critic la adresa guvernului, mai degrabă decât pentru a proteja utilizatorii de materialele dăunătoare. Altele diminuează standardele procesului echitabil eliminând necesitatea unei hotărâri judecătorești sau impunând utilizarea inteligenței artificiale (AI) pentru eliminarea conținutului, ambele putând duce la daune colaterale semnificative pentru exprimarea politică, socială și religioasă.

Presiunea exercitată de unele guverne împotriva criptării datelor, care este o măsură esențială pentru confidențialitatea datelor și securitatea cibernetică, dar și un instrument esențial pentru jurnaliștii de investigații, pentru apărătorii drepturilor omului în întreaga lume, poate pune în pericol nu doar democrația, informarea, ci și integritatea, viața activiștilor.

Un număr tot mai mare de legi facilitează supravegherea guvernamentală subminând criptarea și obligând platformele să stocheze datele utilizatorilor pe servere din țară, cerință care face ca datele utilizatorilor să fie vulnerabile din cauza setărilor cu standarde slabe de siguranță ale statului în cauză și care face mai dificilă sarcina companiilor de a oferi servicii transnaționale cu puternice caracteristici de securitate cibernetică.

Reglementarea ar trebui să asigure că puterea nu se acumulează în mâinile câtorva actori dominanți, fie guvern, fie sectorul privat. Motivația pentru o mai mare reglementare crește riscul ca în loc să reducă și să descentralizeze puterea companiilor din industria tehnologiei informației, guvernele să încerce să o folosească în propriile scopuri, încălcând drepturilor utilizatorilor.

Reprezentanții statelor autoritariste, totalitare, afirmă de mulți ani că drepturile omului sunt un moft, că un popor nu poate fi pus la respect decât cu mână de fier.

Libera exprimare este supusă unei presiuni fără precedent în întreaga lume, susțin cei de la Freedom House, Citizen Lab, Amnesty Internațional.

Multe guverne încălcă regulile unui stat de drept și, prin diferite programe/aplicații, monitorizează conversațiile private când vor, extrăgând de pe dispozitivele personale ale celor vizați inclusiv fotografii, folosindu-le în contexte care pot aduce inclusiv condamnări penale, deși inițial sunt chestiuni nevinovate, dar astfel pot fi reduse la tăcere vocile care vorbesc împotriva guvernanților autoritari, dictatoriali.

Impactul reglementărilor asupra drepturilor omului variază de la o țară la alta. În democrațiile consolidate, cerințele bine elaborate pentru platforme au potențialul de a atenua daunele online, consolidând în același timp transparența și responsabilitatea. Cu toate acestea, legi similare pot fi utilizate abuziv de politicieni autoritari pentru a elimina discursul politic, social și religios nonviolent.

Acolo unde lipsește controlul și echilibrul democratic, oficialii guvernamentali vor exploata reglementările pentru a pedepsi orice companie social media care moderează discursul politicienilor sau respinge ordinele arbitrare de a elimina conținut sau de a preda date.

Pericolul pe care îl reprezintă cele mai rele inițiative legislative de reglementare a internetului este imens - dacă puterea reglementării e doar în mâinile statului, capacitatea de a cenzura, supraveghea și manipula oamenii în masă poate facilita corupția politică la scară largă, poate submina procesul democratic și poate reprima vocea oponenților politici și a cetățenilor din populațiile marginalizate, minoritare. Măsurile cele mai problematice pot duce la o cenzură sporită a disidenței politice, a raportărilor de investigații și a exprimării identității etnice, religioase, sexuale sau de gen, în special în rândul comunităților marginalizate.

Combaterea agresivă a ceea ce este înțeles ca fiind conținut dăunător riscă să reducă la tăcere și discursul protejat, discurs care – conform dreptului internațional - ar trebui permis. Intervenția în conținut, eliminarea conținutului, afectează dreptul la libera exprimare, dreptul la confidențialitate și poate duce la cenzură.

Ce este cenzura

Cenzura reprezintă puterea de control asupra conținutului și a împiedicării diseminării informației către public de către un grup de control: guverne, grupuri religioase sau de mass-media. (există și alte forme de cenzură – secrete comerciale, militare, confidențialitate în diverse raporturi s.a., care nu pot fi numite cenzură cât timp rămân în limite rezonabile).

Cenzura poate fi aplicată tipăriturilor, muzicii, teatrului, filmelor, televiziunii, radioului, artei, benzilor desenate, jocurilor video, site-urilor web etc. de o autoritate, cu scopul de a limita sau preveni răspândirea materialelor sau ideilor considerate ilegale, imorale, periculoase, mincinoase, greșite s.a.m.d.

În bătălia cu mize mari dintre state și companiile de tehnologie, drepturile utilizatorilor de internet au devenit principalele victime. Un număr tot mai mare de guverne își afirmă autoritatea asupra firmelor de tehnologie, forțând adesea companiile să respecte cenzura și supravegherea online. Aceste evoluții au contribuit la un atac fără precedent asupra liberei exprimări online, provocând scăderea libertății globale a internetului pentru al 11-lea an consecutiv (afirmă cei de la Freedom House, in 2021).

Începând cu ultimii doi-trei ani autoritățile presupun că toți indivizii, nu doar copiii, sunt vulnerabili și au nevoie de protecția împotriva materialelor ofensatoare și/sau periculoase, indiferent dacă e pornografie, rasism, critică radicală a autorității politice și/sau religioase existente. Altfel spus, prin noile reglementări cerute a fi impuse în mediul online ni se arată că nu se poate avea încredere în indivizi să decidă ce doresc să vadă și să citească sau nu sunt capabili să își formeze liber opiniile.

Cenzura poate avea aspecte profund intruzive, putând fi folosită pentru a controla libertatea de exprimare și de gândire a individului, pentru a schimba conștiințele în masă sau pentru a asigura întâietatea mesajului propagandistic.

Cenzura există în statele totalitare și în statele democratice, în comunism și în capitalism. A existat în trecut, există în prezent și – în mod cert – va exista în viitor.

Există – întotdeauna au existat și vor exista – indivizi care cred că cenzura e o metodă utilă – și de dorit – pentru a apăra valorile societății (valori care par că trebuie să fie identice pentru toată suflarea). Poate mai mult ca niciodată, cenzura este azi folosită în special de guvernele autoritare, de unele grupuri religioase dar și de corporații ca un mijloc prin care pot obține și păstra puterea.

Cenzura, care a fost întotdeauna o metodă de a controla fluxul de informații și ideile cetățenilor, a ajuns să fie considerată și folosită ca instrument de represiune.

La voia algoritmilor

Când cineva postează sau caută conținut pe platformele online, o companie gestionează acel proces și decide cum sunt stocate și puse la dispoziție informațiile și în ce ordine apar.

Pe măsură ce tot mai mulți oameni folosesc internetul pentru a accesa informații, pentru a-și exprima opiniile, a protesta și a mobiliza pe alții, modul în care platformele private și statele restricționează sau stimulează conținutul online are consecințe imense pentru dezbaterea publică și participarea publică.

Utilizarea tot mai frecventă a algoritmilor pentru a modera conținutul poate duce la ștergerea conținutului jurnaliștilor, activiștilor, a discursurilor care nu încălca regulile unei platforme online sau a legislației cu privire la discriminare, incitare la violență etc. Algoritmii fac erori frecvente.

Interzicerea conținutului periculos în sine este contrară standardelor de exprimare liberă, cât și imposibil de realizat la scară globală. Unii își imaginează că pot împiedica diseminarea conținutului periculos prin implementarea unor algoritmi care să purifice conținutul nepotrivit. Algoritmul e scris de oameni (inițial) și este o succesiune de activități / operațiuni ce trebuie efectuate într-o anumită ordine pentru a se ajunge la un rezultat dorit. Oamenii sunt supuși greșelii, algoritmii cu atât mai mult (să zic așa).

Cum poate fi diminuată dezinformarea din conținutul online? Pare destul de simplu, dacă e să cred ce a scris Alex Campbell în Just Security:

În absența datelor detaliate despre convingerile politice ale utilizatorilor, vârsta, locația și sexul care ghidează în prezent reclamele și conținutul sugerat, dezinformarea are șanse mai mari de a se pierde în zgomot.

Alături de dezinformare se pot pierde în zgomot discursurile care incită la ură, extremismul s.a.m.d. Practic, platformele online, alcătuiesc profilul utilizatorului în baza diferitelor date: personale, vizualizări precedente, intervenții/comentarii ici-colo, cumpărături etc., apoi redirecționează / sugerează anumite reclame, anumit conținut către acești utilizatori. Eliminarea acestor recomandări (prin redirecționări făcute algoritmic), ar putea diminua răspândirea unui anumit gen de conținut în funcție de profilul utilizatorului).

Așa cum stau lucrurile acum, companiile de publicitate, platformele de socializare sunt libere să colecteze practic orice informații doresc și să le folosească oricum le avantajează rezultatul final.

Reglementarea e utilă - in unele cazuri se impune cu necesitate - dar nu cu încălcarea unor drepturi si libertăți fundamentale. Doar că... cine vrea să facă rău are o mulțime de metode. Cu toate normele imperative existente in mediul fizic asistăm la o mulțime de încălcări cu rezultate dezastruoase. De ce ar crede cineva că va fi diferit in "lumea Internetului"?

Controlul conținutului pe bază de algoritmi nu mi se pare fiabil – în sensul că vor exista prea multe erori, existând riscul să dispară conținut care, în mod obișnuit, se bucură de protecția legii în ceea ce privește libertatea de exprimare (în primul rând). Cum va fi "definit" in algoritm "conținutul dăunător/indecent" etc.? Sunt noțiuni relative.

Mai multe pe temă:

https://web.mit.edu/gtmarx/www/cenandsec.html

https://freedomhouse.org/report/freedom-net/2021/global-drive-control-big-tech

(cu exemple de abuzuri, metode de control și acces ilegal la datele utilizatorilor)

Imagine de Gerd Altmann de la Pixabay