Probabil
că fără norme imperative omenirea ar fi rămas la legea
talionului... Normele sunt utile,
pentru că... oamenii sunt oameni; unii oameni au parte de educație,
alții nu s.a.m.d. – fiecare e unic, cum se spune. Cu sau fără
educație, normele imperative au fost și vor fi mereu încălcate de
cei care pot (și vor) să ardă etape pentru a-și atinge
scopurile.
Începând
cu anul 2020 a devenit foarte vizibil – de notorietate, aș zice –
modul în care companiile de social media moderează conținutul
utilizatorilor, și această moderare este impusă, în
general, de guvernele diferitelor state... în interes public (afirmă autoritățile). Se ajunge, astfel, la dileme critice
privind drepturile omului, în special dreptul la liberă exprimare.
Reglementarea
mediului online
Pentru
a impune responsabilitatea, multe guverne (din aproape toate statele)
au început să reglementeze conținutul online – există cel puțin
patruzeci de legi pentru platformele sociale, adoptate la nivel
mondial în ultimii patru-cinci ani și alte zeci sunt în discuție. Această
reglementare e o tendința îngrijorătoare, din punct de vedere al
reprezentanților Națiunilor Unite pentru Drepturile Omului, și
poate avea consecințe nefaste imense pentru dezbaterea și
participarea publică.
Guvernele
răspund presiunii publice cu soluții simple pentru probleme
complexe. Cenzura e cel mai simplu mod de a împiedica ceva să fie
adus la cunoștința publicului, dar politicienii (și nu doar ei)
numesc această formă de cenzură responsabilitate pentru binele
public. Unele guverne iau această legislație ca pe un mod de a
limita discursul care nu le e pe plac și pot reduce la tăcere
societatea civilă și orice alți critici.
Multe
legi de reglementare a Internetului, făcute la repezeală, nu
definesc fără echivoc ce înseamnă conținut ilegal sau dăunător;
definesc vag ce înseamnă discurs care subminează ordinea publică,
decența, moralitatea, suveranitatea, integritatea și securitatea
statului. Se pune accent excesiv pe eliminarea conținutului, pe
limitarea supravegherii judiciare, pe inteligența artificială sau
algoritmi.
Prin
aceste legi se pretind mecanisme de raportare ale utilizatorilor,
mecanisme ce pot fi utilizate abuziv și de susținătorii partizani
ai unui guvern pentru a fi eliminate comentariile critice, iar
autorii comentariilor, discursurilor etc. sunt lipsiți de o cale
juridică de atac în unele legislații.
Companiile
de social media au parte de reacții dure, uneori, din partea
unor guverne, când cenzurează/șterg – conform propriilor termeni
și condiții - discursul unui politician care incită la ură, de
exemplu; riscă suspendarea pe termen nedeterminat a unei rețele sau
alta, având de pierdut toți utilizatorii de bună-credință. Prin
astfel de blocaje se limitează capacitatea oamenilor de-a avea acces
la informații, dar afectează în multe cazuri munca, sănătatea și
educația, costurile economice fiind uriașe, subminând chiar
dezvoltarea unei economii.
Cu
unele excepții, pozitive, nevoia de a reglementa industria
tehnologiei informației în ceea ce privește problemele reale
precum criminalitatea gravă, extremismul, hărțuirea online,
informațiile false, rasismul, practicile de manipulare a pieței
etc., este exploatată pentru a submina libertatea de exprimare și
pentru a obține acces mai mare la datele private. Multe legi au
impus sectorului privat cerințe de cenzură și de colectare a
datelor excesiv de largi. Practicile monopoliste în privința
colectării de date (în special, dar nu numai) nu
fac subiectul
acestui
text.
Unele
legi sunt concepute pentru a suprima conținutul critic la adresa
guvernului, mai degrabă decât pentru a proteja utilizatorii de
materialele dăunătoare. Altele diminuează standardele procesului
echitabil eliminând necesitatea unei hotărâri judecătorești sau
impunând utilizarea inteligenței artificiale (AI) pentru eliminarea
conținutului, ambele putând duce la daune colaterale semnificative
pentru exprimarea politică, socială și religioasă.
Presiunea
exercitată de unele guverne împotriva criptării
datelor, care este o măsură
esențială
pentru confidențialitatea datelor și securitatea cibernetică, dar
și un instrument esențial pentru jurnaliștii de investigații,
pentru apărătorii drepturilor omului în întreaga lume, poate pune
în pericol nu doar democrația, informarea, ci și integritatea,
viața activiștilor.
Un
număr tot mai mare de legi facilitează supravegherea guvernamentală
subminând criptarea și obligând platformele să stocheze datele
utilizatorilor pe servere din țară, cerință care face ca datele
utilizatorilor să fie vulnerabile din cauza setărilor cu standarde
slabe de siguranță
ale
statului în cauză
și
care face mai dificilă sarcina companiilor de a oferi servicii
transnaționale cu puternice caracteristici de securitate
cibernetică.
Reglementarea
ar trebui să asigure că puterea nu se acumulează în mâinile
câtorva actori dominanți, fie guvern, fie sectorul privat.
Motivația pentru o mai mare reglementare crește riscul ca în loc
să reducă și să descentralizeze puterea companiilor din industria
tehnologiei informației, guvernele să încerce să o folosească în
propriile scopuri, încălcând drepturilor utilizatorilor.
Reprezentanții
statelor autoritariste, totalitare, afirmă de mulți ani că
drepturile omului sunt un moft, că un popor nu poate fi pus la
respect decât cu mână de fier.
Libera
exprimare este supusă unei presiuni fără precedent în întreaga
lume, susțin cei de la Freedom House, Citizen Lab, Amnesty
Internațional.
Multe
guverne încălcă
regulile
unui stat de drept și, prin diferite programe/aplicații,
monitorizează conversațiile private când vor, extrăgând de pe
dispozitivele personale
ale celor
vizați inclusiv fotografii, folosindu-le în contexte care pot aduce
inclusiv condamnări penale, deși inițial sunt chestiuni
nevinovate, dar astfel pot fi reduse la tăcere vocile care vorbesc
împotriva guvernanților autoritari, dictatoriali.
Impactul
reglementărilor asupra drepturilor omului variază de la o țară la
alta. În democrațiile consolidate, cerințele bine elaborate pentru
platforme au potențialul de a atenua daunele online, consolidând în
același timp transparența și responsabilitatea. Cu toate acestea,
legi similare pot fi utilizate abuziv de politicieni autoritari
pentru a elimina discursul politic, social și religios nonviolent.
Acolo
unde lipsește controlul și echilibrul democratic, oficialii
guvernamentali vor exploata reglementările pentru a pedepsi orice
companie social media care moderează discursul politicienilor
sau respinge ordinele arbitrare de a elimina conținut sau de a preda
date.
Pericolul
pe care îl reprezintă cele mai rele inițiative legislative de
reglementare a internetului este imens - dacă puterea reglementării
e doar în mâinile statului, capacitatea de a cenzura, supraveghea
și manipula oamenii în masă poate facilita corupția politică la
scară largă, poate submina procesul democratic și poate reprima
vocea oponenților politici și a cetățenilor din populațiile
marginalizate, minoritare. Măsurile cele mai problematice pot duce
la o cenzură sporită a disidenței politice, a raportărilor de
investigații și a exprimării identității etnice, religioase,
sexuale sau de gen, în special în rândul comunităților
marginalizate.
Combaterea
agresivă a ceea ce este înțeles ca fiind conținut dăunător riscă să reducă la tăcere și discursul protejat, discurs
care – conform dreptului internațional - ar trebui permis.
Intervenția în conținut, eliminarea conținutului, afectează
dreptul la libera exprimare, dreptul la confidențialitate și poate
duce la cenzură.
Ce este cenzura
Cenzura reprezintă puterea de control
asupra conținutului și a împiedicării diseminării informației
către public de către un grup de control: guverne, grupuri
religioase sau de mass-media. (există și alte forme de cenzură –
secrete comerciale, militare, confidențialitate în diverse
raporturi s.a., care nu pot fi numite cenzură cât timp rămân în
limite rezonabile).
Cenzura poate fi aplicată
tipăriturilor, muzicii, teatrului, filmelor, televiziunii,
radioului, artei, benzilor desenate, jocurilor video, site-urilor web
etc. de o autoritate, cu scopul de a limita sau preveni răspândirea
materialelor sau ideilor considerate ilegale, imorale, periculoase,
mincinoase, greșite s.a.m.d.
În bătălia cu mize mari dintre
state și companiile de tehnologie, drepturile utilizatorilor de
internet au devenit principalele victime. Un număr tot mai mare de
guverne își afirmă autoritatea asupra firmelor de tehnologie,
forțând adesea companiile să respecte cenzura și supravegherea
online. Aceste evoluții au contribuit la un atac fără precedent
asupra liberei exprimări online, provocând scăderea libertății
globale a internetului pentru al 11-lea an consecutiv (afirmă cei de
la Freedom House, in 2021).
Începând cu ultimii doi-trei ani
autoritățile presupun că toți indivizii, nu doar copiii, sunt
vulnerabili și au nevoie de protecția împotriva materialelor
ofensatoare și/sau periculoase, indiferent dacă e pornografie,
rasism, critică radicală a autorității politice și/sau
religioase existente. Altfel spus, prin noile reglementări cerute a
fi impuse în mediul online ni se arată că nu se poate avea
încredere în indivizi să decidă ce doresc să vadă și să
citească sau nu sunt capabili să își formeze liber opiniile.
Cenzura poate avea aspecte profund
intruzive, putând fi folosită pentru a controla libertatea de
exprimare și de gândire a individului, pentru a schimba
conștiințele în masă sau pentru a asigura întâietatea mesajului
propagandistic.
Cenzura există în statele totalitare
și în statele democratice, în comunism și în capitalism. A
existat în trecut, există în prezent și – în mod cert – va
exista în viitor.
Există – întotdeauna au existat și
vor exista – indivizi care cred că cenzura e o metodă utilă –
și de dorit – pentru a apăra valorile societății (valori care
par că trebuie să fie identice pentru toată suflarea). Poate mai
mult ca niciodată, cenzura este azi folosită în special de
guvernele autoritare, de unele grupuri religioase dar și de
corporații ca un mijloc prin care pot obține și păstra puterea.
Cenzura, care a fost întotdeauna o
metodă de a controla fluxul de informații și ideile cetățenilor, a ajuns să fie considerată și folosită ca instrument de
represiune.
La voia algoritmilor
Când cineva postează sau caută
conținut pe platformele online, o companie gestionează acel proces
și decide cum sunt stocate și puse la dispoziție informațiile și
în ce ordine apar.
Pe
măsură ce tot mai mulți oameni folosesc internetul pentru a accesa
informații, pentru a-și exprima opiniile, a protesta și a mobiliza
pe alții, modul în care platformele private și statele
restricționează sau stimulează conținutul online are consecințe
imense pentru dezbaterea publică și participarea publică.
Utilizarea tot mai frecventă a algoritmilor pentru a modera conținutul poate duce la ștergerea conținutului jurnaliștilor, activiștilor, a discursurilor care nu încălca regulile unei platforme online sau a legislației cu privire la discriminare, incitare la violență etc. Algoritmii fac erori frecvente.
Interzicerea
conținutului periculos în sine este contrară standardelor de
exprimare liberă, cât și imposibil de realizat la scară globală.
Unii își imaginează că pot împiedica diseminarea conținutului
periculos prin implementarea unor algoritmi care să purifice conținutul nepotrivit. Algoritmul
e scris de oameni (inițial) și este o
succesiune de activități / operațiuni ce trebuie efectuate într-o
anumită
ordine pentru a se ajunge la un rezultat dorit. Oamenii
sunt supuși greșelii, algoritmii cu atât mai mult (să
zic așa).
Cum
poate fi diminuată dezinformarea din conținutul online? Pare destul
de simplu, dacă e să cred ce a scris Alex Campbell în Just
Security:
În absența datelor detaliate despre convingerile
politice ale utilizatorilor, vârsta, locația și sexul care
ghidează în prezent reclamele și conținutul sugerat,
dezinformarea are șanse mai mari de a se pierde în zgomot.
Alături
de dezinformare se pot pierde în zgomot discursurile care incită la
ură, extremismul s.a.m.d. Practic, platformele online,
alcătuiesc profilul utilizatorului în baza diferitelor date:
personale, vizualizări precedente, intervenții/comentarii ici-colo,
cumpărături
etc., apoi redirecționează / sugerează anumite reclame, anumit
conținut către acești utilizatori. Eliminarea acestor recomandări (prin redirecționări făcute algoritmic),
ar putea diminua răspândirea unui anumit gen de conținut în
funcție de profilul utilizatorului).
Așa
cum stau lucrurile acum, companiile de publicitate, platformele de
socializare sunt libere să colecteze practic orice informații
doresc și să le folosească oricum le avantajează rezultatul
final.
Reglementarea e utilă - in unele cazuri se impune cu necesitate - dar nu cu încălcarea unor drepturi si libertăți fundamentale. Doar că... cine vrea să facă rău are o mulțime de metode. Cu toate normele imperative existente in mediul fizic asistăm la o mulțime de încălcări cu rezultate dezastruoase. De ce ar crede cineva că va fi diferit in "lumea Internetului"?
Controlul conținutului pe bază de algoritmi nu mi se pare fiabil –
în sensul că vor exista prea multe erori, existând riscul să
dispară conținut care, în mod obișnuit, se bucură de protecția
legii în ceea ce privește libertatea de exprimare (în primul
rând). Cum va fi "definit" in algoritm "conținutul dăunător/indecent" etc.? Sunt noțiuni relative.
Mai
multe pe temă:
https://web.mit.edu/gtmarx/www/cenandsec.html
https://freedomhouse.org/report/freedom-net/2021/global-drive-control-big-tech
(cu
exemple de abuzuri, metode de control și acces ilegal la datele
utilizatorilor)
Imagine de
Gerd Altmann de la
Pixabay