CEO-ul Facebook Mark ZUCKERBERG a declarat în fata senatului American în anul 2018 „Nu vedem nimic din conținut în WhatsApp”
Whatsapp foloseste o criptare End-To-End, care convertește toate mesajele într-un format care nu poate fi citit de nimeni. Criptarea se face pe aplicația scriitorului are este deblocat numai atunci când ajung la destinația dorita. Mesajele WhatsApp sunt atât de sigure, a spus el, că nimeni altcineva – nici măcar compania – nu poate citi un cuvânt.
Având în vedere aceste asigurări cuprinzătoare, s-ar putea să fiți surprinși să aflați că WhatsApp are peste 1.000 de lucrători contractuali care umple etajele clădirilor de birouri din Austin, Texas, Dublin și Singapore. Așezați la computerele din poduri organizate în funcție de sarcini, acești lucrători pe oră folosesc software-ul Facebook special pentru a trece prin milioane de mesaje private, imagini și videoclipuri. Ei vad orice mesaj de pe ecran – de la fraudă sau spam la pornografie infantilă și potențiale comploturi teroriste – de obicei în mai puțin de un minut.
Compania spune ca muncitorii au acces doar la anumite mesaje pe WhatsApp – cele semnalate de utilizatori și transmise automat companiei ca fiind posibil abuzive. Revizuirea este un element al unei operațiuni de monitorizare mai ample, în care societatea examinează, de asemenea, materiale care nu sunt criptate, inclusiv date despre expeditor și contul său.
Directorul de comunicare al WhatsApp, Carl Woog, a recunoscut că echipe de contractori din Austin și din alte părți analizează mesajele WhatsApp pentru a identifica și elimina “cei mai răi” abuzatori. Dar Woog a declarat pentru ProPublica că societatea nu consideră această activitate ca fiind moderare de conținut, spunând: “De fapt, nu folosim de obicei acest termen pentru WhatsApp”. Compania a refuzat să pună la dispoziție directorii pentru interviuri pentru acest articol, dar a răspuns la întrebări prin comentarii scrise. “WhatsApp este un colac de salvare pentru milioane de oameni din întreaga lume”, a declarat compania. “Deciziile pe care le luăm în legătură cu modul în care ne construim aplicația se concentrează pe confidențialitatea utilizatorilor noștri, pe menținerea unui grad ridicat de fiabilitate și pe prevenirea abuzurilor.”
Negarea de către WhatsApp a moderării conținutului este vizibil diferită de ceea ce spune Facebook Inc. despre frații corporativi ai WhatsApp, Instagram și Facebook. Compania a declarat că aproximativ 15.000 de moderatori examinează conținutul de pe Facebook și Instagram, niciunul dintre acestea nefiind criptat. Aceasta publică rapoarte de transparență trimestriale care detaliază câte conturi Facebook și Instagram au “acționat” pentru diverse categorii de conținut abuziv. Nu există un astfel de raport pentru WhatsApp.
O investigație a ProPublica, bazată pe date, documente și zeci de interviuri cu actuali și foști angajați și contractori, dezvăluie modul în care, de la achiziționarea WhatsApp în 2014, Facebook a subminat în mod discret garanțiile sale de securitate radicale în mai multe moduri. (Două articole din această vară au remarcat existența moderatorilor WhatsApp, dar s-au concentrat pe condițiile de muncă și pe salariile acestora, mai degrabă decât pe efectul lor asupra confidențialității utilizatorilor. Acest articol este primul care dezvăluie detaliile și amploarea capacității companiei de a examina cu atenție mesajele și datele utilizatorilor – și de a examina ce face compania cu aceste informații).
Multe dintre afirmațiile făcute de moderatorii de conținut care lucrează pentru WhatsApp sunt reluate de o plângere confidențială depusă anul trecut de un denunțător la Comisia pentru valori mobiliare și burse din SUA. Plângerea, pe care ProPublica a obținut-o, detaliază utilizarea extensivă de către WhatsApp a unor contractori externi, a sistemelor de inteligență artificială și a informațiilor din conturi pentru a examina mesajele, imaginile și videoclipurile utilizatorilor. Aceasta susține că afirmațiile companiei cu privire la protejarea confidențialității utilizatorilor sunt false. “Nu am văzut această plângere”, a declarat purtătorul de cuvânt al companiei. SEC nu a luat nicio măsură publică în legătură cu aceasta; un purtător de cuvânt al agenției a refuzat să comenteze.
De asemenea, Facebook Inc. a minimalizat cantitatea de date pe care le colectează de la utilizatorii WhatsApp, ce face cu ele și cât de multe le împărtășește cu autoritățile de aplicare a legii. De exemplu, WhatsApp împărtășește metadate, înregistrări necriptate care pot dezvălui multe despre activitatea unui utilizator, cu agențiile de aplicare a legii, cum ar fi Departamentul de Justiție. Unii rivali, cum ar fi Signal, colectează în mod intenționat mult mai puține metadate pentru a evita incursiunile în viața privată a utilizatorilor săi și, prin urmare, împărtășesc mult mai puțin cu autoritățile de aplicare a legii. (“WhatsApp răspunde la solicitări legale valabile”, a declarat purtătorul de cuvânt al companiei, “inclusiv la ordinele care ne cer să furnizăm în timp real și pe viitor cu cine comunică o anumită persoană”).
Datele utilizatorilor WhatsApp, a aflat ProPublica, au ajutat procurorii să construiască un caz de profil înalt împotriva unui angajat al Departamentului Trezoreriei care a divulgat documente confidențiale către BuzzFeed News care au dezvăluit modul în care banii murdari circulă prin băncile din SUA.
La fel ca și alte platforme de socializare și de comunicare, WhatsApp este prins între utilizatorii care se așteaptă la confidențialitate și entitățile de aplicare a legii care cer efectiv contrariul: ca WhatsApp să predea informații care vor ajuta la combaterea infracțiunilor și a abuzurilor online. WhatsApp a răspuns la această dilemă afirmând că nu este deloc o dilemă. “Cred că absolut putem avea securitate și siguranță pentru oameni prin criptarea end-to-end și să lucrăm cu forțele de ordine pentru a rezolva infracțiuni”, a declarat Will Cathcart, al cărui titlu este Head of WhatsApp, într-un interviu pe YouTube cu un think tank australian în luna iulie.
De când a plătit 22 de miliarde de dolari pentru a cumpăra WhatsApp în 2014, Facebook a încercat să afle cum să genereze profituri de pe urma unui serviciu care nu le cere niciun ban utilizatorilor săi.
Această enigmă a dus periodic la mișcări care au înfuriat utilizatorii, autoritățile de reglementare sau ambele. Obiectivul de a monetiza aplicația a făcut parte din decizia companiei din 2016 de a începe să împărtășească datele utilizatorilor WhatsApp cu Facebook, lucru despre care compania le-a spus autorităților de reglementare din Uniunea Europeană că este imposibil din punct de vedere tehnologic. Același impuls a impulsionat un plan controversat, abandonat la sfârșitul anului 2019, de a vinde publicitate pe WhatsApp. Iar mandatul de căutare a profitului s-a aflat în spatele unei alte inițiative ratate în ianuarie: introducerea unei noi politici de confidențialitate pentru interacțiunile utilizatorilor cu întreprinderile pe WhatsApp, care permitea întreprinderilor să utilizeze datele clienților în moduri noi. Acel anunț a declanșat un exod al utilizatorilor către aplicații concurente.
Planul de afaceri din ce în ce mai agresiv al WhatsApp se concentrează pe taxarea companiilor pentru o serie de servicii – permițând utilizatorilor să efectueze plăți prin WhatsApp și să gestioneze discuțiile cu serviciul clienți – care oferă confort, dar mai puține protecții ale confidențialității. Rezultatul este un sistem confuz de confidențialitate pe două niveluri în cadrul aceleiași aplicații, în care protecția oferită de criptarea de la un capăt la altul este erodată și mai mult atunci când utilizatorii WhatsApp folosesc serviciul pentru a comunica cu întreprinderile.
I. “Asociații de moderare a conținutului”
În multe privințe, experiența de a fi moderator de conținut pentru WhatsApp în Austin este identică cu cea de moderator pentru Facebook sau Instagram, conform interviurilor cu 29 de moderatori actuali și foști moderatori. Majoritatea în vârstă de 20-30 de ani, mulți dintre ei cu experiență anterioară ca funcționari de magazin, casieri la băcănie și barmani, moderatorii sunt angajați de Accenture, un uriaș contractor corporatist care lucrează pentru Facebook și alți mastodonți din Fortune 500.
Listele de locuri de muncă anunță posturi de “Revizuire a conținutului” și nu menționează Facebook sau WhatsApp. Documentele de angajare menționează titlul inițial al lucrătorilor ca fiind “content moderation associate”. Salariul începe de la aproximativ 16,50 dolari pe oră. Moderatorii sunt instruiți să spună oricui întreabă că lucrează pentru Accenture și trebuie să semneze acorduri de confidențialitate. Invocând NDA-urile, aproape toți moderatorii actuali și foști intervievați de ProPublica au insistat să rămână anonimi. (Un purtător de cuvânt al Accenture a refuzat să comenteze, trimițând toate întrebările despre moderarea conținutului la WhatsApp).
Când echipa WhatsApp a fost adunată în Austin în 2019, moderatorii Facebook ocupau deja etajul patru al unui turn de birouri de pe Sixth Street, adiacent faimoasei scene de baruri și muzică din oraș. Echipa WhatsApp a fost instalată la etajul de deasupra, cu noi poduri de lucru închise cu sticlă și băi mai frumoase, care au stârnit o urmă de invidie la câțiva membri ai echipei Facebook. Majoritatea membrilor echipei WhatsApp s-au împrăștiat pentru a lucra de acasă în timpul pandemiei. Fie că se aflau la birou sau acasă, ei își petrec zilele în fața ecranelor, folosind un instrument software al Facebook pentru a examina un flux de “mesaje”, organizate în funcție de subiect în cozi “reactive” și “proactive”.
Împreună, lucrătorii analizează milioane de conținut WhatsApp în fiecare săptămână. Fiecare recenzor gestionează peste 600 de mesaje pe zi, ceea ce înseamnă mai puțin de un minut pentru fiecare bilet. WhatsApp a refuzat să dezvăluie câți lucrători contractuali sunt angajați pentru revizuirea conținutului, dar o listă parțială de personal analizată de ProPublica sugerează că, numai la Accenture, sunt peste 1.000. Se așteaptă ca moderatorii WhatsApp, la fel ca omologii lor de pe Facebook și Instagram, să îndeplinească parametrii de performanță pentru viteză și acuratețe, care sunt verificați de Accenture.
Munca lor diferă și în alte moduri. Deoarece conținutul WhatsApp este criptat, sistemele de inteligență artificială nu pot scana automat toate chat-urile, imaginile și videoclipurile, așa cum se întâmplă pe Facebook și Instagram. În schimb, recenzorii WhatsApp au acces la conținutul privat atunci când utilizatorii apasă butonul “raportează” din aplicație, identificând un mesaj ca fiind o presupusă încălcare a termenilor de serviciu ai platformei. Acesta transmite cinci mesaje – cel presupus incriminat împreună cu cele patru mesaje anterioare din schimb, inclusiv orice imagini sau videoclipuri – către WhatsApp în formă descifrată, potrivit foștilor ingineri și moderatori WhatsApp. Sistemele automatizate introduc apoi aceste mesaje în cozile “reactive” pentru ca lucrătorii contractuali să le evalueze.
Inteligența artificială inițiază un al doilea set de cozi – așa-numitele cozi proactive – prin scanarea datelor necriptate pe care WhatsApp le colectează despre utilizatorii săi și compararea acestora cu informații suspecte despre conturi și modele de mesagerie (un cont nou care trimite rapid un volum mare de chat-uri este o dovadă de spam), precum și cu termeni și imagini care au fost considerate anterior ca fiind abuzive. Datele necriptate disponibile pentru examinare sunt foarte multe. Acestea includ numele și imaginile de profil ale grupurilor WhatsApp ale unui utilizator, precum și numărul de telefon, fotografia de profil, mesajul de stare, nivelul bateriei telefonului, limba și fusul orar, ID-ul unic al telefonului mobil și adresa IP, puterea semnalului wireless și sistemul de operare al telefonului, precum și o listă a dispozitivelor electronice ale acestuia, orice conturi Facebook și Instagram aferente, ultima dată când a folosit aplicația și orice istoric anterior de încălcări.
Recenzorii WhatsApp au trei opțiuni atunci când li se prezintă un mesaj pentru oricare dintre tipurile de coadă: nu fac nimic, pun utilizatorul sub supraveghere pentru o examinare suplimentară sau interzic contul. (Moderatorii de conținut de pe Facebook și Instagram au mai multe opțiuni, inclusiv eliminarea postărilor individuale. Tocmai această distincție – faptul că recenzorii WhatsApp nu pot șterge elemente individuale – este cea pe care compania o citează ca bază pentru a afirma că recenzorii WhatsApp nu sunt “moderatori de conținut”).
Moderatorii WhatsApp trebuie să facă aprecieri subiective, sensibile și subtile, arată interviurile și documentele examinate de ProPublica. Aceștia examinează o gamă largă de categorii, inclusiv “Spam Report”, “Civic Bad Actor” (discursuri politice de ură și dezinformare), “Terrorism Global Credible Threat”, “CEI” (imagini de exploatare a copiilor) și “CP” (pornografie infantilă). Un alt set de categorii se adresează mesageriei și comportamentului milioanelor de întreprinderi mici și mari care folosesc WhatsApp pentru a discuta cu clienții și pentru a-și vinde marfa. Aceste cozi au titluri precum “prevalența impersonării de afaceri”, “încălcări probabile ale politicii comerciale” și “verificarea afacerilor”.
Moderatorii spun că îndrumările pe care le primesc de la WhatsApp și Accenture se bazează pe standarde care pot fi în același timp obscure și deranjante din punct de vedere grafic. De exemplu, deciziile privind imaginile cu caracter sexual abuziv se pot baza pe o evaluare a faptului că un copil dezbrăcat dintr-o imagine pare adolescent sau prepuber, pe baza unei comparații între oasele șoldurilor și părul pubian și o fișă medicală. Un recenzent și-a amintit de o înregistrare video granulată dintr-o coadă de discursuri politice care înfățișa un bărbat cu o macetă care ținea în mână ceea ce părea a fi un cap tăiat: “Trebuia să ne uităm și să ne întrebăm: “Este un cadavru adevărat sau un cadavru fals?””.
La sfârșitul anului 2020, moderatorii au fost informați despre o nouă coadă de așteptare pentru o presupusă “sextorțiune”. Aceasta a fost definită într-o notă explicativă ca fiind “o formă de exploatare sexuală în care oamenii sunt șantajați cu o imagine nud a lor, care a fost partajată de ei sau de altcineva pe internet”. Memorandumul spunea că lucrătorii vor examina mesajele raportate de utilizatori care “includ cuvinte-cheie predefinite utilizate în mod obișnuit în mesajele de sextorție/șantaj”.
Sistemul de recenzii al WhatsApp este îngreunat de impedimente, inclusiv de traducerea lingvistică defectuoasă. Serviciul are utilizatori în 180 de țări, marea majoritate aflându-se în afara Statelor Unite. Chiar dacă Accenture angajează lucrători care vorbesc o varietate de limbi, pentru mesajele în anumite limbi nu există adesea un vorbitor nativ la fața locului pentru a evalua plângerile de abuz. Acest lucru înseamnă că trebuie folosit instrumentul de traducere lingvistică al Facebook, despre care criticii au spus că ar putea fi atât de imprecis încât, uneori, a etichetat mesaje în arabă ca fiind în spaniolă. De asemenea, instrumentul a oferit puține îndrumări privind argoul local, contextul politic sau aluzii sexuale. “În cei trei ani în care am fost acolo”, a spus un moderator, “a fost întotdeauna oribil”.
Procesul poate fi plin de erori și neînțelegeri. Companiile au fost semnalate pentru că ofereau arme de vânzare când vindeau aparate de ras simple. Sutienele pot fi vândute, dar dacă limbajul de marketing se înregistrează ca fiind “pentru adulți”, vânzătorul poate fi etichetat ca fiind o “afacere cu orientare sexuală” interzisă. Iar un instrument de traducere defectuos a declanșat o alarmă atunci când a detectat copii pentru vânzare și sacrificare, care, la o examinare mai atentă, s-a dovedit a fi vorba de capre tinere destinate a fi gătite și consumate.
De asemenea, sistemul este subminat de deficiențele umane ale persoanelor care inițiază rapoartele. Potrivit moderatorilor, plângerile sunt frecvent depuse pentru a pedepsi, hărțui sau a face farse cuiva. În mesajele din Brazilia și Mexic, un moderator a explicat: “am avut câteva luni în care AI a interzis grupuri în stânga și în dreapta pentru că oamenii își încurcau prietenii schimbându-le numele grupurilor” și apoi raportându-le. “În cel mai rău moment, primeam probabil zeci de mii de astfel de mesaje. Și-au dat seama de unele cuvinte care nu-i plăceau algoritmului”.
Alte raportări nu reușesc să îndeplinească standardele WhatsApp pentru interzicerea unui cont. “Cele mai multe dintre ele nu încalcă”, a spus unul dintre moderatori. “Este conținut care se află deja pe internet și sunt doar oameni care încearcă să se pună cu utilizatorii”. Totuși, fiecare caz poate scoate la iveală până la cinci mesaje necriptate, care sunt apoi examinate de moderatori.
Judecata inteligenței artificiale a WhatsApp nu este perfectă, spun moderatorii. “Erau o mulțime de fotografii nevinovate acolo care nu aveau voie să fie acolo”, a declarat Carlos Sauceda, care a părăsit Accenture anul trecut după nouă luni. “Ar fi putut fi o fotografie cu un copil care făcea baie și nu era nimic în neregulă cu ea”. După cum a spus un alt moderator WhatsApp: “De multe ori, inteligența artificială nu este atât de inteligentă”.
Ghidul scris al Facebook pentru moderatorii WhatsApp recunoaște multe probleme, menționând că “am făcut greșeli și că politicile noastre au fost folosite ca armă de către actorii răi pentru a obține interzicerea actorilor buni. Atunci când utilizatorii scriu solicitări referitoare la chestiuni abuzive ca acestea, depinde de WhatsApp să răspundă și să acționeze (dacă este necesar) în consecință, în timp util și într-un mod plăcut”. Desigur, dacă un utilizator face apel la o interdicție care a fost provocată de un raport al utilizatorului, potrivit unui moderator, aceasta presupune ca un al doilea moderator să examineze conținutul utilizatorului.
