II. „Lideri din industrie” în detectarea comportamentului rău
ÎN DECLARAȚII PUBLICE și pe site-urile web ale companiei, Facebook Inc. este în mod vizibil vag despre procesul de monitorizare WhatsApp. Compania nu oferă o informare regulată a modului în care WhatsApp asigură politică platformei. Pagina de întrebări frecvente WhatsApp și formularul de reclamație online notează că va primi „cele mai recente mesaje” de la un utilizator care a fost semnalat. Cu toate acestea, acestea nu dezvăluie câte mesaje necriptate sunt dezvăluite atunci când se depune un raport sau dacă aceste mesaje sunt examinate de contractanți externi. (WhatsApp a declarat pentru ProPublica că limitează această divulgare pentru a împiedica infractorii să „joace” sistemul.)
Spre deosebire, atât Facebook , cât și Instagram prezinta documente „Standarde comunitare” îndelungate care detaliază criteriile pe care moderatorii le folosesc pentru conținutul poliției, împreună cu articole și videoclipuri despre „eroii nerecunoscuți care păstrează Facebook în siguranță” și anunțuri pe site-uri noi de revizuire a conținutului. Rapoartele privind transparența Facebook detaliază câte bucăți de conținut sunt „acționate” pentru fiecare tip de încălcare. WhatsApp nu este inclus în acest raport.
Atunci când au de-a face cu legiuitorii, oficialii Facebook Inc. oferă, de asemenea, puține detalii – dar sunt dornici să le asigure că nu lasă criptarea să stea în calea protejării utilizatorilor împotriva imaginilor abuzului sexual și exploatării copiilor. De exemplu, când membrii Comitetului judiciar al Senatului au discutat pe Facebook despre impactul criptării platformelor sale, compania, în întrebări scrise de urmărire din ianuarie 2020, a citat WhatsApp, lăudându-se că va rămâne receptiv la aplicarea legii. „Chiar și în cadrul unui sistem criptat”, a menționat un răspuns, „vom fi în continuare capabili să răspundem solicitărilor legale de metadate, inclusiv informații despre locație sau cont potențial critic … Avem deja un serviciu de mesagerie criptat, WhatsApp, care – spre deosebire de unele alte servicii criptate – oferă oamenilor un mod simplu de a raporta abuzuri sau probleme de siguranță. ”
Destul de sigur, WhatsApp a raportat 400.000 de cazuri de imagini posibile de exploatare a copiilor la Centrul Național pentru Copii Dispăruți și Exploatați în 2020, potrivit șefului său, Cathcart. Aceasta a fost de zece ori mai mare decât în 2019. „Suntem de departe liderii industriei în găsirea și detectarea acelui comportament într-un serviciu criptat end-to-end”, a spus el.
În timpul interviului său pe YouTube cu grupul de reflecție australian, Cathcart a descris, de asemenea, dependența WhatsApp de raportarea utilizatorilor și capacitatea sistemelor sale AI de a examina informațiile despre cont care nu sunt supuse criptării. Întrebat câți angajați au angajat WhatsApp pentru a investiga plângerile de abuz din partea unei aplicații cu peste două miliarde de utilizatori, Cathcart nu a menționat moderatorii de conținut sau accesul lor la conținut criptat. “Există o mulțime de oameni pe Facebook care ajută cu WhatsApp”, a explicat el. „Dacă te uiți la oameni care lucrează cu normă întreagă pe WhatsApp, este peste o mie. Nu voi intra în defalcarea completă a serviciului pentru clienți, rapoartele utilizatorilor, ingineria etc. Dar este o mare parte din asta. ”
În răspunsurile scrise pentru acest articol, purtătorul de cuvânt al companiei a spus: „Construim WhatsApp într-un mod care limitează datele pe care le colectăm, oferindu-ne în același timp instrumente pentru a preveni spamul, a investiga amenințările și a interzice persoanele implicate în abuz, inclusiv pe baza rapoartelor utilizatorilor pe care le primim. . Această lucrare necesită un efort extraordinar din partea experților în securitate și a unei echipe de încredere și siguranță valoroase, care lucrează neobosit pentru a oferi lumii comunicări private. ” Purtătorul de cuvânt a menționat că WhatsApp a lansat noi funcții de confidențialitate, inclusiv „mai multe controale despre modul în care mesajele oamenilor pot dispărea” sau pot fi vizualizate o singură dată. El a adăugat: „Pe baza feedback-ului pe care l-am primit de la utilizatori, suntem încrezători că oamenii înțeleg atunci când fac rapoarte către WhatsApp, primim conținutul pe care ni-l trimit”.
