Cand politia din Pennsylvania a arestat-o pe Jennifer Louise Whelan, in varsta de 29 de ani, in noiembrie 2022, a acuzat-o de zeci de acuzatii de infractiuni grave, inclusiv trafic sexual si atac la indecent asupra a trei copii mici. Cu o luna mai devreme, politia a spus ca a descoperit ca Whelan folosea trei copii de pana la sase ani, toti in grija ei, pentru a produce materiale de abuz sexual asupra copiilor. Se presupune ca ea vindea si trimitea videoclipuri si fotografii unui client prin Facebook Messenger. Ea a pledat nevinovata.
Presupusul cumparator, Brandon Warren, a fost acuzat de un mare juriu in februarie 2022 si acuzat de noua capete de acuzare de distribuire de materiale care ii infatiseaza pe minori implicati intr-un comportament sexual explicit. De asemenea, Warren a pledat nevinovat.
Documentele de judecata vazute de The Guardian citeaza mesaje de pe Facebook intre cei doi, in care Warren i-ar fi descris lui Whelan cum doreste ca ea sa faca aceste videoclipuri.
„Voi adauga ceva in plus daca ii spui ca o face pe mama sa se simta bine si sa obtina un videoclip de lunga durata”, ii spune el lui Whelan, conform documentului de plangere penala folosit pentru arestarea ei.
Whelan a primit plata pentru filmare prin Meta Pay, sistemul de plata al Meta, conform plangerii penale impotriva sa. „Alte 250, nu? Heehee”, i-ar fi scris ea lui Warren dupa ce i-a trimis un videoclip in care a abuzat o fata tanara.
Meta Pay, cunoscut sub numele de Facebook Pay inainte de rebranding in 2022, este un serviciu de plata peer-to-peer care permite utilizatorilor sa transfere bani prin retelele sociale ale companiei. Utilizatorii isi incarca cardurile de credit, cardurile de debit sau informatiile contului PayPal pe Facebook Messenger sau Instagram pentru a trimite si a primi bani.
Un purtator de cuvant al Meta a confirmat ca compania a vazut si raportat plati prin Meta Pay pe Facebook Messenger care sunt suspectate de a fi legate de exploatarea sexuala a copiilor.
„Exploatarea sexuala a copiilor este o crima ingrozitoare. Sustinem fortele de ordine in eforturile sale de a-i urmari pe acesti infractori si investim in cele mai bune instrumente si echipe de experti pentru a detecta si a raspunde activitatilor suspecte. Meta raporteaza toate cazurile de exploatare sexuala a copiilor la NCMEC [Centrul National al Copiilor Disparuti si Exploatati], inclusiv cazurile care implica tranzactii de plata”, a spus purtatorul de cuvant.
Prin revizuirea documentelor si intervievarea fostilor moderatori de continut Meta, o investigatie a Guardian a constatat ca platile pentru continutul de abuz sexual asupra copiilor care au loc pe Meta Pay nu sunt, probabil, detectate si neraportate de companie.
Documentele instantei arata ca actiunile lui Whelan si Warren nu au fost identificate sau semnalate de Meta. In schimb, Kik Messenger, o alta platforma sociala, a raportat ca Warren a incarcat videoclipuri suspectate a fi material de abuz sexual asupra copiilor (CSAM) pentru a le impartasi altor utilizatori. Acest lucru a declansat o ancheta a politiei in Virginia de Vest, unde locuieste Warren. Electronicele i-au fost confiscate, iar politia a descoperit apoi cele opt videoclipuri si cinci imagini pe care se presupune ca le cumparase de la Whelan prin Facebook Messenger.
„ Am raspuns la un proces legal valabil”, a spus un purtator de cuvant al Meta, ca raspuns la constatarile The Guardian conform carora compania nu a detectat aceste crime.
In plus, doi fosti moderatori de continut Meta, angajati intre 2019 si 2022, au declarat pentru Guardian ca au vazut tranzactii suspecte care au loc prin Meta Pay despre care credeau ca sunt legate de traficul sexual cu copii, dar nu au putut comunica cu echipele de conformitate Meta Pay pentru a semnalati aceste plati.
„S-a simtit ca [Meta Pay] a fost o metoda de plata usor de utilizat, deoarece acesti oameni comunicau pe Messenger. Sumele trimise ar putea fi de sute de dolari la un moment dat”, spune un fost moderator, care a vorbit sub conditia anonimatului pentru ca a trebuit sa semneze un acord de confidentialitate ca conditie pentru angajare. Moderatorul, angajat timp de patru ani pana la jumatatea anului 2022 de Accenture, un contractant Meta, a analizat interactiunile dintre adulti si copii prin Facebook Messenger pentru continut neadecvat.
Platile pentru sex sau CSAM sunt de obicei de doar cateva sute de dolari sau mai putin in cazurile analizate de Guardian. Potrivit fostului analist de conformitate Meta, este putin probabil ca tranzactiile cu sume atat de mici sa fie semnalate pentru revizuire de catre sistemele Meta.
Aceasta inseamna ca platile legate de activitati ilicite au loc probabil nedetectate, au spus expertii in infractiuni financiare.
Un purtator de cuvant al Meta a spus ca compania foloseste o combinatie de revizuire automata si umana pentru a detecta activitati financiare suspecte in tranzactiile de plata in Messenger.
„Marimea platii este doar un semnal pe care echipele noastre il folosesc pentru a identifica activitati potential suspecte, iar analistii nostri de conformitate sunt instruiti sa evalueze o varietate de semnale”, a spus purtatorul de cuvant al Meta. „Daca echipele noastre ar avea motive sa suspecteze o activitate suspecta, in special activitatea care implica un copil si chiar daca platile sunt mici, ar fi investigata si raportata in mod corespunzator.” Purtatorul de cuvant a mai spus ca compania are „o cultura puternica „vede ceva, spune ceva””.
Pentru situatiile in care barbatii americani vizeaza fete minore din strainatate pentru a se ingriji, platile ar putea fi pentru lucruri precum obtinerea unui telefon si rechizite scolare, a spus moderatorul. Pentru aceste tranzactii internationale, utilizatorii care efectueaza plati prin Messenger au folosit de obicei Western Union, a spus ea. Western Union si Meta au dezvoltat un bot pentru a integra platile in Messenger in 2017.
„Majoritatea dintre ceea ce am vazut au fost barbati mai in varsta din America, care vizeaza fete din tari asiatice si calatoreau adesea acolo”, a adaugat moderatorul.
„Cand vine vorba de exploatarea copiilor si CSAM, este vorba intr-adevar de sume mici”, a spus Silvija Krupena, directorul unitatii de informatii financiare la RedCompass Labs, o companie de consultanta financiara din Londra. „Este o crima globala si criminali, cu diferite tipuri de infractori. In tarile cu venituri mici, cum ar fi Filipine, 20 de dolari sunt bani mari. Productia are loc de obicei in acele tari. Acestea sunt cantitati mici care pot trece prin fisuri atunci cand vine vorba de controalele traditionale de spalare a banilor.”
Meta are o echipa de aproximativ 15.000 de moderatori si analisti de conformitate care au sarcina de a-si monitoriza platformele pentru continut daunator si ilegal. Posibilul comportament criminal ar trebui sa fie escaladat de Meta si raportat fortelor de ordine. Reglementarile impotriva spalarii banilor impun, de asemenea, companiilor de servicii monetare sa-si antreneze personalul de conformitate pentru a avea acces la suficiente informatii pentru a putea detecta cand au loc finantari ilegale.
Cu toate acestea, contractorii care monitorizeaza activitatea tranzactiilor Meta Pay nu primesc instruire specifica pentru detectarea si raportarea fluxurilor de bani care ar putea fi legate de traficul de persoane, inclusiv limbajul, cuvintele de cod si argou pe care le folosesc in mod obisnuit traficantii, a spus un fost contractant analist de conformitate Meta Pay.
„Daca un traficant de persoane foloseste un cuvant de cod pentru a vinde fete, nu am intrat in asta. Nu ne-am pregatit cu adevarat pe acestea”, a spus fostul analist de conformitate. „Nici macar nu te gandesti la asta si nici macar nu te bagi in astfel de lucruri.”
Un purtator de cuvant al Meta a contestat afirmatiile analistului de conformitate a platilor.
„Analistii de conformitate primesc atat instruire initiala, cat si continua cu privire la modul de detectare a activitatilor potential suspecte – care include semne de posibil trafic de persoane si exploatare sexuala a copiilor. Programul nostru este actualizat in mod regulat pentru a reflecta cele mai recente indrumari de la autoritatile de reglementare a criminalitatii financiare si expertii in siguranta”, a spus purtatorul de cuvant.
Istoria lui Meta cu acuzatii de exploatare a copiilor
Platformele Meta au fost legate in trecut de presupusa exploatare a copiilor si de distributia CSAM. In decembrie, biroul procurorului general din New Mexico a intentat un proces impotriva companiei, pretinzand ca Facebook si Instagram sunt „zone de reproducere” pentru pradatorii care vizeaza copiii pentru trafic de persoane, ingrijire si solicitare. Procesul a urmat unei investigatii Guardian din aprilie 2023, care a dezvaluit modul in care traficantii de copii foloseau platformele Meta pentru a cumpara si a vinde copii in scopul exploatarii sexuale.
Fiind o afacere de servicii monetare, Meta Pay este supusa reglementarilor bancare privind combaterea spalarii banilor si „cunoaste-ti clientul” (KYC) din SUA, care impun companiilor sa raporteze finantarea ilegala catre Reteaua de aplicare a infractiunilor financiare (FinCEN) a departamentului de trezorerie al SUA.
Daca Meta nu reuseste sa detecteze si sa raporteze aceste plati, ar putea fi o incalcare a legilor SUA impotriva spalarii banilor, au spus expertii in infractiuni financiare.
„Regulile se aplica oricarei companii care participa la o afacere de plati. Dar pentru retelele sociale, deoarece pot vedea utilizatorii, isi vad viata, tranzactiile, pot vedea abuzurile si pot vedea contacte. Este un fruct atat de jos pentru ca ei sa detecteze acest lucru”, a spus Krupena.
Alte aplicatii de plata peer-to-peer au fost supuse controlului pentru practicile lor de prevenire a activitatilor ilicite. In 2023, democratii din Senat au solicitat metode detaliate de detectare si prevenire a fraudei de la PayPal, Venmo si Cash App. Traficul sexual „a dezvaluit” pe aplicatia Cash, potrivit unui raport de anul trecut al firmei de cercetare a investitiilor din SUA Hindenburg. Block, proprietarul aplicatiei Cash, a contestat aceste afirmatii, amenintand cu actiuni legale.
Meta a introdus criptarea end-to-end pe Facebook Messenger la sfarsitul anului 2023, dar chiar inainte de aceasta, contractorii analisti de conformitate cu plati nu puteau accesa chat-ul Messenger dintre cei doi utilizatori care fac schimb de fonduri. Fostul analist de conformitate Meta a spus pentru Guardian ca echipa lor poate vedea doar tranzactiile cu note si relatia dintre cei doi utilizatori.
„Nu stiu cum va conformati, in general, fara a putea vedea intentiile in ceea ce priveste tranzactiile”, a spus Frances Haugen, o fosta angajata Facebook devenita denuntatoare, care a lansat zeci de mii de documente daunatoare despre functionarea sa interioara in 2021. „Daca platformele au vrut de fapt sa-i tina pe acesti copii in siguranta, ar putea.”
Lucrarile izolate impiedica semnalarea tranzactiilor suspecte, spun fostii moderatori
Alti fosti moderatori de continut intervievati de The Guardian si-au comparat locurile de munca cu cele ale centrului de apeluri sau ale fabricii. Munca lor presupunea revizuirea continutului marcat ca suspect de utilizatori si software-ul de inteligenta artificiala si luarea de decizii rapide cu privire la ignorarea, eliminarea sau escaladarea continutului catre Meta printr-un program software. Ei spun ca nu au putut comunica cu analistii de conformitate Meta Pay despre tranzactiile suspecte la care au fost martori.
„Nu aveam voie sa contactam angajatii Facebook sau alte echipe”, a spus un fost moderator. „Managerii nostri nu ne-au spus de ce a fost asta.”
Gretchen Peters, care este directorul executiv al Alliance to Counter Crime Online, a documentat vanzarea de narcotice, inclusiv fentanil, pe platformele Meta. Ea a intervievat, de asemenea, moderatorii Meta carora nu li s-a permis sa comunice cu alte echipe din companie. Ea a spus ca aceasta izolare a fost o „incalcare majora” a reglementarilor bancare „cunoaste-ti clientul”.
„Am auzit de la moderatorii de la Meta ca pot vedea ca au loc comportamente ilegale si ca exista tranzactii simultane prin Meta Pay, dar nu au nicio modalitate de a comunica ceea ce vad in mod intern moderatorilor de la Meta Pay”, a spus Peters.
Un purtator de cuvant al Meta a spus ca compania interzice vanzarea sau cumpararea de narcotice pe platformele sale si elimina acel continut atunci cand il gaseste.
„Meta respecta toate legile aplicabile impotriva spalarii banilor din SUA”, a spus purtatorul de cuvant. „De asemenea, este neadevarat sa sugeram ca exista o lipsa de comunicare intre echipe. Moderatorii de continut sunt instruiti sa treaca la un anumit punct de contact, care aduce echipa de specialisti corespunzatoare.”
In decembrie, Meta a anuntat ca a lansat criptarea end-to-end pentru mesajele trimise pe Facebook si prin Messenger. Criptarea ascunde continutul mesajelor de la oricine, cu exceptia expeditorului si a destinatarului vizat, transformand textul si imaginile in coduri necizibile care sunt decriptate la primire.
Cu toate acestea, aceasta miscare ar putea afecta si capacitatea companiei de a preveni tranzactiile ilicite pe Meta Pay. Expertii in siguranta copiilor, factorii de decizie, parintii si fortele de ordine au criticat aceasta miscare, argumentand ca criptarea impiedica eforturile de salvare a victimelor traficului sexual de copii si urmarirea in justitie a pradatorilor.
„Cand Meta Pay este conectat la Messenger sau Instagram, mesajele asociate platilor ar putea descoperi comportamente ilicite”, a spus Krupena. „Acum, ca acest context este eliminat, implicatiile sunt semnificative. Se simte aproape ca si cum criptarea faciliteaza din neatentie activitati ilicite. Acest lucru deschide multe oportunitati criminalilor de a se ascunde la vedere.”
Un purtator de cuvant al Meta a spus ca decizia de a trece la criptare a fost pentru a „oferi oamenilor confidentialitate” si ca compania incurajeaza utilizatorii sa-si raporteze singur mesajele private legate de exploatarea copiilor catre companie.
„Mutarea la un mediu de mesagerie criptata nu inseamna ca vom sacrifica siguranta si am dezvoltat peste 30 de instrumente de siguranta, toate care functioneaza in mesagerie criptata”, a spus purtatorul de cuvant. „Am facut acum instrumentele noastre de raportare mai usor de gasit, am redus numarul de pasi de raportat si am inceput sa incurajam adolescentii sa raporteze in momentele relevante.”
