Meninger: Er Meta’s sikkerhetsreguleringssystem ødelagt?

Nesten enhver innholdsskaper eller aktiv sosiale medier manager har møtt det samme problemet når de poster på Facebook eller Instagram nylig: et innlegg eller en konto blir utestengt, sannsynligvis for feil grunner.

Denne irriterende situasjonen er bare en liten del av puslespillet med et komplekst problem med Metas innholdsreguleringssystem. Selv om Meta ser ut til å ha mange kontrolltiltak – noen ganger absurde – ser det ikke ut til at roten av problemet blir løst.

Over de siste månedene har Meta introdusert en rekke oppdateringer til sine retningslinjer for innhold og iverksatt strengere regler rettet mot å bygge et sunnere online miljø. En av konsekvensene har vært at mange bedrifter, utgivere og brukerkontoer har blitt utestengt, noe som har ført til hundrevis av klager på forum, chatteplattformer og sosiale mediekanaler. Flere nyhetsutgivere og merkevarer ble fjernet fra Metas plattformer i visse regioner i år, noe som har skapt bekymring blant bedriftseiere, journalister og innholdsskapere.

Til tross for Metas nylige oppdateringer, som gir inntrykk av strengere moderering og tettere granskning av innholdet delt på plattformene deres, fortsetter innlegg relatert til narkotika, selvmord, seksuell trakassering, mobbing, hatprat, misbruk og falske nyheter å gli gjennom algoritmene, og når ut til sårbare samfunn.

Jeg kan ikke la være å undres: Hva skjer med Metas sikkerhetsreguleringssystem?

Kontoer Utestengt For Feil Grunner

Alt starter med en lignende melding: «Din Meta-konto følger ikke våre regler.» Mange Facebook og Instagram-brukere har blitt utestengt eller midlertidig sparket ut av kontoene sine «for ikke å overholde» Metas regler, selv når de mener at de har det.

Dette er en situasjon vi har opplevd hos Wizcase. Metas system flagget relevante elementer som upassende og fikk community manager til å gå gjennom en ankeprosess og levere statlig utstedte ID-er.

Hundrevis av brukere, community managers og kontoledere har klaget på plattformer som Reddit og andre forum, chatter og sosiale mediekanaler om lignende situasjoner. I flere uheldige scenarioer mister brukerne kontoene sine og det er ingenting de kan gjøre med det, og de får ikke engang en forklaring.

«Støtteteamet på Facebook er forferdelig. Uansett hvor mange ganger vi forteller dem alt eller forklarer alt for dem, så forstår de bare ikke,» sa en bruker på Reddit i en tråd om utestengte kontoer. «En ting jeg kan si med en gang er at du ikke kommer til å få kontoen din gjenopprettet med mindre du brukte flere hundre tusen om dagen,» la en annen til.

Dette problemet, selv om det kan virke som om det bare påvirker innholdsskapere, er bare en liten del av en større utfordring.

Meta Mot Søksmål

I flere år har Meta investert i innholdskontroll, og nye strategier for å jobbe med en tryggere plattform for brukerne og for å beskytte seg selv mot flere søksmål – det mest nylige er fra kensiske innholdssensorer, som for øyeblikket krever 1,6 milliarder dollar i erstatning for massive oppsigelser og for å kompensere for det belastende materialet de ble eksponert for mens de analyserte innhold for Facebook.

Teknologiselskapet stoler på tredjeparter for å hjelpe med innholdsreguleringer og utvikler verktøy for å gjenkjenne når innhold bryter plattformreglene. Imidlertid har disse tiltakene ikke vært tilstrekkelige, og situasjonen har kommet ut av kontroll, spesielt blant mindreårige brukere.

I 2021 introduserte Meta nye beskyttelsesfunksjoner, men det hindret ikke Senatet i å inkludere Instagram og Facebook blant plattformene de anser som skadelige for barn i fjor. Teknologigiganten stod overfor en felles søksmål innlevert av 33 stater i USA for sin manipulerende og skadelige algoritme.

Siden januar har Meta delt oppdateringer om nye sikkerhetskontrollverktøy. I juni forbedret selskapet sitt anti-trakasseringsverktøy for å beskytte tenåringer på Instagram med en standard «Nære Venner» med en «Begrensninger»-funksjon slik at bare ekte venner og familie kunne samhandle med innholdet som ble postet av unge brukere.

For bare noen dager siden, annonserte selskapet de nye Tenåringskontoene for å beskytte tenåringer og “forsikre foreldre om at tenåringene har trygge opplevelser.” Vil det være nok for å beskytte barn? Hva med eldre brukere?

Et usikkert økosystem

Facebook, Instagram og WhatsApp er fremdeles plaget med skadelig innhold som påvirker brukere, av alle aldre, yrker og sosiale grupper, og det vil neppe bli løst når som helst snart.

En studie utført av Center for Countering Digital Hate (CCDH) analyserte over 500 millioner kommentarer på Instagram laget av kontoene til 10 kvinnelige politikere i USA, og avslørte at Meta mislyktes i å fjerne eller ta handling på 93% av disse kommentarene.

De mange søksmålene mot Meta har bokstavelig talt bevist at selskapet sliter med å beskytte brukerne mot skadelig innhold, og har også skadet skapere, utgivere og merkevarer med urettferdige filtre og dårlig implementerte sikkerhetsverktøy.

Selvfølgelig er dette et komplekst og dyptgående problem som bør håndteres i dybden, men kanskje er det på tide å akseptere at Meta ikke har klart å håndtere denne situasjonen. Plasterløsninger vil ikke løse et system som grunnleggende sett er ødelagt. Nå er det virkelige spørsmålet: Hvor mange flere brukere må urettferdig bli utestengt, misledet eller manipulert før en ekte endring skjer?