Berlingske Business
17:42

Facebook: Sådan trækker vi grænsen for voldeligt og krænkende indhold

aaa

Kronik. Målet er at holde platformen sikker. Ved at offentliggøre detaljerne i intern politik, øges risikoen for at omgå reglerne.

I kølvandet på et kemisk våbenangreb i Syrien i sidste måned, blev der delt mange forfærdelige videoer på Facebook. Videoerne, der også optrådte andre steder på internettet viste, hvordan børnene rystede, kæmpede for overhovedet at trække vejret for til sidst at dø.

Billederne var så chokerende, at vi valgte at placere en advarsel foran dem, men billederne gav også anledning til international vrede og fornyet opmærksomhed på situationen i Syrien. At gennemgå online materiale som dette på globalt plan er både udfordrende og vigtigt. Som ansvarlig for dette arbejde hos Facebook, vil jeg gerne forklare, hvordan og hvor vi trækker grænsen.

På en gennemsnitlig dag bruger mere end én milliard mennesker Facebook. De deler tusindvis af opslag på forskellige sprog – alt fra billeder til live videoer – men det er kun en meget lille procentdel af disse, der bliver rapporteret til os til gennemgang. Problemernes omfang spænder dog bredt – fra mobning og ’hatespeech’ til terrorisme – og det er komplekst. For at udforme politikker, der både tager højde for brugernes sikkerhed og ytringsfrihed, kræver det en forståelse for nye sociale problemstillinger, og hvordan de manifesterer sig online, men det kræver også, at vi reagerer hurtigt på de millioner af rapporter, der hver uge kommer ind fra hele verden.

For vores moderatorer er der også en anden væsentlig udfordring: at forstå konteksten. Det kan være svært at bedømme hensigten bag et opslag eller den indforståede risiko i et andet. Når nogle eksempelvis poster en voldsom video af et terrorangreb, vil det så inspirere folk til at efterligne volden eller vil det samle folk imod den? Eller når folk poster en vittighed om selvmord, er de så bare sig selv, eller er det et råb om hjælp?

I Danmark er det helt i orden at kritisere monarkiet, mens du i andre dele af verden risikerer fængsel. Lovgivningen kan give os nogle retningslinjer, men det, der accepteres, handler mere om normer og forventninger – og med nye måder at fortælle historier og dele billeder på kan disse spændinger bringes frem i lyset hurtigere end nogensinde før.

Vores mål er at holde vores platform sikker. Det betyder, at vi ikke altid deler detaljerne i vores politikker, fordi vi ikke ønsker at opfordre folk til at finde måder at omgå reglerne på, men vi offentliggør vores Fællesskabsregler, der fortæller, hvad der er og ikke er tilladt på Facebook, og hvorfor.

Vores regler udvikler sig over tid. Vi er konstant i dialog med eksperter og lokale organisationer om alt fra børns sikkerhed og terrorisme til menneskerettigheder. I nogle tilfælde betyder det, at vores politikker kan virke kontraintuitive. Som det er fremgået af dækningen, har eksperter i selvskade rådet os til at lade selvskadende live videoer køre, så folk har en større chance for at få hjælp, men derefter at fjerne videoerne for at undgå at andre bliver inspireret til det samme. Da en pige fra Georgia i USA for to uger siden forsøgte at begå selvmord på Facebook Live, kunne hendes venner give besked til politiet, som heldigvis nåede frem i tide.

De sager, vi vurderer, er ikke de simple, sort/hvid sager. De befinder sig ofte i en gråzone, hvor folk har svært ved at blive enige. Derfor forsøger vi hele tiden at være så objektive som muligt. Kunst og pornografi er ikke altid let at skelne mellem, men vi har fundet ud af, at digitalt skabte billeder af nøgenhed er mere tilbøjelige til at være pornografiske end håndtegnede billeder, så derfor afspejler vores politik også det.

Der er også stor forskel på at udtrykke sin vrede generelt set og på specifikt at opfordre til, at en navngiven person skal skades. Vi tillader det første, men bestemt ikke det sidste.

Disse spændinger – mellem at skabe opmærksomhed om vold og at opfordre til det, mellem ytringsfrihed og friheden fra frygt – er komplicerede, og der findes sjældent universelle standarder, der kan skabe klarhed. At være så objektiv som muligt er den eneste måde, vi kan være konsekvente på i en global offentlighed. Men nogle gange træffer vi alligevel det forkerte valg.

De hypotetiske situationer vi bruger, når vi uddanner vores moderatorer, er med vilje gjort meget ekstreme. De er designet til at hjælpe de ansatte med at håndtere de allersværeste sager. Da vi for næsten et årti siden udformede vores indholdsstandarder, blev meget overladt til individuelle skøn. Men fordi to mennesker ikke ser ens på, hvordan ’hate speech’ og mobning defineres – eller andre problemstillinger for den sags skyld – har vi nu skabt helt klare definitioner.

Vi møder både kritik fra folk, der ønsker mere censur og fra folk, der ønsker mindre. Det ser vi som et signal om, at vi ikke læner os for langt i én retning. Jeg håber, det er tydeligt, at vi tager vores rolle ekstremt alvorligt. Mange af os i teamet har arbejdet med andre menneskers sikkerhed længe før arbejdet hos Facebook. Selv har jeg brugt mere end et årti som anklager, hvor jeg har ført sager om alt fra seksuel udnyttelse af børn til terrorisme. Derudover består vores team også af en ekspert i ekstremisme, den tidligere forskningsdirektør for West Point’s Combating Terrorism Center, en person fra et voldtægts- og krisecenter samt en lærer.

Vi ved, at der er mere, vi kan gøre. Sidste måned annoncerede vi, at vi ansætter yderligere 3.000 folk til vores team. De har en krævende opgave, og vi vil fortsætte med at gøre alt, hvad vi kan, for at sikre, at vi giver dem den rigtige støtte – både ved at gøre det lettere at sende de svære beslutninger opad i systemet og ved at tilbyde dem den psykologiske støtte, de har brug for.

Teknologien har givet flere mennesker mulighed for at kommunikere mere end nogensinde før. Vi tror på, at fordelene ved det langt opvejer risiciene. Men vi erkender også, at samfundet stadig er ved at finde ud af, hvad der er acceptabelt, og hvad der er skadeligt, og at vi hos Facebook spiller en vigtig rolle i den samtale.

Få det bedste debat fra Business.dk hver fredag.

Se alle nyhedsbreve

0 Kommentarer

Forsiden lige nu

Til forsiden

Business anbefaler

Gratis breaking news på mobilen

Send BUSINESS BREAK til 1929 og modtag en SMS med en bekræftelse. Det er gratis - tilmelding koster kun almindelig takst. Du kan til hver en tid afmelde tjenesten igen.

Afmeld: sms BUSINESS BREAK STOP til 1929

Tilmeld Afmeld

Business Nyhedsbrev

Få breaking news og det bedste overblik fra Business.dk morgen og eftermiddag - eller modtag hver uge et prioriteret overblik over investorstof, privatøkonomi, ejendomme, digtal, karriere, media og vækst.

Se alle nyhedsbreve
 

Business i billeder

Se alle

BrandView Hvad er Brandview?

BrandView er en service fra Berlingske Media, hvor virksomheder har mulighed for at kommunikere deres specialviden direkte til brugere og læsere af Berlingske.
Dette kan gøres på print i Berlingske og Berlingske Business, eller online på b.dk og business.dk.

Ønsker du at vide mere om BrandView, bedes du kontakte content marketing afdelingen Public Impact via e-mail: info@publicimpact.dk.

<p>Henrik Olejasz Larsen, investeringsdirektør i Sampension</p>
Sponseret

Aktiemarkederne ligger historisk set forholdsvis højt. Det afspejler, at det går rigtig godt i den underliggende økonomi, forklarer investeringsdirektør.Arbejdsløsheden er rekordlav i både Japan og US...

Business Events Se alle

Business.dk anvender cookies til at huske dine indstillinger, statistik og at målrette annoncer. Denne information deles med tredjepart. Læs mere

Kære læser. Velkommen til business.dk.

Vi kan se, at du har installeret en adblocker, så vi ikke kan vise dig annoncer. Det er vi kede af, fordi indtægter fra annoncer er en helt afgørende årsag til, at vi dagligt kan tilbyde dig journalistik af høj kvalitet.

Vi håber derfor, at du i din adblocker vil tillade visning af annoncer fra business.dk Det er nemt og tager kun et øjeblik: Se hvordan du gør her.

Med venlig hilsen
Berlingske Business

Tilbage til artiklen