TikTok skruer op for AI, men medarbejdere advarer om fejl

TikTok ventes at reducere antallet af stillinger i Dublin med omkring 300 som led i en foreslået omstrukturering af platformens trust and safety-arbejde.

Samtidig får AI og automatiserede systemer en endnu større rolle i arbejdet med at opdage og fjerne skadeligt indhold.

Det gør sagen til mere end en historie om arbejdspladser. Den handler også om, hvor præcis kunstig intelligens er, når den skal vurdere indhold fra millioner af brugere.

TikTok peger på automatisering

Ifølge TikTok blev 97 procent af det indhold, der blev fjernet mellem januar og april, taget ned af automatiserede teknologier. Platformen har også oplyst, at 99 procent af det indhold, som AI fjernede, blev fjernet, før nogen brugere havde rapporteret det.

Tallene viser, hvorfor automatisering er attraktivt for en global platform. AI kan arbejde hurtigt, i stor skala og på tværs af enorme mængder video, billeder og kommentarer.

TikTok siger ifølge The Independent, at ændringerne blandt andet handler om at udvikle måden, teams arbejder på, og bruge “the latest technological innovations”.

Fejlene kan være svære at opdage

Tidligere moderatorer har advaret om, at AI ikke altid forstår kontekst.

Et system kan forveksle et håndtegn med et våben. Det kan reagere på pletter eller mærker, som ikke er blod. Og det kan have svært ved at afkode kommentarer, hvor brugere bruger emojis eller interne signaler til at omgå reglerne.

Den type fejl er vigtig, fordi moderation på sociale medier sjældent kun handler om det åbenlyse. Ofte ligger problemet i hensigten, sammenhængen eller den måde, brugerne forsøger at skjule betydningen på.

Det er netop her, menneskelige moderatorer traditionelt har haft en rolle.

Brugernes sikkerhed er på spil

TikToks videoer sorteres til moderation efter sprog snarere end region. Derfor kan ændringer i moderationskapaciteten påvirke brugere bredere end ét enkelt marked.

Samtidig er sociale medier under voksende pres for at beskytte børn og unge bedre mod skadeligt indhold online. Det øger kravene til, at automatiserede systemer ikke bare er hurtige, men også præcise.

For TikTok bliver den nye kurs derfor en balancegang. Platformen skal effektivisere sit sikkerhedsarbejde, men den skal samtidig overbevise brugere, medarbejdere og myndigheder om, at AI kan løfte mere af ansvaret.

Hvis teknologien tager fejl, kan konsekvensen være, at skadeligt indhold bliver liggende for længe, eller at harmløst indhold fjernes forkert.