WhatsApp får ny AI-advarsel mod svindel

WhatsApp tester en ny funktion, der skal advare brugere, når beskeder fra personer uden for kontaktlisten kan ligne svindel. Funktionen hedder “Scam Alert” og bruger kunstig intelligens til at vurdere, om en samtale har tegn på svindelforsøg.

Det skriver ifølge Independent, som beskriver funktionen som en ny sikkerhedsopdatering i WhatsApp.

Skal selv slås til

Scam Alert bliver ikke automatisk aktiveret for alle brugere fra start. Brugeren skal selv slå funktionen til, hvorefter WhatsApp downloader en maskinlæringsmodel, der kan analysere relevante beskeder direkte på telefonen.

Funktionen retter sig mod beskeder fra personer, som ikke allerede findes i brugerens kontakter. Her vurderer systemet blandt andet samtalens struktur og sproglige signaler for at finde mønstre, der kan pege på svindel.

Hvis WhatsApp vurderer, at en besked kan være mistænkelig, vises en advarsel i chatten. Den anden person i samtalen kan ikke se advarslen. Brugeren kan derefter vælge at blokere, rapportere eller fortsætte samtalen.

Meta fremhæver lokal behandling

Et centralt punkt i funktionen er, at analysen ifølge Meta foregår på selve enheden og ikke ved, at samtalen sendes til WhatsApp eller en tredjepart.

Independent skriver, at værktøjet “runs entirely on the device”. Det betyder, at selve vurderingen af beskederne sker lokalt, når funktionen er slået til.

Der bliver dog delt visse oplysninger med WhatsApp. Ifølge beskrivelsen handler det om særlige signaler, der behandles anonymt, så Meta kan følge med i, om funktionen virker, og holde systemet opdateret i forhold til nye former for svindel.

Bygger på tidligere rapporterede samtaler

Scam Alert er udviklet med udgangspunkt i samtaler, som WhatsApp-brugere tidligere har rapporteret som mulige svindelforsøg. De indgår i træningen af et AI-system, der kan genkende ligheder mellem kendte svindelmønstre og nye beskeder.

Funktionen er foreløbig kun på vej ud i en begrænset betaversion til tidlige brugere. Meta vil stressteste systemet og opfordrer samtidig forskere til at finde fejl, før funktionen eventuelt bliver rullet bredere ud til WhatsApp-brugere.