En mulig AI-jailbreak fik USA til at gribe ind – nu rammes alle kunder

En mulig jailbreak-risiko er centrum i den sag, der nu får Anthropic til at deaktivere sine mest avancerede AI-modeller.

Ifølge Reuters har USA beordret selskabet til at suspendere adgang til Fable 5 og Mythos 5 for udenlandske statsborgere. Anthropic siger, at konsekvensen bliver, at modellerne må lukkes for alle kunder.

Jailbreaks er metoder, der forsøger at omgå en AI-models sikkerhedsforanstaltninger. I denne sag mener Anthropic, at regeringen er bekymret for, at Fable 5 kan omgås på en måde, der gør modellen brugbar til at identificere software-sårbarheder.

Anthropic siger dog, at regeringen ikke har givet konkrete detaljer om den nationale sikkerhedsbekymring. Selskabet beskriver bevisgrundlaget som mundtlige oplysninger om en mulig, snæver og ikke-universel jailbreak-risiko.

Derfor kritiserer Anthropic indgrebet.

“We disagree that the finding of a narrow potential jailbreak should be cause for recalling a commercial model deployed to hundreds of millions of people,” siger selskabet.

Sagen er en eskalation i USA’s forsøg på at begrænse udenlandske aktørers adgang til avanceret AI. Tidligere har eksportkontrol i højere grad handlet om chips og værktøjer. Nu er selve modeladgangen blevet en del af konflikten.

Anthropic siger, at alle kunder mister adgang til Fable 5 og Mythos 5 for at sikre overholdelse af ordren. Selskabets øvrige modeller bliver ikke påvirket.

Amazons cloud-enhed AWS siger ifølge kildeteksten, at Anthropic har bedt den om at tilbagekalde adgang til modellerne for alle brugere i alle regioner.

Anthropic fastholder, at der er tale om en misforståelse, og at selskabet arbejder på at genoprette adgangen hurtigst muligt.