Anthropic utvider Claude-vannmerket til fire eldre modeller fra 3. november

Anthropic utvider Claude-vannmerket til fire eldre modeller fra 3. november

Anthropic ruller nå ut sitt usynlige tekstvannmerke til fire eldre Claude-modeller: Mythos 5, Opus 4.7, Opus 4.6 og Sonnet 4.6. Utvidelsen skal ifølge en e-post til API-kunder begynne 3. november – men på to av modellene følger det med en begrensning Anthropic selv har innrømmet: på Opus 4.6 og Sonnet 4.6 deaktiveres vannmerket i det stille hvis API-kallet endrer så mye som én av tre standard samplingparametere. For utviklere som regner med vannmerket i EU AI Act-sammenheng, med frist 2. desember, betyr det at innstillingene i produksjon bør gjennomgås nå.

Hva som endres

Vannmerket ble lansert i august som svar på EU-regelverk som krever slik merking av generert innhold, og det ble fra starten av rullet ut til selskapets nyeste modeller. Nå utvides det til eldre systemer. Ifølge The Independent er det ingen mulighet til å melde seg ut, og vannmerket gjelder alle brukere globalt – til tross for at begrunnelsen er europeisk regulering.

Startdatoen 3. november er imidlertid ikke bekreftet gjennom Anthropics offisielle sider. Den stammer fra en e-post sendt til API-kunder, kjent gjennom The Decoders dekning og videreformidlet av flere utgivelser; en japansk teknologiblogg som sitter på skjermbilder av e-posten, bemerker at datoen «ikke ennå er oppført på Anthropics offisielle side». Det er altså en tredjehåndskilde for selve datoene, mens selve utvidelsen til de fire modellene er bekreftet av flere uavhengige rapporter.

Sårbarheten Anthropic selv har innrømmet

Det mest oppsiktsvekkende er ikke utvidelsen, men hva Anthropic har sagt om den. Ifølge The Independent opplyser selskapet at endring av instillingene som styrer hvordan systemet velger ord – som gjøres via API-et – fjerner vannmerket på Opus 4.6 og Sonnet 4.6.

The Decoder, som først omtalte forbeholdet, har identifisert de tre parametrene: temperature, top_p og top_k. Vannmerket på de to modellene aktiveres bare når API-kallene bruker de eksakte standardverdiene for alle tre. Endres én av dem, deaktiveres vannmerket uten at det signaliseres – ingen feilmelding returneres, ingen advarsel vises i svaret. En utvikler som tilpasser samplingen for kreativ skriving eller kontrollert generering, kan altså tro at teksten er vannmerket når den ikke er det.

Anthropics eget råd i kundee-posten, sitert gjennom The Decoder, sier det rett ut: «Hvis du er avhengig av vannmerket for din egen compliance, hold disse innstillingene på standardverdiene.»

Det er verdt å være presis med omfanget: Beviset dekker bare Opus 4.6 og Sonnet 4.6. Det finnes ingen dokumentasjon for at Mythos 5 eller Opus 4.7 har samme svakhet, og det bør ikke antas.

Hvorfor skjer det? Mekanismen bak

Vannmerket bygger ifølge teknisk analyse på Google DeepMinds SynthID-Text-metode, publisert i Nature i oktober 2024. Metoden bruker det som kalles turneringssampling: Under tekstgenereringen samles en gruppe kandidatord, og et ekstra «vannmerkelag» påvirker hvilket ord som til slutt velges, på en måte som er statistisk sporbar senere – uten at teksten blir lesbar annerledes for mennesker.

Nøkkelen til sårbarheten ligger i når mekanismen blev lagt til. På Opus 4.6 og Sonnet 4.6 ble vannmerket ettermontert på ferdigtrente modellvekter. Turneringssamplingen jobber inne i selve ordvelget, og når en utvikler endrer temperaturen eller top_p/top_k, forskyves grunnlaget for hvordan kandidatordene rangeres og velges. Resultatet er at den statistiske signaturen enten ikke blir lagt inn eller ikke lenger kan påvises pålitelig – derfor slås vannmerket av i stedet for å fungere feil.

De nyeste modellene – Opus 5.5, Haiku 5.5 og Sonnet 5.5 – har ikke denne begrensningen. Der var vannmerkingen integrert under selve treningen, slik at mekanismen ble optimalisert som en del av modellens arkitektur fremfor å ligge som et lag oppå ferdige vekter.

Compliance-fristen som gjør dette presserende

Konteksten er EU AI Acts artikkel 50(2), som krever maskinlesbar merking av KI-generert tekst. Fristen er 2. desember – omtrent en måned etter vannmerkutvidelsen den 3. november. For utviklere som planlegger å bruke Claude-vannmerket som del av sin etterlevelse, er tidsvinduet til å verifisere at produksjonskallene holder samplingparametrene på standardverdiene dermed målt i dager.

Det finnes en viktig begrensning også på detektjonssiden. Verktøyet for å sjekke om tekst bærer vannmerket er fortsatt i en pilotfase, og tilgangen er begrenset til myndigheter, nyhetsorganisasjoner, faktasjekk-grupper, forskere og utdanningsinstitusjoner. Det vil si at en bedrift i utgangspunktet ikke selv kan verifisere at egne utdata faktisk er vannmerket – enda en grunn til at de stille deaktiveringspunktet på Opus 4.6 og Sonnet 4.6 er et praktisk problem og ikke bare et teknisk kuriosum.

Åpne spørsmål

Flere forhold er fortsatt uavklart. Anthropic har ikke publisert primær dokumentasjon om parametravhenigheten, og selskapet har ikke kommet med offentlig respons utover den rapporterte rådgivningse-posten. E-postens eksakte ordlyd er kjent bare gjennom The Decoders dekning.

Det finnes dessuten en annen, separat måte å unngå vannmerket på, som bør holdes fra hverandre: The Independent har rapportert at brukere rett og slett kan velge enda eldre modeller – helt tilbake til Opus 3 – som ikke er vannmerket. Det er et spørsmål om modellvalg, ikke om API-parametere, og det peker på en bredere begrensning ved utrullingen: Vannmerket følger modellene, ikke selskapets hele produksjon.

Og det gjenstår å se hvordan regelverk og praksis forholder seg til dette. MSNs syndikerte analyse antyder at de fleste produksjons-oppsett bruker ikke-standard sampling, men det er mediet egen analyse, ikke en verifisert størrelse. Hva som faktisk kreves for å oppfylle artikkel 50(2) – og om et vannmerke som slås av ved vanlige API-konfigurasjoner regnes som tilstrekkelig merking – er spørsmål myndighetene ennå ikke har besvart offentlig.

Det konkrete rådet står uansett i Anthropics egen e-post: Sjekk at temperatur, top_p og top_k står på standardverdiene i alle produksjonskall der vannmerket er en del av compliance-bildet – på Opus 4.6 og Sonnet 4.6 spesielt, for der er forskjellen mellom vannmerket og ingen vannmerket usynlig både for brukeren og for svaret som kommer tilbake.