Californias nye lover setter grenser for AI-overvåking: toalettbesøk, følelser og oppsigelser
Ansatte i Co-op Legal Services i Storbritannia får hver eneste kundesamtale registrert, analysert og gitt en prosentpoengsum av AI-modeller, ifølge fersk rapportering i The Guardian. Samme måned skjer det noe nytt: Den 30. september 2026 signerte Californias guvernør Gavin Newsom en pakke arbeidslivslover som setter juridiske grenser for nettopp slike overvåkingssystemer – de fleste med ikrafttredelse 1. januar 2027. Historien viser praksis og regulering side om side i samme nyhetssyklus.
Hva rapporteringen fra Co-op viser
The Guardians TechScape-nyhetsbrev, skrevet av Blake Montgomery og publisert 13. oktober 2026, beskriver hvordan Co-op Legal Services bruker AI-modeller til å registrere, analysere og gi en prosentpoengsum for samtalene mellom rådgivere og kunder som søker råd om skifte, testamenter og bofordelser (Guardian TechScape).
Kildene i saken er anonyme. En varsler som ikke er navngitt, beskriver ifølge Guardian systemet som «undertrykkende og dystopisk». En Co-op-ansatt som snakket med avisen under betingelse av anonymitet, sa ifølge rapporteringen: «Du blir overvåket.»
Co-op avviser fremstillingen. Selskapet sa ifølge Guardian at det ikke gjenkjenner kritikken, og at skifterådgiverne er svært engasjerte. Dette er selskapets egen fremstilling, og motsetningen mellom arbeidstakernes anonyme beskrivelser og selskapets versjon er uavklart. Ingen av partenes påstander er uavhengig etterprøvd.
Det er verdt å merke seg hva rapporteringen ikke inneholder: verken leverandør, poengsettingsmetodikk eller hvilke ansatte som dekkes av systemet er spesifisert. Det som står fast er kjernen – registrering, automatisert analyse og en prosentpoengsum per samtalte interaksjon.
Hvordan slike systemer fungerer – og hvorfor de er omstridt
Mønstret som beskrives fra Co-op er en kjent kategori verktøy: kundesamtaler spilles inn, programvare analyserer innholdet og leverer en automatisk vurdering av hver interaksjon, ofte som en tallverdi som kan sammenlignes på tvers av ansatte og over tid.
Guardian peker selv i samme rapportering på problemet med denne modellen: Ansatte verden over blir i stadig større grad minutiøst overvåket på arbeidsplassen, og små endringer i atferden kan gi negative prestasjonsevalueringer. Når vurderingen er automatisert, er den også skalerbar – et system kan vurdere samtlige samtaler hver dag, ikke bare et utvalg.
Guardian plasserer Co-op-saken i et større mønster av tidligere rapporterte klager, som avisen gjengir uten å etterprøve dem på nytt: Ansatte i Amazons lagre har tidligere klaget over å bli tidsmålt på toalettbesøk. Og ved Kaiser Permanente, en californisk sykehuskjede, har sykepleiere sagt at automatiserte systemer vurderte tonefallet deres i pasientinteraksjoner. Begge eksemplene er altså sekundære gjengivelser av tidligere saker – ikke ny bekreftet dokumentasjon.
California svarer med lovverk
Samme måned som Guardian-rapporteringen ble publisert, tok regulatoriske motvekter form i USA. Den 30. september 2026 signerte guvernør Gavin Newsom flere nye arbeidslivslover om kunstig intelligens, arbeidsplassovervåking og lønnsrapportering, ifølge en gjennomgang av advokatfirmaet Polsinelli, publisert på JDSupra 9. oktober 2026. De fleste bestemmelsene trer i kraft 1. januar 2027.
Tre av lovene berører overvåkingspraksisen direkte:
- AB 1331 utvider californiske vern om arbeidsplassprivat ved å begrense arbeidsgivere fra å bruke overvåkingsteknologi, inkludert visse sporringsverktøy, til å overvåke ansatte på arbeidsplassens toaletter.
- AB 1883 forbyr AI-verktøy som samler inn nevraldata eller utleder ansattes emosjonelle tilstand.
- SB 947, med ikrafttredelse 1. juli 2027, setter grenser for automatiserte beslutningssystemer i personalebeslutninger: Arbeidsgivere kan ikke utelukkende stole på et automatisert beslutningssystem for å disiplinere eller si opp en ansatt. Hvis arbeidsgiver i hovedsak støtter seg på et slikt system, må en menneskelig vurderer bekrefte anbefalingen ved hjelp av underliggende data eller annen dokumentasjon.
SB 947 er den mest direkte relevante for praksisen Co-op beskrives med – selv om loven ikke gjelder i Storbritannia. Den etablerer et prinsipp: en poengsum generert av en modell kan ikke alene ligge til grunn for disiplinærsaker eller oppsigelser – et menneske må bekrefte konklusjonen mot kildedataene.
Hva lovene faktisk dekker – og hva de ikke dekker
Det er viktig å holde jurisdiksjonen klar. Dette er delstatslover i California, med virkning for arbeidsgivere der. De gjelder ikke for britiske selskaper som Co-op, og de er ikke nasjonal lovgivning i USA. Co-ops system vurderes altså i dag kun av britisk regelverk, som ikke berøres av disse kildene.
Det foreligger ingen håndhevingssaker eller rettspraksis under de nye lovene ennå – de fleste bestemmelsene trer i kraft først 1. januar 2027, og SB 947 først 1. juli 2027. Beskrivelsen av lovenes innhold kommer fra en advokatfirmagjennomgang, ikke fra selve lovteksten.
Det som gjenstår å finne ut
Flere sentrale spørsmål står åpent:
- Hvem har rett om Co-op? Arbeidstakernes og varslerens beskrivelser og selskapets avvisning utgjør en uavklart motsetning. Ingen uavhengig dokumentasjon av systemets virkning på ansatte foreligger i det tilgjengelige materialet.
- Hvordan fungerer poengsettingen? Uten detaljer om leverandør, metodikk og omfang kan man ikke vurdere hvor nøyaktig eller rettferdig vurderingen er – et tomrom som de californiske lovene bare delvis adresserer, ved å kreve menneskelig etterkontroll mot dataene.
- Vil flere delstater følge etter? Californias pakke er den mest konkret formulerte reguleringsbevegelsen i dette kildematerialet, men rekkevidden utover delstaten er ukjent.
Co-op-saken viser at AI-drevet arbeidsplassovervåking – fra tidsmålte toalettbesøk til vurderte tonefall i sykepleierens stemme, ifølge tidligere rapporterte klager gjengitt i Guardian – også finnes i britisk tjenestesektor, der kundene ringer om de mest sårbare øyeblikkene i livet: dødsfall, bo og testamenter. Californias nye lover er konkrete juridiske motvekter – men de gjelder i én delstat, og de trer ikke helt i kraft før i 2027.
California's new laws set limits on AI workplace monitoring: bathroom breaks, emotions and firings
Employees at Co-op Legal Services in the UK have every single customer call recorded, analyzed and given a percentage score by AI models, according to fresh reporting in The Guardian. That same month, something new happened: on 30 September 2026, California Governor Gavin Newsom signed a package of workplace laws that sets legal boundaries for exactly this kind of monitoring system — most of them taking effect on 1 January 2027. The story shows practice and regulation side by side in the same news cycle.
What the Co-op reporting shows
The Guardian's TechScape newsletter, written by Blake Montgomery and published on 13 October 2026, describes how Co-op Legal Services uses AI models to record, analyze and assign a percentage score to the calls between advisers and customers seeking advice on probate, wills and estates (Guardian TechScape).
The sources in the story are anonymous. An unnamed whistleblower describes the system, according to the Guardian, as "oppressive and dystopian." A Co-op employee who spoke to the paper on condition of anonymity said, according to the reporting: "You are being watched."
Co-op rejects the characterization. The company said, according to the Guardian, that it does not recognize the criticism and that its probate advisers are highly engaged. This is the company's own account, and the contradiction between the workers' anonymous descriptions and the company's version remains unresolved. Neither side's claims have been independently verified.
It is worth noting what the reporting does not contain: neither the vendor, the scoring methodology, nor which employees are covered by the system is specified. What stands firm is the core — recording, automated analysis and a percentage score for every call interaction.
How such systems work — and why they are controversial
The pattern described at Co-op is a familiar category of tool: customer calls are recorded, software analyzes the content, and an automated assessment is produced for every interaction, often as a numeric value that can be compared across employees and over time.
The Guardian itself points to the problem with this model in the same reporting: workers worldwide are increasingly being minutely monitored in the workplace, and small changes in behavior can result in negative performance evaluations. Once the assessment is automated, it is also scalable — a system can assess every call, every day, not just a sample.
The Guardian places the Co-op case within a larger pattern of previously reported complaints, which the paper recounts without re-verifying them: Employees in Amazon's warehouses have previously complained of being timed on bathroom visits. And at Kaiser Permanente, a California hospital chain, nurses have said automated systems assessed their tone of voice in patient interactions. Both examples are therefore second-hand accounts of earlier cases — not newly confirmed documentation.
California responds with legislation
The same month the Guardian reporting was published, regulatory counterweights took shape in the US. On 30 September 2026, Governor Gavin Newsom signed several new employment laws covering artificial intelligence, workplace surveillance and pay reporting, according to a review by the law firm Polsinelli, published on JDSupra on 9 October 2026. Most provisions take effect on 1 January 2027.
Three of the laws touch this monitoring practice directly:
- AB 1331 expands California's workplace privacy protections by restricting employers from using monitoring technology, including certain tracking tools, to monitor employees in workplace bathrooms.
- AB 1883 prohibits AI tools that collect neural data or infer employees' emotional states.
- SB 947, effective 1 July 2027, sets limits on automated decision systems in personnel decisions: employers may not rely solely on an automated decision system to discipline or terminate an employee. If an employer relies primarily on such a system, a human reviewer must corroborate the recommendation using underlying data or other documentation.
SB 947 is the most directly relevant to the practice described at Co-op — even though the law does not apply in the UK. It establishes a principle: a model-generated score cannot alone form the basis for disciplinary action or termination — a human must verify the conclusion against the source data.
What the laws actually cover — and what they don't
It is important to keep the jurisdiction clear. These are state laws in California, with effect for employers there. They do not apply to British companies like Co-op, and they are not national legislation in the US. Co-op's system is therefore currently assessed only under UK regulation, which these sources do not address.
There are no enforcement cases or legal precedents under the new laws yet — most provisions do not take effect until 1 January 2027, and SB 947 not until 1 July 2027. The description of the laws' content comes from a law firm review, not from the statutory text itself.
What remains to be seen
Several central questions remain open:
- Who is right about Co-op? The workers' and whistleblower's descriptions and the company's rejection form an unresolved contradiction. No independent documentation of the system's effect on employees exists in the available material.
- How does the scoring work? Without details on the vendor, methodology and scope, it is impossible to assess how accurate or fair the assessment is — a gap that the California laws only partly address, by requiring human review against the data.
- Will more states follow? California's package is the most concretely formulated regulatory movement in this source material, but its reach beyond the state is unknown.
The Co-op case shows that AI-driven workplace monitoring — from timed bathroom visits to assessed tone of voice in nurses' speech, according to previously reported complaints recounted in the Guardian — also exists in the British service sector, where customers call about the most vulnerable moments of their lives: deaths, estates and wills. California's new laws are concrete legal counterweights — but they apply in one state, and they do not fully take effect until 2027.