AI-agenter, GDPR och AI-förordningen: vad företag behöver veta

En AI-agent som svarar kunder, sammanfattar ärenden eller bokar möten kommer nästan alltid i kontakt med personuppgifter. Det räcker att en kund skriver sitt namn och telefonnummer i ett chattfönster. Frågan är därför inte om GDPR gäller, utan hur ni lägger upp arbetet så att det håller. Texten är allmän information och ersätter inte juridisk rådgivning.

Det mesta ni redan gör för övriga IT-system gäller även här. Agenten är ytterligare ett system som behandlar personuppgifter, med några egna egenheter: den läser fritext, den kan agera i flera steg på egen hand och den skickar ofta data till en extern leverantör. Det är de tre sakerna som kräver extra eftertanke.

Vilka personuppgifter hanterar en AI-agent?

Börja med att kartlägga vad agenten faktiskt ser, inte vad ni tror att den ser. Det brukar vara fler uppgiftstyper än man räknat med:

• Identifierande uppgifter som namn, e-postadress, telefonnummer, adress och kundnummer.
• Innehållet i samtal och meddelanden. Kunder skriver ofta mer än ni frågat efter, till exempel om sjukdom, ekonomi eller familjeförhållanden.
• Röstinspelningar och transkriberingar, om agenten svarar i telefon.
• Uppgifter som agenten hämtar från andra system, som CRM, ärendehantering eller orderhistorik.
• Uppgifter om medarbetare, om agenten används internt för schema, frånvaro eller HR-frågor.

Särskilt uppmärksam ska ni vara på känsliga uppgifter, till exempel om hälsa. En vårdcentral eller en tandläkarmottagning hanterar sådant dagligen och har strängare krav. Ett byggföretag eller en grossist har normalt inga känsliga uppgifter i sina flöden, men ett fritextfält kan ändå fånga dem. Bestäm därför vad agenten ska göra när en kund delar något den inte borde ha fått: avbryta vänligt, hänvisa till en person och inte spara det i onödan.

Ge agenten minsta möjliga åtkomst

Dataminimering är den enklaste skyddsåtgärden. En agent som bokar verkstadstider behöver registreringsnummer, kontaktuppgifter och lediga tider, men inte hela kundhistoriken. Begränsa behörigheterna redan när ni kopplar agenten till era system, något som beskrivs närmare i artikeln om AI-agenter och era befintliga system.

Rättslig grund och ändamål

All behandling av personuppgifter behöver ett tydligt ändamål och en rättslig grund. I praktiken landar de flesta användningsfall för AI-agenter i någon av dessa:

• Avtal: agenten hjälper en befintlig kund med något som hör till avtalet, till exempel att boka om en servicetid.
• Berättigat intresse: agenten svarar på vanliga frågor eller tar emot förfrågningar från personer som ännu inte är kunder. Här ska ni göra och dokumentera en avvägning mellan ert intresse och den enskildes.
• Samtycke: behövs framför allt för sådant som marknadsföring till privatpersoner. Det måste vara frivilligt och går att dra tillbaka.

Ändamålsbegränsning är den punkt som oftast missas. Uppgifter som samlats in för att boka en tid kan inte utan vidare användas för att träna agenten eller för utskick. Bestäm ändamålen i förväg och skriv ner dem.

Uppdatera också integritetsinformationen. Kunderna ska kunna läsa att ni använder en AI-agent, vilka uppgifter den hanterar, vilka leverantörer som är inblandade och hur länge uppgifterna sparas. Var extra noga om agenten fattar beslut som påverkar en person på ett betydande sätt, som att avslå en ansökan. Rent administrativa uppgifter, som att boka tider och dirigera ärenden, hamnar sällan där.

Personuppgiftsbiträdesavtal med leverantören

När en leverantör behandlar personuppgifter för er räkning är ni personuppgiftsansvarig och leverantören personuppgiftsbiträde. Då krävs ett skriftligt avtal. Kontrollera att det täcker följande:

• Leverantören får bara behandla uppgifterna enligt era instruktioner.
• Underbiträden är redovisade. En AI-agent bygger ofta på flera led, som molnplattform, språkmodell och taligenkänning, och ni ska veta vilka som ingår och få besked när något byts ut.
• Säkerhetsåtgärder och rutiner för incidenter är beskrivna.
• Uppgifterna raderas eller lämnas tillbaka när avtalet upphör.
• Leverantören använder inte er data för att träna egna modeller, om ni inte uttryckligen har sagt ja.
• Ni har rätt att begära information och göra granskningar.

Avtalskravet gäller även om ni bygger agenten själva ovanpå en modelltjänst. Då är modelltjänstens leverantör ert biträde. Det vanligaste misstaget är att någon på företaget provar ett gratisverktyg med riktiga kunduppgifter. Skriv därför i er policy att bara godkända verktyg med tecknat avtal får användas.

Var lagras data? EU, EES och tredjeland

Ställ tre separata frågor till leverantören. Var lagras data i vila? Var sker själva bearbetningen när agenten tänker, alltså modellanropet? Och varifrån kan leverantörens support komma åt den? Svaren kan skilja sig åt, och ett svenskt säljbolag säger ingenting om var servrarna står.

Stannar allt inom EU och EES är läget enklare. Överförs uppgifter till ett land utanför, ett så kallat tredjeland, krävs en giltig grund för överföringen. Det kan vara ett beslut från EU-kommissionen om att landet har en tillräcklig skyddsnivå, eller standardavtalsklausuler med kompletterande skydd. Be leverantören redovisa vilken grund som används och för vilka delar av tjänsten.

Många leverantörer erbjuder en EU-region. Välj den när agenten hanterar kunduppgifter, och dokumentera svaren så att ni kan visa dem vid en granskning.

Loggning och gallring

En agent behöver loggar för felsökning, kvalitetsarbete och spårbarhet. Samtidigt är loggarna personuppgifter i sig, eftersom de ofta innehåller hela samtalstexten. Bestäm följande innan ni går live:

• Vad som loggas: hela samtal, bara metadata eller sammanfattningar.
• Vem som får läsa: begränsa till ett fåtal roller och logga åtkomsten.
• Hur länge: kort för råa samtal, längre för anonymiserad statistik.
• Hur gallringen går till: automatiskt, inte när någon kommer ihåg det.
• Hur ni hittar och raderar en enskild persons samtal om någon begär registerutdrag eller radering.

Röstinspelningar kräver särskild eftertanke. Fråga er om ni behöver spara ljudet alls. Ett fastighetsbolag som tar emot felanmälningar per telefon kan ofta nöja sig med en transkribering som skapar ärendet, medan ljudfilen raderas direkt. Någon allmän gallringstid finns inte, utan den avgörs av ändamålet och måste kunna motiveras.

AI-förordningens riskklasser på allmän nivå

EU:s AI-förordning delar in AI-system efter hur stor risk de medför. Reglerna börjar gälla stegvis, så kontrollera aktuell status för de delar som berör er. På allmän nivå ser indelningen ut så här:

• Förbjuden användning: system som manipulerar människor på ett skadligt sätt eller används för social poängsättning. Ett vanligt företag hamnar sällan i närheten.
• Hög risk: system inom områden som rekrytering, kreditbedömning, utbildning och vissa delar av vård och väsentliga tjänster. Här gäller omfattande krav på riskhantering, dokumentation och mänsklig tillsyn.
• Begränsad risk: framför allt transparenskrav. Människor som pratar med ett AI-system ska få veta att det är en AI.
• Minimal risk: allt övrigt, som interna sammanfattningar, mejlutkast och sökning i dokument. Förordningen ställer få särskilda krav, men GDPR gäller fortfarande.

De flesta användningsfall i små och medelstora företag hamnar i begränsad eller minimal risk. En kundtjänstagent, en AI-receptionist eller ett verktyg för mötesprotokoll är typiska exempel. Klassningen avgörs av användningen, inte av tekniken. Samma modell kan vara minimal risk i ett sammanhang och hög risk i ett annat. Om agenten sorterar jobbansökningar eller bedömer vem som får kredit bör ni gå försiktigt fram och ta juridisk hjälp.

Er roll som användare

Köper ni en färdig agent är leverantören den som ansvarar för systemet, och ni är användare med egna skyldigheter. Ni ska följa leverantörens instruktioner, se till att en människa kan ingripa, informera dem som berörs och säkerställa att personalen som arbetar med agenten har tillräcklig kunskap om vad den kan och inte kan.

Transparens i praktiken

Säg det direkt. En enkel inledning som "Du pratar med en AI-assistent hos Bilhallen, och jag kan koppla dig till en kollega när du vill" räcker långt. Gömmer ni att det är en maskin urholkas både förtroendet och efterlevnaden.

Intern policy och dokumentation

En policy för AI-användning behöver inte vara lång. En till två sidor som alla faktiskt läser är bättre än ett tjockt dokument i en mapp. Den bör svara på vilka verktyg som är godkända, vem som beslutar om nya användningsfall, vilka uppgifter som aldrig får matas in, hur medarbetarna ska behandla agentens svar och vem man kontaktar vid en incident.

Dokumentationen är det ni visar upp om någon frågar. Den bör innehålla:

• En förteckning över era AI-system med användningsfall och riskklass.
• Uppdaterad behandlingsförteckning och, när behandlingen kan medföra hög risk för individer, en konsekvensbedömning.
• Biträdesavtal och information om var data lagras.
• Rutiner för loggning, gallring och registerutdrag.
• Resultat från tester och beslut om hur den mänskliga tillsynen fungerar.

Utse en ägare för varje agent och gå igenom dokumentationen när något ändras, till exempel när leverantören byter modell eller ni kopplar på ett nytt system. Behöver ni stöd i att ta fram underlaget kan ni läsa mer om hur vi arbetar med AI-agenter hos Techgruppen eller höra av er direkt.

Checklista före driftsättning

Område	Fråga att besvara	Klart när
Kartläggning	Vilka personuppgifter ser agenten?	Lista finns, känsliga uppgifter är identifierade
Rättslig grund	Varför får vi behandla uppgifterna?	Ändamål och grund är nedskrivna per användningsfall
Information	Vet kunderna att en AI används?	Integritetsinformationen är uppdaterad
Biträdesavtal	Har vi avtal med leverantören och dess underbiträden?	Avtal är tecknat och underbiträden redovisade
Lagring	Var lagras och bearbetas data?	EU eller EES är valt, eller överföringsgrund är dokumenterad
Behörigheter	Vad får agenten läsa och ändra?	Åtkomsten är begränsad till det som behövs
Loggning	Vad sparas, av vem och hur länge?	Automatisk gallring är påslagen
Riskklass	Vilken riskklass har användningsfallet?	Bedömningen är dokumenterad
Transparens	Säger agenten att den är en AI?	Meddelandet visas i första kontakten
Mänsklig tillsyn	Kan kunden nå en person?	Överlämning är testad
Policy	Vet medarbetarna vad som gäller?	Policyn är beslutad och kommunicerad