AI-agenter med hukommelse: hvad betyder det for jeres data?

Den 12. oktober udgav Meta sin første store AI-model, Muse Wonder. Et af de punkter, Meta fremhæver, er "aktiv hukommelse": Modellen skal kunne huske og bruge de oplysninger, en bruger giver den, over lang tid. Det er praktisk. Det er også et GDPR-spørgsmål.

Hvad er der sket?

Ifølge TechCrunch udgav Metas Superintelligence Lab to modeller, Muse Wonder og Muse Wonder Full. Muse Wonder kan bruges via Metas API til 4 USD pr. million input-tokens og 20 USD pr. million output-tokens. Muse Wonder Full er kun for abonnenter på Muse Code og kan ikke bruges via API. Begge skal drive Metas agent, Muse. Meta siger, at modellen er bedre end andre til at huske brugerens oplysninger, men resultaterne er Metas egne, og der er ikke uafhængige tests i omtalen. Omtalen oplyser heller ikke, om modellen er åben eller lukket.

Hukommelse i agenter er ikke noget, Meta har opfundet alene. Det er en retning, hele branchen bevæger sig i. Derfor er spørgsmålene nedenfor værd at kende, uanset hvilken leverandør I ender med.

Hvorfor hukommelse er et GDPR-spørgsmål

En almindelig chat glemmer, når samtalen er slut. En agent med hukommelse gør ikke. Hvis en medarbejder fortæller agenten, at kunden Anna Hansen har klaget over en levering, og at hun er svær at tilfredsstille, så er det en personoplysning, der nu lever videre i et system. Så gælder de sædvanlige regler: formål, dataminimering, opbevaringsperiode, ret til indsigt og ret til sletning. Datatilsynet og EU's regler er ikke ændret, fordi teknologien er nyere.

Seks spørgsmål til leverandøren

1. Hvor gemmes hukommelsen, og hvem har adgang? I EU eller udenfor? Hos leverandøren eller hos jer?

2. Hvor længe gemmes den? Kan I selv bestemme opbevaringstiden, eller er den fast?

3. Kan en enkelt person slettes? Hvis en kunde beder om sletning eller indsigt, kan I finde og fjerne netop de oplysninger, agenten har husket?

4. Bruges hukommelsen eller samtalerne til at træne modellen? Det skal stå klart i vilkårene, og I skal kunne sige nej.

5. Er der en databehandleraftale, og hvem er underdatabehandlere? Og hvad er grundlaget, hvis data overføres til lande udenfor EU?

6. Kan I slå hukommelsen fra eller afgrænse den? Fx så den kun husker interne arbejdsregler, ikke oplysninger om kunder.

Omtalen af Muse Wonder besvarer ikke nogen af de seks spørgsmål. Det er ikke en kritik af Meta, men et eksempel: En lancering fortæller, hvad modellen kan, ikke hvad den gør ved jeres data.

Tre regler, der gælder fra dag ét

• Start uden persondata. Brug en agent med hukommelse til arbejdsregler, tone og faste processer, før I giver den kundeoplysninger.

• Skriv det ind i jeres AI-politik. Hvilke oplysninger må en agent huske, og hvem skal kunne se dem? Se AI-politik til medarbejdere.

• Få en juridisk vurdering, før I går i drift med kundedata. Det her er vejledende og ikke juridisk rådgivning. Spørg jeres jurist eller databeskyttelsesrådgiver.

Tip: Prøv selv at bede en leverandør om at slette ét bestemt faktum, som agenten har husket. Hvis de ikke kan vise, hvordan det gøres, er hukommelsen ikke klar til kundedata.

Læs også ChatGPT og kundedata: det skal I vide om GDPR. Vil I have hjælp til at sætte rammer for AI i jeres virksomhed? Se AI-rådgivning, eller book en uforpligtende samtale.