Shadow AI: GDPR-risikoen, der gemmer sig bag dit teams AI-værktøjer

Vigtigste pointer

• Shadow AI er allerede udbredt. Medarbejdere tager AI-værktøjer i brug hurtigere, end mange organisationer kan nå at vurdere og godkende dem formelt.
• Det opstår på to forskellige måder. Persondata kan blive delt via en privat AI-konto, eller et AI-værktøj kan få direkte adgang til virksomhedens systemer. De to situationer kræver forskellige løsninger.
• Dataene bag værktøjerne betyder noget. Hvis Microsoft 365 indeholder unødvendige eller forældede persondata, kan AI gøre dem langt lettere at finde.
• En AI-politik er nyttig, men ikke nok. Organisationer har også brug for indsigt i, hvilke værktøjer medarbejderne bruger, og hvilke data værktøjerne har adgang til.
• Oprydning i data før en større AI-udrulning reducerer risikoen fra starten.
• Prioritering er vigtig. Compliance-teams skal kunne fokusere på reelt følsomme oplysninger uden at drukne i falske positiver.

Hvad er Shadow AI?

Shadow AI er brugen af AI-værktøjer, applikationer eller plugins til arbejdsrelaterede opgaver uden formel godkendelse eller kontrol fra IT-, sikkerheds- eller compliance-teams.

I praksis kan det være så enkelt som en medarbejder, der indsætter en kundemail i ChatGPT for at skrive et svar, en leder, der uploader mødenoter med HR-oplysninger til et transskriptionsværktøj, eller en udvikler, der forbinder en AI-kodeassistent til et repository.

Overordnet set kan risikoen opdeles i to kategorier, og det er værd at holde dem adskilt.

Den første er data, der deles via private AI-konti: En medarbejder kopierer, indsætter eller uploader et dokument, en e-mail eller et datasæt til en privat ChatGPT-, Gemini- eller Claude-konto. Organisationen har ingen kontrol over den konto, så når data først er delt, er de ude af organisationens hænder.

Den anden er adgang, der gives direkte til AI-værktøjer. Her giver en medarbejder, eller en app der allerede er forbundet til Microsoft 365, et AI-værktøj eller plugin løbende adgang til e-mails, filer eller chathistorik via en browserudvidelse, en forbundet app eller en tredjepartstilladelse. Det sker sjældnere end manuel copy-paste, men det skaber en permanent forbindelse, som fortsætter med at fungere uden yderligere handling fra medarbejderen.

De fleste samtaler om Shadow AI handler om det første scenarie, fordi det er det, medarbejdere møder i hverdagen. Det andet fortjener også opmærksomhed, fordi det ikke afhænger af, at nogen husker at være forsigtige hver eneste gang.

De fleste medarbejdere forsøger ikke bevidst at omgå sikkerhedsregler. De har bare fundet et værktøj, der hjælper dem med at arbejde hurtigere. Problemet er, at organisationen måske ikke har indsigt i, hvordan værktøjet håndterer data, hvilke tilladelser det har, eller hvilke oplysninger der bliver delt med det.

Resultatet er et misforhold mellem det, organisationen tror, den har kontrol over, og det, der faktisk sker med dens data. Personoplysninger bliver behandlet steder uden for organisationens kontrol, og det er netop dér, det bliver svært at leve op til GDPR-forpligtelserne.

Shadow AI vs. Shadow IT

Shadow AI er tæt forbundet med Shadow IT, men de to begreber er ikke helt det samme.

Shadow IT dækker over software eller hardware, der bruges uden godkendelse, for eksempel en privat Dropbox-konto, en ikke-godkendt fildelingsplatform eller en browserudvidelse, som IT ikke har gennemgået.

Shadow AI tilføjer et ekstra risikolag, fordi AI-værktøjer ikke kun opbevarer information. Afhængigt af værktøjet og de tilladelser, det har, kan det læse dokumenter, opsummere samtaler, generere indhold ud fra interne oplysninger eller interagere med forbundne systemer.

En glemt mappe i en ikke-godkendt cloudkonto udgør i sig selv en risiko. Et AI-værktøj med den form for direkte og vedvarende adgang, som er beskrevet ovenfor, kan gå længere. Når det først er forbundet, kan det søge i og fremhæve oplysninger, som medarbejderne måske ikke engang husker stadig eksisterer, uden at nogen behøver at dele dem manuelt hver gang.

Tidligere kunne gamle data være relativt lavrisiko, netop fordi ingen ledte efter dem. Den beskyttelse forsvinder, når et AI-værktøj får denne type adgang. Det er præcis derfor, de tekniske kontroller længere nede i denne artikel er vigtige.

Hvorfor skaber Shadow AI en GDPR-risiko?

GDPR behandler ikke Shadow AI som en særskilt juridisk kategori. Men Shadow AI gør eksisterende databeskyttelsesproblemer sværere at ignorere.

De fleste organisationer har gennem årene opbygget store mængder information på tværs af Exchange, SharePoint, Teams og OneDrive. Ikke alt behøver stadig at være der.

Gamle CV'er, kundedata, scannede ID-dokumenter, HR-dokumenter, supportsager eller regneark kan blive liggende længe efter, at deres oprindelige formål er forsvundet. Før AI blev udbredt, kunne mange af disse oplysninger ligge gemt i årevis. AI ændrer det, fordi store datamængder bliver langt lettere at søge i, opsummere og bruge, når de først når frem til et værktøj.

Hvilke GDPR-principper bliver berørt?

Flere GDPR-principper bliver særligt relevante, når AI-værktøjer interagerer med persondata, der ikke er ordentligt styret.

Dataminimering – artikel 5, stk. 1, litra c
Organisationer bør kun opbevare persondata, der er nødvendige for det tilsigtede formål. Hvis unødvendige oplysninger bliver liggende i Microsoft 365, kan AI-værktøjer fremhæve dem sammen med de oplysninger, medarbejderne faktisk har brug for.

Opbevaringsbegrænsning – artikel 5, stk. 1, litra e
Persondata bør ikke opbevares længere end nødvendigt. Hvis organisationens retention-politikker ikke afspejles i de data, der faktisk ligger i systemerne, kan AI søge igennem flere års information, som allerede burde være slettet.

Integritet og fortrolighed – artikel 32
Persondata skal beskyttes med passende tekniske og organisatoriske foranstaltninger. Et ikke-godkendt AI-værktøj med adgang til virksomhedens oplysninger skaber endnu en kanal, hvor data kan blive behandlet eller delt.

Ansvarlighed – artikel 5, stk. 2
Organisationer skal vide, hvilke persondata de har, og hvordan de bliver behandlet. Ikke-godkendt brug af AI gør det vanskeligere, fordi noget af behandlingen kan ske uden for de etablerede kontroller.

Fælles for alle fire principper er viden: Du kan ikke minimere, opbevare korrekt, beskytte eller dokumentere ansvar for data, du ikke har lokaliseret.

Hvor opstår Shadow AI i Microsoft 365?

Shadow AI ser sjældent dramatisk ud. I de fleste tilfælde ligner det helt almindeligt dagligt arbejde: en medarbejder, der forsøger at løse en opgave hurtigere ved hjælp af et værktøj, som ikke har været igennem organisationens normale godkendelsesproces.

Typiske eksempler er:

• Kopiering af oplysninger ind i offentlige AI-værktøjer. En medarbejder indsætter en kundemail, et HR-dokument eller en kontrakt i ChatGPT eller et andet AI-værktøj for at få et resumé eller skrive et svar.
• Brug af private AI-konti til arbejde. Medarbejdere bruger deres egne ChatGPT-, Gemini- eller Claude-konti i stedet for en løsning, der administreres af virksomheden, hvilket giver organisationen begrænset indsigt i, hvilke oplysninger der deles.
• Installation af AI-browserudvidelser eller plugins. Mødeassistenter, skriveværktøjer og AI-sidebars kan anmode om adgang til e-mails, dokumenter eller browserindhold uden at gennemgå en formel sikkerhedsvurdering.
• Udrulning af Microsoft Copilot før eksisterende data er gennemgået. Copilot kan være godkendt og centralt administreret, men kan stadig fremhæve oplysninger, som medarbejderne allerede har adgang til, herunder data der måske ikke længere burde være gemt.
• Forbindelse af AI-værktøjer til udviklingsmiljøer. Repositories, logs, testmiljøer og supportsager kan indeholde persondata, der bliver tilgængelige for AI-kodeassistenter eller automatiseringsværktøjer.

Ingen af disse situationer opstår nødvendigvis på grund af dårlige intentioner. Det fælles problem er som regel manglende indsigt i de værktøjer, der bruges, og de data, de har adgang til.

Hvor udbredt er Shadow AI?

Microsoft og LinkedIns Work Trend Index viste, at 78 % af personer, der brugte AI på arbejdet, tog deres egne AI-værktøjer med i stedet for kun at bruge teknologi stillet til rådighed af arbejdsgiveren.

Ciscos Data Privacy Benchmark viste også, at 48 % af organisationerne indtastede ikke-offentlige virksomhedsoplysninger i generative AI-applikationer.

Tallene er med til at forklare, hvorfor Shadow AI er svært at håndtere alene gennem politikker. Medarbejdere har allerede fundet nyttige måder at bruge værktøjerne på. Udfordringen for organisationer er derfor ikke blot at stoppe brugen, men at gøre den mulig uden at miste kontrollen over de oplysninger, der bliver behandlet.

Hvorfor er det ikke nok at forbyde AI?

En AI-politik er et vigtigt udgangspunkt, men det løser sandsynligvis ikke problemet bare at fortælle medarbejderne, at de ikke må bruge ikke-godkendte værktøjer.

Folk bruger AI, fordi det sparer tid. Det hjælper dem med at opsummere dokumenter, skrive indhold, analysere information og automatisere gentagne opgaver.

Hvis behovet stadig er der, kan blokering af ét værktøj blot få medarbejderne til at skifte til et andet. Den reelle udfordring er at understøtte brugen af AI uden at miste kontrollen over de oplysninger, der behandles.

Derfor er det nødvendigt at se ud over, hvilke AI-applikationer der er tilladt, og undersøge hvilke data værktøjerne faktisk kan få adgang til.

Hvis unødvendige persondata allerede er fjernet, er der mindre information at eksponere, uanset om værktøjet er Copilot, ChatGPT eller den næste AI-applikation, medarbejderne begynder at bruge.

En model for sikrere adgang til AI for medarbejdere

At forbyde værktøjer fjerner sjældent det underliggende behov. En mere holdbar tilgang kombinerer typisk fire lag, som hver lukker en forskellig del af hullet:

1. Tilbyd godkendte værktøjer, der dækker behovet. Meget Shadow AI opstår, fordi der ikke findes et godt, godkendt alternativ. Et enterprise-AI-værktøj med en ordentlig databehandleraftale, ingen træning på virksomhedens data og klare regler for opbevaring fjerner meget af behovet for at indsætte dokumenter i private konti.
2. Lav klare og konkrete regler, og træn medarbejderne i dem. En kort politik med specifikke eksempler fungerer bedre end et generelt GDPR-afsnit, som ingen læser to gange. "Indsæt ikke kundetråde i din private ChatGPT-konto" er mere anvendeligt end et bredt princip.
3. Luk de tekniske smuthuller. Kræv administratorgodkendelse af tredjepartsforbindelser, og gennemgå gamle tilladelser, der blev givet før den nuværende politik. Værktøjer som Microsoft Defender for Cloud Apps og webfiltrering kan identificere eller blokere ikke-godkendte AI-tjenester på administrerede enheder. Microsoft Purview kan registrere følsomme data, der bliver indsat eller uploadet til AI-sites, og en Teams-mødelobby kan forhindre AI-noteværktøjer i at deltage ubemærket.
4. Begræns selve dataene. Dette lag beskytter organisationen, selv når de andre tre fejler, også med et godkendt værktøj som Copilot. Find ud af, hvor følsomme data ligger, slet det der har overskredet sin opbevaringsperiode, ret for brede delingstilladelser såsom "alle med linket" eller SharePoint-adgang til hele organisationen, og brug følsomhedsmærkater, der forhindrer AI-værktøjer i at behandle bestemte typer indhold.

Godkendte værktøjer reducerer behovet for, at medarbejdere deler data andre steder. Tekniske kontroller begrænser, hvad både godkendte og ikke-godkendte AI-værktøjer kan få adgang til.

Dataminimering reducerer den mængde information, der overhovedet er tilgængelig, og det er det lag, der stadig beskytter organisationen, hvis de første kontroller ikke holder. Vi går mere i dybden med hvert af disse områder med konkrete eksempler i en kommende artikel.

Sådan reducerer du risikoen ved Shadow AI

Håndtering af Shadow AI kræver politikker, adgangskontrol og medarbejdertræning, men det bør også begynde med selve dataene.

Før brugen af AI udvides, skal organisationen vide, hvilke persondata der allerede findes i Microsoft 365, og om alt stadig behøver at være der.

1. Forstå hvilke persondata I allerede har

Det første skridt er overblik. Organisationer skal vide, hvilke persondata der ligger i Exchange, OneDrive, SharePoint og Teams, herunder oplysninger i dokumenter, scannede filer og billeder, som almindelige søgninger efter nøgleord let kan overse.

2. Prioritér de mest risikofyldte data

Ikke alle personoplysninger indebærer samme risiko. Et navn i en mailsignatur er noget helt andet end en passcanning, et nationalt ID-nummer eller et medicinsk dokument.

Derfor bør compliance- og IT-teams prioritere de oplysninger, der ville skabe den største risiko, hvis de blev fremhævet eller delt.

Uden den prioritering kan data discovery hurtigt blive endnu en uoverskuelig liste over filer, der skal gennemgås.

3. Involver medarbejderne i oprydningen

Den person, der oprettede eller modtog et dokument, har ofte kontekst, som en administrator ikke har. Medarbejderen er som regel bedre i stand til at vurdere, om en fil stadig er nødvendig, om den er knyttet til en aktiv kunde, eller om den kan slettes sikkert.

Hvis medarbejderne får en enkel måde at gennemgå relevante fund på, bliver oprydningen langt mere praktisk end at lade et lille compliance-team træffe alle beslutninger centralt.

4. Gør dataoprydning til en løbende proces

En engangsoprydning er ikke nok. Der bliver oprettet nye e-mails, dokumenter og filer hver dag, samtidig med at organisationer tager nye AI-værktøjer i brug og udvider løsninger som Microsoft Copilot.

Regelmæssig data discovery og gennemgang hjælper med at forhindre, at det samme problem bygger sig op igen.

Det er også princippet bag GDPR data discovery i Microsoft 365: Organisationer skal have overblik over de persondata, de opbevarer, før de kan administrere dem effektivt.

Tjekliste til Shadow AI readiness

Før brugen af AI-værktøjer som Microsoft Copilot udvides, bør organisationen kunne besvare nogle grundlæggende spørgsmål:

• Ved I, hvilke AI-værktøjer medarbejderne allerede bruger?
• Ved medarbejderne, hvilke oplysninger de ikke bør indsætte i offentlige AI-værktøjer?
• Ved I, hvor følsomme persondata ligger i Microsoft 365?
• Er gamle eller unødvendige personoplysninger blevet gennemgået og fjernet?
• Er adgangstilladelser i SharePoint, Teams og OneDrive stadig passende?
• Kan IT og compliance identificere højrisikodata uden manuelt at gennemgå tusindvis af filer?
• Findes der en løbende proces til at gennemgå nye persondata, efterhånden som de akkumuleres?

Disse spørgsmål erstatter ikke et bredere AI governance-program, men de giver et praktisk sted at starte.

Typiske udfordringer med Shadow AI

"Vi har allerede en AI-politik."

Det er nyttigt, men politikker og god datahygiejne løser forskellige problemer. En politik beskriver, hvordan medarbejderne forventes at bruge AI, mens dataoprydning reducerer mængden af unødvendige oplysninger, værktøjerne potentielt kan få adgang til.

Organisationer har ideelt set brug for begge dele.

"Der er for meget data. Vi ved ikke, hvor vi skal starte."

Det er ikke realistisk at gennemgå hver eneste fil manuelt.

En mere praktisk tilgang er at starte med de kategorier, der ville skabe størst bekymring, hvis de blev eksponeret, for eksempel nationale ID-numre, finansielle oplysninger, sundhedsdata, scannede identitetsdokumenter og andre følsomme oplysninger.

"Medarbejderne vil se det som endnu en begrænsning."

Målet behøver ikke være at stoppe brugen af AI.

Et renere og bedre styret datamiljø kan faktisk gøre det lettere for organisationen at godkende og udvide brugen af nyttige AI-værktøjer.

"Ledelsen ser ikke Shadow AI som en prioritet."

Shadow AI kan virke abstrakt, fordi meget af aktiviteten foregår ubemærket.

Det kan gøre problemet mere konkret at koble det til planlagte AI-projekter. Hvis virksomheden for eksempel vil rulle Microsoft Copilot ud, bliver spørgsmålet om, hvilke oplysninger Copilot vil kunne finde og fremhæve, en praktisk del af implementeringen frem for et teoretisk compliance-spørgsmål.

Ofte stillede spørgsmål om Shadow AI

Er Shadow AI ulovligt under GDPR?

Shadow AI er ikke specifikt nævnt eller forbudt i GDPR. Problemet er, hvordan persondata behandles, og om organisationen kan dokumentere passende sikkerhed, dataminimering og ansvarlighed, når medarbejderne bruger AI-tjenester.

Hvis persondata sendes til ikke-godkendte værktøjer uden kontrol, bliver det vanskeligere at leve op til de forpligtelser.

Hvad er forskellen mellem Shadow AI og Shadow IT?

Shadow IT dækker bredt over teknologi, der bruges uden formel godkendelse.

Shadow AI er en del af det samme problem, men AI-værktøjer kan mere end blot at opbevare information. Afhængigt af deres funktioner og tilladelser kan de analysere, opsummere, generere indhold ud fra eller handle på de data, de modtager.

Løser det problemet at blokere AI-værktøjer?

Ikke fuldstændigt.

Blokering af bestemte applikationer kan være en nyttig kontrol, men organisationer skal stadig vide, hvilke værktøjer medarbejderne bruger, hvorfor de bruger dem, og hvilke oplysninger de deler.

Hvis unødvendige persondata reduceres, begrænses også mængden af information, der kan blive eksponeret, hvis et ikke-godkendt værktøj bliver brugt.

Bør man rydde op i data før udrulning af Microsoft Copilot?

Hvor det er muligt, ja.

Copilot arbejder med de oplysninger, brugerne allerede har adgang til. En gennemgang af unødvendige persondata og adgangstilladelser før en bredere udrulning reducerer derfor mængden af følsomme eller forældede oplysninger, der kan blive fremhævet.

At blive klar til AI starter med at kende sine data

Shadow AI får opmærksomhed, fordi brugen af AI vokser hurtigt. Men under det ligger et velkendt problem: Organisationer har samlet persondata i årevis, og noget af det har for længst mistet sit formål.

Det, der ændrer sig, er, hvor hurtigt gamle data nu kan findes og tages i brug, uanset hvordan de når frem til et AI-værktøj.

Det har en konkret konsekvens for planlægningen: Data governance og AI-udrulning kan ikke længere behandles som to separate projekter med hver sin tidsplan.

En dato for Copilot-udrulning, en ny plugin-anmodning eller en opdatering af AI-politikken er samtidig en deadline for at vide, hvilke persondata der ligger bag systemerne.

Ved at behandle de to områder som forbundne undgår organisationen, at oprydningen permanent kommer et skridt bagefter det næste værktøj, medarbejderne tager i brug.

Hvor Sheltr passer ind

Sheltr Data Discovery finder persondata på tværs af Exchange, OneDrive, SharePoint og Teams, herunder scannede dokumenter og billeder, som almindelige søgninger efter nøgleord ofte overser.

Det giver medarbejderne en enkel måde at gennemgå og fjerne de oplysninger, der ikke længere bør være der.

Sheltr skriver ikke jeres AI-politik og fastsætter ikke jeres regler for samtykke. Det dækker dataminimeringslaget, og det lag kan hverken en politik eller en teknisk kontrol erstatte alene.

Se, hvordan det fungerer.

‍