Enterprise-værktøjer kan give stærk databeskyttelse. Men licensen rydder ikke op i gamle adgangsrettigheder, forhindrer ikke automatisk ukritisk brug af fortrolige data i prompts og tager ikke ansvar for medarbejderens brug af resultatet.
Når en virksomhed fx køber Copilot eller ChatGPT Enterprise, opstår der let en beroligende antagelse. Nu er AI-brugen under kontrol.
Enterprise-løsninger kan give væsentligt stærkere beskyttelse end gratis tjenester. Microsoft oplyser eksempelvis, at prompts, svar og data under de relevante enterprise-beskyttelser ikke bruges til at træne de underliggende grundmodeller.
Men licensen afgør ikke, om en medarbejder må indsætte en kundesag i en prompt, om adgangsrettighederne er for brede, eller om et genereret svar kan bruges over for en kunde. Licensen løser ikke governanceopgaven. Den flytter den hjem til virksomheden.
Prompten er også et dataflow
Når en medarbejder kopierer en kundesag, et regneark eller en mailtråd ind i en AI-tjeneste, sker der behandling af oplysningerne i prompten og eventuelle bilag. Risikoen handler derfor ikke kun om modeltræning. Den handler også om formål, behandlingsgrundlag, dataminimering, adgang til logs, behandlingssted og den efterfølgende brug af svaret.
Den ukritiske brug opstår ofte i det små. Et helt dokument indsættes, selv om få uddrag var nok. Navne og identifikationsnumre følger med, selv om opgaven kunne løses pseudonymiseret. Fortrolige oplysninger bliver en del af prompten, selv om en generisk beskrivelse havde været tilstrækkelig.
Det er ikke realistisk at forvente, at hver medarbejder kan fortolke virksomhedens samlede juridiske, tekniske og kontraktuelle risikobillede ved hver prompt. En generel besked om at bruge AI ansvarligt er derfor ikke nok. Virksomheden skal fastlægge, hvilke værktøjer og data der må bruges til hvilke formål, og hvornår et svar kræver faglig kontrol.
AI gør gamle adgangsfejl synlige
AI-tjenester giver som udgangspunkt ikke medarbejderen adgang til dokumenter, som vedkommende slet ikke må se. Men løsningerne gør det langt lettere at finde, sammenstille og opsummere information, som brugeren allerede teknisk kan tilgå.
For brede rettigheder i Teams, SharePoint og fællesdrev kan derfor blive synlige på få sekunder. En bred AI-udrulning bør ledsages af oprydning i adgangsrettigheder, tydeligt dataejerskab, følsomhedsmærkning, DLP, opbevaring og audit. AI skaber ikke nødvendigvis en ny lækage, men kan gøre en gammel adgangsfejl langt lettere at udnytte.
En licens fjerner ikke shadow AI
Hvis den godkendte løsning er langsom, stærkt begrænset eller svær at forstå, kan nogle medarbejdere føle sig fristet til at fortsætte i gratis tjenester, private konti eller specialiserede værktøjer. Virksomheden har derfor brug for både tekniske grænser og en godkendt løsning, som faktisk dækker brugernes behov.
Websøgning, plugins, agenter og connectors skal desuden vurderes som særskilte funktioner. En chatbot, der foreslår et svar, har en anden risiko end en agent, der kan sende svaret, oprette en ordre eller ændre en kundesag. Governance skal følge funktionaliteten, ikke produktnavnet.
Fire kontroller før skalering
En praktisk minimumsmodel kan holdes enkel:
- Et katalog over godkendte værktøjer, modeller, funktioner og integrationsveje.
- Klare datagrænser, som forbinder datakategori og formål med den tilladte model og adgangsvej.
- Oprydning i adgangsrettigheder samt kontroller, der kan klassificere, maskere, pseudonymisere, blokere eller dirigere prompts.
- Rollebaseret instruktion, faglig kontrol samt løbende logning og overvågning af den faktiske brug.
Leverandørens sikkerhed, virksomhedens governance og den tekniske håndhævelse ved den enkelte prompt er ikke alternativer. De er tre lag, som skal virke sammen.
Tre spørgsmål til ledelsen
- Ved vi, hvilke data medarbejderne faktisk indsætter i prompts, og hvilke konti og tjenester de bruger?
- Har vi ryddet op i de adgangsrettigheder og delinger, som AI gør lettere at finde og kombinere?
- Kan vi håndhæve vores regler ved den enkelte prompt og dokumentere, hvilken model der behandlede hvilke data?
Sådan kan Conformance bidrage
Conformance kan kortlægge virksomhedens AI-tjenester, shadow AI, promptmønstre samt dataflows og dermed samle værktøjskatalog, dataklassifikation, adgangskontrol, brugerregler og ledelsesrapportering i en praktisk AI-governancemodel. Hvor der er behov for teknisk håndhævelse, kan vores udviklede system ”Bifrost” klassificere, beskytte, dirigere og logge forespørgsler efter virksomhedens egne politikker. Målet er at få de besluttede regler til at virke i praksis.