En bank, en international industrikoncern og en virksomhed med 40 ansatte skal alle styre AI. Men de skal ikke bygge den samme organisation omkring opgaven.
AI-governance bliver ofte præsenteret som en standardpakke med en komite, en politik, et register og en platform. Det er et enkelt svar på en opgave, der bør begynde et andet sted.
Alle organisationer skal vide, hvor AI bruges, hvilke data og leverandører der indgår, hvem der har ansvaret, og hvordan fejl og ændringer håndteres. Styringens omfang bør derimod følge dataenes følsomhed, løsningens betydning, graden af automatisering og de regler, organisationen er underlagt.
Den højt regulerede virksomhed
Banker, forsikringsselskaber, life science-virksomheder, energiselskaber, kritisk infrastruktur og dele af den offentlige sektor har allerede omfattende styringssystemer. Her bør AI indgå i de eksisterende rammer for risikostyring, modelrisiko, informationssikkerhed, databeskyttelse, outsourcing og operationel robusthed. Et særskilt AI-spor skaber let dobbeltarbejde og uklart ansvar.
Det kræver typisk, at virksomheden:
- registrerer anvendelsen og fastlægger juridisk rolle og risikoklasse
- dokumenterer datakilder, modelversioner, ændringer og væsentlige afhængigheder
- validerer kritiske løsninger og fastlægger grænser for kvalitet, fairness, robusthed og sikkerhed
- sikrer menneskeligt tilsyn med kompetence, information og reel mulighed for at tilsidesætte output
- integrerer leverandørstyring, kontinuitet og exit med blandt andet DORA, NIS 2, ISMS og intern revision
Tre forsvarslinjer kan være en naturlig model. Første linje ejer anvendelsen og den daglige kontrol. Anden linje fastlægger krav og udfordrer vurderingen. Tredje linje giver uafhængig sikkerhed. Modellen virker dog kun, hvis kontrollen er reel. En underskrift på en tjekliste er ikke det samme som effektivt tilsyn.
Den store organisation
Store organisationer har især en skaleringsudfordring. AI-initiativer opstår i forretningsenheder og lande, mens det centrale overblik kommer senere. En fuldt centraliseret model bliver let en flaskehals. En fuldt decentral model giver uens krav, parallelle indkøb og forskellige svar på samme risiko.
En fælles governancemodel med lokalt ansvar er ofte mere holdbar. Den centrale funktion ejer politik, risikomodel, godkendte platforme, leverandørkrav, datagrænser og eskalation. Forretningsenhederne ejer behovet, processen, dataene og den daglige anvendelse. Lavkonsekvensanvendelser kan følge standarder og selvbetjening, mens løsninger over klare tærskler skal vurderes af relevante specialister.
Medarbejderværktøjer er ofte det bredeste eksponeringsareal. Adgangsrettigheder, dataklassifikation, DLP, logning og regler for agenter og forbindelser til andre systemer bliver derfor centrale. Samtidig bør ledelsen måle porteføljen på reel effekt. Mange pilotprojekter uden overgang til drift er kapitalbinding, ikke dokumentation for innovation.
SMV’en
SMV’er har sjældent behov for en stor komite, et separat AI-kontor eller en ny GRC-platform. De har behov for en enkel model, som faktisk bruges.
Et forsvarligt minimum kan bestå af:
- en navngiven ledelsesansvarlig og et enkelt register over værktøjer og væsentlige anvendelser
- godkendte værktøjer, konti og datakategorier samt en kort liste over forbudte anvendelser
- en enkel risikovurdering med fokus på personer, kritiske beslutninger, fortrolighed, integration og autonomi
- kontrol af leverandørens vilkår, dataanvendelse, sikkerhed, dataplacering og exitmuligheder
- menneskelig kvalitetssikring af kundevendt og fagligt væsentligt output samt en kanal til fejl og datalæk
- årlig gennemgang og en ny vurdering ved væsentlige ændringer
Størrelse er ikke en undtagelse fra ansvar. En virksomhed med ti ansatte kan have en let model, når en godkendt assistent bruges til markedsføringskladder. Udvikler den samme virksomhed et system til rekruttering, kreditvurdering eller medicinsk beslutningsstøtte, kan kravene blive omfattende. Specialiserede vurderinger kan købes eksternt, men ledelsens ejerskab af formål, konsekvens og restrisiko kan ikke outsources.
To klassifikationer
AI-forordningens juridiske kategori er ikke det samme som organisationens interne konsekvensklasse. Et system til transaktionsmonitorering mod hvidvask kan være forretningskritisk og regulatorisk væsentligt uden automatisk at være et højrisikosystem efter AI forordningens bilag III. Omvendt kan et system udløse særlige lovkrav, selv om det ikke er blandt organisationens største økonomiske risici.
En moden model bruger derfor begge vurderinger. Den kan stille skærpede krav til en lovmæssigt lavrisikoløsning med stor driftsmæssig eller omdømmemæssig betydning og samtidig holde processen enkel for harmløse anvendelser.
Proportionalitet som designprincip
Proportionalitet betyder, at kontrollen matcher den konkrete risiko. Den højt regulerede virksomhed har typisk behov for mest formalisering og uafhængig udfordring. Den store organisation kan have den største praktiske kompleksitet på grund af skala og decentralisering. SMV’en kan have den letteste grundmodel, men skal kunne eskalere hurtigt, når en anvendelse får stor konsekvens.
Målet er derfor ikke, at alle organisationer ser lige modne ud. Målet er, at hver organisation kan forklare og dokumentere, hvorfor dens styringsniveau er forsvarligt.
Tre spørgsmål til ledelsen
- Er vores governance designet efter rolle, sektor, data og konsekvens, eller har vi kopieret en standardmodel?
- Kan enkle anvendelser godkendes hurtigt, mens væsentlige løsninger bliver udfordret af de rette specialister?
- Har vi adskilt AI-forordningens klassifikation fra vores egen konsekvens- og dataklassifikation?
Sådan kan Conformance bidrage
Conformance kan gennemføre en proportional modenheds- og gapanalyse og omsætte resultatet til en målmodel for organisationens størrelse og reguleringsprofil. For nogle er næste skridt tre forsvarslinjer og uafhængig validering. For andre er værdien et enkelt register, klare datagrænser og en fungerende eskalationsvej. Udgangspunktet er behovet, ikke en på forhånd valgt platform eller certificering.