AI-implementering mislykkes, når governance kommer for sent

Mange organisationer er kommet videre fra spørgsmålet om, hvorvidt AI kan skabe værdi

Det sværere spørgsmål er nu, om de kan styre AI ansvarligt og samtidig bevæge sig hurtigt nok til at forblive konkurrencedygtige.

Det betyder, at AI skal tages i brug på tværs af teams, kunder og datatyper på måder der er sikre, kan forklares og lever op til regulatoriske forventninger.

Det er relativt nemt at gennemføre et pilotprojekt, give medarbejdere adgang til et værktøj eller offentliggøre en politik. Det svære er at få AI til at fungere sikkert og konsekvent i konkrete arbejdsgange og kundeleverancer.

I praksis kræver ansvarlig brug af AI mere end entusiasme. Der er behov for en praktisk struktur for, hvordan AI godkendes, anvendes, udfordres, eskaleres og forbedres over tid. Det er dét, der gør implementering af AI til en governancedisciplin og ikke blot en teknologisk udrulning.

Hvis den sikre løsning er besværlig, vælger folk en anden

En af de mest undervurderede risici ved implementering af AI er Shadow AI: Brugen af værktøjer uden for organisationens godkendte rammer. Medarbejdere gør det sjældent for at ”skabe risiko”. De gør det for at løse reelle problemer hurtigere såsom at opsummere dokumenter, forbedre tekster, generere kode, analysere information eller spare tid på gentagne opgaver.

Problemet opstår, når brugen sker uden for de godkendte rammer. Så bliver det svært at besvare de grundlæggende spørgsmål: Hvilke data blev indtastet? Hvor blev det behandlet? Blev kundedata eller personoplysninger eksponeret? Blev resultatet gennemgået? Og hvem har ansvaret, hvis noget går galt?

Derfor er begrænsninger alene ikke nok. Hvis den godkendte fremgangsmåde er uklar, upraktisk eller for langsom, vil medarbejderne søge alternativer. Opgaven er at gøre den sikre og godkendte fremgangsmåde til den nemmeste måde at arbejde på.

Det er også ved at blive et regulatorisk spørgsmål. I takt med at EU’s AI-forordning finder anvendelse i etaper, får organisationer brug for et tydeligere overblik over, hvor AI anvendes, hvilke risici de forskellige anvendelser medfører, og hvordan ansvarsfordelingen dokumenteres.

Godkendte værktøjer er nødvendige, men ikke tilstrækkelige

Hos NNIT understøtter vi ansvarlig brug af AI gennem godkendte AI-værktøjer, herunder Alera og Lumina. Det giver medarbejderne praktiske alternativer til åbne værktøjer uden organisatorisk kontrol og bidrager til at sikre, at brugen af AI er tilpasset regulerede brancher, kundedata og kritiske forretningsprocesser.

Men godkendte værktøjer sikrer ikke i sig selv en vellykket implementering. Et værktøj kan være godkendt og stadig blive brugt forkert. Medarbejderne har fortsat brug for vejledning i, hvilke oplysninger de må indtaste, hvilke opgaver der egner sig til AI-understøttelse, hvornår menneskelig gennemgang er påkrævet, og hvornår en konkret anvendelse kræver yderligere vurdering.

Derfor tilbyder NNIT også vejledning om governance og udvikling, som er konkret nok til at være nyttig. ”Brug AI ansvarligt” er ikke tilstrækkeligt, medarbejderne har brug for eksempler og klare grænser.

Governance skal være tæt på det daglige arbejde

NNIT har samlet sit AI-arbejde centralt i et dedikeret AI-kompetencecenter, et såkaldt Center of Excellence (CoE). Det skaber en fælles retning for ansvarlig AI på tværs af forretningsområder, juridiske hensyn, sikkerhed, IT og interne værktøjer, så AI bliver en kontrolleret og praktisk del af vores arbejde og ikke blot en teknisk mulighed.

Det har også betydning for softwareudvikling, hvor AI-værktøjer i stigende grad bliver en del af det daglige arbejde. Som leverandør skal NNIT kunne forklare og dokumentere, hvordan AI anvendes i kunderelateret arbejde, hvordan kundedata beskyttes, og hvordan konsulenter og udviklere arbejder inden for godkendte rammer. Det kræver sikre tekniske løsninger, klar intern vejledning og, hvor det er relevant, modeller hostet i EU, hvor kundedata, prompts og output ikke bruges til at træne grundmodeller.

Gode intentioner er ikke nok. Kernen i AI-governance er at sikre, at ansvarlig brug af AI i praksis er til at stole på, kan gentages og kan forklares.

Målet er tillid

De organisationer der får succes med AI, vil ikke nødvendigvis være dem, der hurtigst tager flest værktøjer i brug. Det vil være dem, som kunder, medarbejdere, myndigheder og samfundet er villige til at have tillid til.

Det kræver både tekniske kompetencer og en systematisk indsats med tydelig ansvarsfordeling, godkendte værktøjer, praktisk vejledning og løbende uddannelse. Dokumentationen skal kunne holde til kritisk granskning, og kulturen skal understøtte at medarbejderne stiller spørgsmål i tide, inden problemerne bliver svære at rette op på.