I de seneste måneder er adgangen til flere nye AI-modeller blevet begrænset kort efter lanceringen. I flere tilfælde har amerikanske myndigheder haft indflydelse på, hvem der må anvende modellerne og hvornår.

Det betyder, at virksomheder kan blive tvunget til at skifte AI-model med kort varsel – også når modellen allerede er integreret i forretningskritiske processer, argumenterer Isstech.

– Mange organisationer går ud fra, at den AI-model, de vælger i dag, også vil være tilgængelig i morgen. Men adgangen kan ændres som følge af beslutninger fra både leverandører og myndigheder. AI-modeller kan derfor ikke betragtes som permanente dele af IT-miljøet, siger Christian Petersson fra den svenske IT-virksomhed Isstech.

Et modelskifte er ikke nok

Risikoen bliver ifølge ham særlig stor, når AI anvendes gennem agenter, som selvstændigt kan ændre programkode, databaser, dokumenter, adgangsrettigheder og information i virksomhedssystemer.

Hvis modellen bag agenten forsvinder, kan agenten holde op med at fungere. Men et skifte tilbage til en ældre model gendanner ikke automatisk de ændringer, som den tidligere agent allerede har foretaget.

– Det er ikke nok at kunne vælge en ældre AI-model. Virksomheden skal også kunne gendanne systemerne til en kendt og fungerende tilstand. Ellers kan en ældre model blive tvunget til at arbejde med kode og data, som er blevet ændret af en nyere model, siger Jill Persson fra den amerikanske virksomhed Avepoint, der hjælper organisationer med at styre, beskytte og gendanne information i cloud- og SaaS-miljøer.

En fejlagtig kodeændring i eksempelvis Github kan sprede sig videre til produktionssystemer, databaser, AI-agenter, CRM-systemer og økonomisystemer. I værste fald kan en tilsyneladende lille fejl føre til, at information fortolkes forkert, og at tusindvis af fejlagtige fakturaer bliver sendt ud.

Jo flere systemer der forbindes med hinanden, desto længere kan fejlen nå at sprede sig, inden den opdages. Derfor er der behov for en koordineret plan for sikkerhedskopiering og gendannelse af de systemer og data, der indgår i arbejdsgangen – ikke kun selve AI-tjenesten, mener Isstech.

Fokus på tre områder

EU's AI Act skærper samtidig kravene til blandt andet styring, dokumentation og risikohåndtering for visse AI-systemer. Selv når et system ikke er omfattet af de mest vidtgående krav, skal virksomheder have kontrol over, hvad deres AI-agenter har adgang til, og hvilke ændringer de foretager, mener Isstech og Avepoint.

– Vi møder stadig flere virksomheder, som ønsker at kunne sikkerhedskopiere og gendanne både interne systemer samt data i Github og forretningskritiske cloudtjenester. Håb og AI-optimisme er ikke en kontinuitetsplan. Derfor samarbejder vi med Avepoint om at hjælpe virksomheder med at beskytte og gendanne den information, som AI-agenter anvender og ændrer, siger Christian Petersson.