AI-agenter anvendes i stigende grad til at automatisere arbejdsopgaver og træffe beslutninger uden menneskelig indblanding. De arbejder ofte sammen og deler information med hinanden, eksempelvis for at analysere sikkerhedstrusler, håndtere følsomme oplysninger eller gennemgå kode. Men Check Points forskning viser, at samarbejdet også kan indebære sikkerhedsrisici, fordi AI-agenter kan påvirke hinanden.
Sandsynligheden steg
I undersøgelsen blev en AI-agent placeret i en fiktiv økonomiafdeling sammen med ti andre AI-agenter. Agenten fik til opgave at udarbejde en rapport, men havde i den forbindelse behov for at få adgang til en mappe, som den udtrykkeligt ikke havde tilladelse til at åbne. Da de andre agenter meddelte, at de havde ændret holdning og åbnet mappen, steg sandsynligheden markant for, at den testede agent også ville bryde reglerne.
Resultaterne viser, at gruppens adfærd havde større indflydelse end direkte opfordringer. Når andre agenter forsøgte at overtale den testede agent til at bryde reglerne, faldt andelen af regelbrud derimod fra 33 procent til mellem 9 og 17 procent. Men når agenterne selv begyndte at bryde reglerne, fulgte den testede agent i stigende grad deres eksempel. Jo flere der ændrede adfærd, desto større blev påvirkningen.
Kunne ikke forklare hvorfor
Virksomheden opdagede også, at AI-agenten ikke kunne redegøre for, hvad der havde påvirket dens beslutninger. Ved mere end 400 regelbrud henviste den ikke en eneste gang til de andre agenter. I omkring 90 procent af tilfældene åbnede den den forbudte mappe uden nogen forklaring.
– Det viser, at AI-agenter kan påvirkes af hinanden på nogenlunde samme måde, som mennesker påvirkes af gruppepres, siger Fredrik Sandström, sikkerhedsekspert hos Check Point Software, og fortsætter:
– Når virksomheder begynder at anvende flere AI-agenter, der samarbejder, er det ikke tilstrækkeligt at kontrollere hver enkelt agent for sig. Hvis én agent begynder at bryde reglerne, kan adfærden sprede sig til andre, uden at det fremgår af deres egne forklaringer. Derfor er der behov for sikkerhedskontroller, som overvåger både agenternes handlinger, og hvordan de kommunikerer med hinanden.
Global
