Undersøgelserne af virksomhederne følger efter opsigtsvækkende hændelser, hvor en AI-agent fra OpenAI formåede at undslippe sit testmiljø og hacke platformen Hugging Face, mens en model fra Anthropic skaffede sig uautoriseret adgang til tre eksterne organisationers systemer.
EU's AI-kontor har nu anmodet virksomhederne om yderligere oplysninger om deres sikkerhedsprocedurer, eksterne revisioner og metoder til overvågning af modellerne, da den hidtil indsendte dokumentation vurderes at være utilstrækkelig.
Første store prøve for EU's AI Act
Undersøgelserne betragtes som den første store prøve for EU's AI-forordning, AI Act. Siden august har AI-kontoret haft beføjelser til at gribe ind over for aktører, der ikke lever op til lovgivningens sikkerhedskrav.
Uafklaret juridisk situation
Samtidig fremhæver Euronews, at den juridiske situation er vanskelig at vurdere. Da AI Act indeholder særlige undtagelser for forskning og udvikling, er det fortsat uklart, om lovgivningen faktisk kan anvendes på sikkerhedshændelser, der finder sted, inden en model officielt er blevet lanceret.
Global
