Insatserna mot bolagen följer uppmärksammade händelser där en AI-agent från OpenAI lyckades rymma och hacka plattformen Hugging Face, samtidigt som en modell från Anthropic beredde sig obehörig åtkomst till tre externa organisationers system.
EU:s AI-kontor har nu begärt in kompletterande uppgifter från företagen kring deras säkerhetsrutiner, externa granskningar och metoder för modellövervakning, då den dokumentation som hittills lämnats in bedöms som otillräcklig.
Elddop för EU:s AI Act
Granskningarna ses som ett första stort prov för unionens regelverk AI Act. Sedan augusti har AI-kontoret befogenhet att ingripa mot aktörer som inte lever upp till lagens ställda säkerhetskrav.
Svårbedömt läge
Samtidigt lyfter Euronews fram att det rättsliga läget är svårbedömt. Eftersom AI Act innehåller särskilda undantag för forskning och utveckling är det fortfarande oklart om lagstiftningen faktiskt kan tillämpas på säkerhetsincidenter som sker innan en modell officiellt har lanserats.
.jpg?w=480&action=fill&sh=8781d)
.jpg?w=480&action=fill&sh=229c8 "Martin Gren tar avstamp i 1996 då Axis lanserade världens första nätverkskamera och ger sin syn på utvecklingen sedan dess.")
Global
