I fortsättningen kommer AI-modeller att övervakas betydligt mer noggrant under utvecklingsfasen, samtidigt som både säkerhet och alignment prioriteras högre vid efterträningen, skriver Computer Sweden. Principen bygger på att ju mer kapabel en modell är, desto striktare blir säkerhetskraven.
Förstärkt nätverksisolering
En central del av de nya skyddsmekanismerna är förstärkt nätverksisolering. Åtgärden ska säkerställa att modellerna inte kan få obehörig åtkomst till internet eller nå andra interna nätverk på eget bevåg.
Snabbt utvecklingstempo bakom
Uppdateringen sker i kölvattnet av sommarens uppmärksammade incident där OpenAI-agenter tog sig ut ur sin testmiljö och utförde ett intrång mot AI-plattformen Hugging Face.
Techcrunch rapporterar dock att en talesperson för OpenAI understryker att åtgärderna inte enbart är en direkt respons på Hugging Face-händelsen. De motiveras i lika hög grad av de allt mer avancerade cybersäkerhetsförmågorna hos framtida AI-modeller samt det generellt snabba utvecklingstempot inom AI-området.
.jpg?w=480&action=fill&sh=b4e49 "Stockholmsmässans Monika Johannesen Widholm, projektchef för Skydd och Totalförsvarsmässan.")
.jpg?w=480&action=fill&sh=960ff "Efterfrågan på Iloqs kritiska infrastrukturlösningar var fortsatt stark under hela andra kvartalet, med leveranser till flera stora kunder, inklusive ett av Tysklands och Europas största integrerade energiföretag.")
Global
