Ifølge F5 handler digital suverenitet innen KI om mer enn å ha GPU-kapasitet lokalisert i eget land. Det krever også et operativt tjenestelag som kan styre hvor data flyter, hvordan ulike kundemiljøer holdes adskilt, og hvordan sikkerhets- og tilgangspolicyer håndheves i sanntid.

Telenor AI Factory skal møte økende europeiske krav til digital suverenitet ved å kombinere Telenors nasjonale infrastruktur og konnektivitet med NVIDIA-basert KI-infrastruktur og F5s funksjoner for intelligent trafikkstyring, sikkerhet og kontroll.

Med F5 Big-IP Next for Kubernetes kan Telenor håndheve policyer, overvåke trafikk, sikre isolasjon mellom ulike kundemiljøer og styre trafikken direkte i KI-tjenestene. Fremover planlegger Telenor også å benytte F5-teknologi til å utvide tjenestelaget med styring basert på tokenbruk og mer avansert optimalisering av inferenstrafikk etter hvert som de kommersielle KI-tjenestene skaleres opp.

Bygger digital suverenitet inn i KI-infrastrukturen

Digital suverenitet innen KI handler ikke bare om hvor infrastrukturen fysisk befinner seg, men også om hvordan KI-trafikk, kundedata, telemetri og policyer kontrolleres. Telenor AI Factory er utviklet for å hjelpe norske og europeiske virksomheter med å møte disse kravene, samtidig som løsningen skal støtte behovene i sterkt regulerte bransjer.

F5 Big-IP Next for Kubernetes gjør det mulig å håndheve policyer direkte i dataflyten. Dermed kan Telenor bruke konsistente kontrollmekanismer for innkommende og utgående trafikk, API-kommunikasjon, overvåking og KI-inferenstrafikk.

Utvider tjenestelaget for KI

Telenor planlegger å innføre flere KI-spesifikke funksjoner etter hvert som de kommersielle tjenestene vokser. Dette omfatter blant annet bedre oversikt over tokenbruk og tilhørende policykontroll, circuit breaker-funksjonalitet og mer avansert trafikkstyring tilpasset KI-inferens.

Funksjonene fra F5 skal gi Telenor bedre kontroll over bruken av KI-tjenestene og samtidig støtte håndtering av tilgangsrettigheter, rapportering og fakturering.

Ved å kjøre F5s datalag for trafikkstyring på NVIDIA BlueField-3 kan utvalgte nettverks- og sikkerhetsfunksjoner akselereres og isoleres fra arbeidslastene på vertssystemet. Det frigjør CPU-kapasitet til KI-applikasjoner, styrker sikkerhetsskillet mellom infrastrukturen og de ulike kundemiljøene og bidrar til å redusere flaskehalser i dataflyten etter hvert som de kommersielle KI-tjenestene skaleres opp.

– Formålet med Telenor AI Factory er å gi norske og europeiske virksomheter tilgang til pålitelige og sikre KI-tjenester med høy ytelse. Digital suverenitet handler om mer enn hvor infrastrukturen er plassert – det handler også om hvordan KI-tjenestene driftes og styres. F5 gir oss et lag for policy- og trafikkstyring som vi kan bygge videre på når vi skalerer tjenestene for kundene våre, sier Kaaren Hilsen, administrerende direktør i Telenor AI Factory.

– Etter hvert som KI-fabrikker utvikler seg fra infrastrukturprosjekter til kommersielle tjenesteplattformer, trenger tjenesteleverandørene en måte å styre KI-trafikk, kundemiljøer, telemetri og policyer i sanntid. Med Big-IP Next for Kubernetes etablerer Telenor et KI-tjenestelag som kan utvikles i takt med selskapets tjenester og kravene til digital suverenitet, blant annet med mulighet for mer avansert styring basert på tokenbruk og DPU-akselerasjon, sier Kunal Anand, Chief Product Officer i F5.