Prosjektet er et internasjonalt samarbeid mellom ledende teknologiselskaper og forskningsinstitusjoner, blant annet Microsoft, IBM Research, NVIDIA, MIT Lincoln Laboratory og The Alan Turing Institute. Sammen bidrar de med ekspertise innen forskning på KI-sikkerhet, utvikling av virksomhetssystemer, adversarial maskinlæring og etterlevelse av regelverk.
Asago knytter sammen de ulike trinnene, verktøyene og kravene i utviklings- og etterlevelsesarbeidet i en automatisert, reviderbar og sporbar arbeidsflyt. Prosjektet integreres med ledende verktøy med åpen kildekode og er utviklet for å lukke de operative gapene som kan oppstå mellom dem. Målet er å hjelpe organisasjoner med å utvikle sikrere, produksjonsklare KI-systemer og redusere tiden det tar fra måneder eller år til dager.
Løsningen bygger videre på Red Hats og NVIDIAs arbeid i Open Secure AI Alliance og kombinerer utviklernes fleksibilitet med styringen som kreves for sikker drift, gjennom fire hovedtrinn:
- Risikokartlegging – KI-policyer analyseres og knyttes til etablerte rammeverk og standarder, blant annet NIST AI RMF, OWASP LLM Top 10 og EUs KI-forordning via IBM AI Risk Atlas.
- Risikovurdering – Automatiserte sikkerhetstester gjennomføres på bakgrunn av identifiserte risikoer og scenarioer som er tilpasset den aktuelle KI-løsningen, i stedet for at man utelukkende baserer seg på generelle referansetester.
- Risikohåndtering – Prosjektet anbefaler egnede beskyttelsestiltak, inkludert sikkerhetskontroller basert på testresultatene, og oppretter et tydelig og sporbart grunnlag for gjennomgang.
- Driftssetting – Prosjektet omsetter de anbefalte sikkerhetskontrollene til driftsklare konfigurasjoner for plattformer, blant annet hybridsky og Kubernetes.
Hvert trinn oppretter et kontinuerlig og distribuert revisjonsspor som dokumenterer grunnlaget som kreves for revisjon og etterlevelse av regelverk. Hver sikkerhetskontroll i produksjonsmiljøet kan spores tilbake til policykravet eller regelverket som ligger til grunn for den. Dette muliggjør kontinuerlig verifisering av organisasjonens KI-portefølje.
Ved å erstatte manuelle tolkninger og spesialtilpassede skript med en sammenhengende arbeidsflyt kan asago redusere tiden fra policy til driftssetting fra måneder til dager.
Å omsette overordnede retningslinjer til fungerende programvarekonfigurasjoner er ofte tidkrevende og øker risikoen for misforståelser og feiltolkninger. Samtidig trenger etterlevelsesfunksjoner grundige risikovurderinger og verifiserbart dokumentasjonsgrunnlag, mens plattformingeniører trenger strukturerte konfigurasjoner som kan håndteres innenfor etablerte DevOps- og GitOps-prosesser.
Når regelverk som EUs KI-forordning trer i kraft, må organisasjoner unngå at innovasjonen bremses av flere måneder med manuelle kontrollprosesser, eller at KI-løsninger settes i drift uten tilstrekkelige sikkerhetskontroller.
– Når organisasjoner går fra eksperimentelle KI-piloter til langsiktige, autonome KI-agenter, blir tydelige sikkerhetsrammer et grunnleggende krav til infrastrukturen. Gjennom initiativer som Lightwell arbeider vi for å beskytte leverandørkjeden for åpen kildekode mot KI-drevne sårbarheter. asago utfyller dette arbeidet og tar det neste naturlige steget for KI i virksomhetsmiljøer ved å automatisere forbindelsen mellom organisasjonenes KI-policyer og KI-agenter i produksjon. Det gir organisasjonene den operative tryggheten som kreves for å skalere pålitelig KI i hybridskyen, sier Steven Huels, Vice President, AI Engineering i Red Hat.
– asago er et åpent samarbeidsprosjekt basert på åpen kildekode, som samler aktører fra teknologibransjen, forskningsmiljøer og offentlig sektor. Vi ønsker flere organisasjoner fra ulike deler av verden velkommen til å delta i fellesskapet og bidra med flere perspektiver på KI-sikkerhet, sier Stuart Battersby, AI Safety and Model Evaluation Architect i Red Hat.
Bak asago står et voksende internasjonalt fellesskap med deltakere fra blant annet Red Hat, Alquimia AI, Brave Software, EvalEval Coalition, IBM Research, Microsoft, MIT Lincoln Laboratory, NVIDIA, North Carolina State University, Interdisciplinary Transformation University Austria og The Alan Turing Institute. Prosjektet utvikles som åpen kildekode og ønsker flere organisasjoner velkommen til å bidra i utviklingen.
Tilgjengelighet
asago befinner seg for tiden i prosjektets oppstartsfase. Utviklere, forskere og virksomheter som ønsker å være tidlige brukere, kan få tilgang til prosjektet, følge utviklingen og delta i styringen via GitHub. Interesserte kan også melde sin interesse via asago.ai.
Global
