AI-teknologi endrer sikkerhetslandskapet. Avansert videoanalyse skaper nye muligheter for å avgrense og forbedre sikkerhetsprosesser. AI endrer spillereglene: menneskesentrisk sikkerhet forvandles raskt til menneskelig forsterket sikkerhet. Vår økende kunnskap om AI, kombinert med innovasjoner innen bruk av flere datakilder og algoritmisk analyse, betyr at vi går inn i en ny æra – en hvor AI filtrerer ut irrelevant informasjon og gjør sikkerhetsteam skarpere og mer effektive enn noen gang.

Ingen universal-løsning

Men la oss være klare: til tross for dens økende evner, er AI ikke et universalmiddel. Det er et viktig hjelpemiddel og et kraftig verktøy for effektivitet, men ikke et svar på alle problemer. Hvis AI ikke brukes med forsiktighet, kan det gi unøyaktige resultater. Det er effektivt i riktig sammenheng, men blind tillit til AI kan føre til kostbare feil, falske alarmer eller oversett trusler. Ytelsen avhenger av datakvalitet, gjennomtenkt konfigurasjon og full forståelse av dens begrensninger.

Ansvaret og viktigheten av klarhet 

Ansvaret for denne forståelsen ligger ikke utelukkende hos brukeren. Etter hvert som AI-drevne sikkerhetsløsninger blir stadig mer vanlige, er det avgjørende at produsenter, leverandører og installatører er tydelige på hva teknologien kan – og ikke kan – gjøre. Åpenhet er nødvendig for å bygge tillit og gi sluttbrukere mulighet til å ta velinformerte beslutninger. Sikkerhetsindustrien har et forsprang når det gjelder å forstå og administrere bruken av AI – og også dens potensielle misbruk. Med den fordelen følger et ansvar for å sikre at AI brukes både etisk og effektivt.

Teknologileverandører må derfor bygge tillit gjennom åpenhet. Ansvar betyr ikke bare å bruke teknologi på riktig måte – det betyr også å være åpen om AIs evner, styrker og svakheter. Bedrifter kan bare ta informerte sikkerhetsbeslutninger hvis de har tilgang til hele bildet. De må kunne forstå hvordan ulike systemer fungerer under ulike forhold, da feilaktig representasjon av funksjoner eller begrensninger kan skape farlige blindsoner.

AI er situasjonavhengig

Noen bruksområder er mer følsomme enn andre. For organisasjoner innen kritisk infrastruktur, produksjon eller kjemisk industri kan et uoppdaget brudd eller systemsvikt få alvorlige konsekvenser – til og med føre til tap av liv. I enhver bransje kan et AI-verktøy som savner en uautorisert person eller en mekanisk feil forårsake stor skade. Ingen AI-løsning er universell – dens evner påvirkes av miljøet den brukes i. AI er alltid situasjonsbetinget.

For eksempel kan noen analyseverktøy slite i dårlig belysning eller støyende omgivelser, som krever supplerende datakilder eller annen plassering. Dårlige kamerasensorer kan kanskje ikke gi AI-motorene dataene de trenger for å fungere ordentlig. Fordommer og skjevheter kan også påvirke AIs beslutninger. Hvis en modell konsekvent har problemer med å oppdage bevegelse under visse værforhold, er det avgjørende at brukerne blir informert. Klarhet rundt AIs begrensninger skaper et godt grunnlag for systemdesign og gjør det mulig for bedrifter å bygge mer effektive sikkerhetsløsninger – uten å gjøre uriktige antagelser om teknologiens muligheter.

Sikre ansvarlig bruk av AI

Teknologileverandører har også et sekundært ansvar. Kraften og allsidigheten til AI-systemer, som med all teknologi, medfører risiko for misbruk og utnyttelse. Noen kan bruke AI på uetiske eller ulovlige måter. Sikkerhetsbransjen har alltid hatt et etisk ansvar, spesielt innen overvåking – og med AI blir det ansvaret minst like viktig.

Tiltakene må gå utover å bare nekte salg til kjente uansvarlige brukere. Fremveksten av AI krever en transparent tilnærming gjennom hele salgskjeden. Det er avgjørende at leverandører, integratorer og produsenter jobber for å skape tillitsfulle og åpne relasjoner med hverandre – og at de har integritet til kun å samarbeide med parter som deler deres etiske og moralske syn på AI-bruk.

Bygg en AI-framtid – på rett måte

Den raske utviklingen av AI gjør det vanskelig å forutsi hvordan sikkerhetsteknologi vil se ut om noen år. Mot dette bakteppet er behovet for etisk diskusjon klart: ved å prioritere åpenhet og bygge sterke bransjerelasjoner, kan sikkerhetsleverandører bidra til en trygg og ansvarlig fremtid for AI. Produsenter bør sette tillit øverst på listen over forretningsmål.

Tillit gir et betydelig konkurransefortrinn i et trangt marked, ettersom leverandører og integratorer er mye mer sannsynlig å anbefale selskaper som viser ansvar enn de som handler impulsivt med noe så kraftig og polariserende som AI. Etter hvert som AI utvikler seg, vil selskapene som viser dette ansvaret i dag være de som fortjener tillit i morgen. Det er de som skal lede bransjen mot en smartere og tryggere verden.

MATS THULIN

Director of AI and Video Analytics,
Axis Communications

FOTNOTE: Les mer om Axis syn på AI: https://www.axis.com/campaigns/ai-in-video-surveiliance