AI-teknologin förändrar säkerhetslandskapet. Avancerad videoanalys skapar nya möjligheter att förfina och förbättra säkerhetsprocesser. AI ändrar spelreglerna: människocentrerad säkerhet håller snabbt på att omvandlas till människoförstärkt säkerhet. Vår växande kunskap om AI, i kombination med innovationer inom användningen av flera datakällor och algoritmisk analys, innebär att vi går in i en ny era – en era där AI filtrerar bort irrelevant information och gör säkerhetsteam skarpare och mer effektiva än någonsin.

Ingen universallösning

Men låt oss vara tydliga: trots sin växande kapacitet är AI inte en universallösning. Det är ett viktigt hjälpmedel och ett kraftfullt verktyg för effektivisering, men inte ett svar på alla problem. Om AI inte används med omsorg kan det ge felaktiga resultat. Det är effektivt i rätt sammanhang, men blind tillit till AI kan leda till kostsamma misstag, falsklarm eller förbisedda hot. Dess prestanda beror på datakvalitet, genomtänkt konfiguration och full förståelse för dess begränsningar.

Klarhetens ansvar och betydelse

Ansvaret för denna förståelse ligger inte bara hos användaren. När AI-drivna säkerhetslösningar blir allt vanligare är det avgörande att tillverkare, leverantörer och installatörer är tydliga med vad tekniken kan – och inte kan – göra. Transparens är nödvändig för att bygga förtroende och ge slutanvändare möjlighet att fatta välinformerade beslut. Säkerhetsbranschen har ett försprång i att förstå och hantera användningen av AI – och även dess potentiella missbruk. Med det försprånget följer ett ansvar att säkerställa att AI används både etiskt och effektivt.

Teknikleverantörer måste därför skapa förtroende genom transparens. Ansvar innebär inte bara att tekniken används på rätt sätt – det innebär också att vara öppen med AI:s kapaciteter, dess styrkor och dess svagheter. Företag kan bara fatta välgrundade säkerhetsbeslut om de har tillgång till hela bilden. De måste kunna förstå hur olika system presterar under olika förhållanden, eftersom felaktig representation av funktioner eller begränsningar kan skapa farliga blinda fläckar.

AI är situationsbunden

Vissa användningsområden är känsligare än andra. För organisationer inom kritisk infrastruktur, tillverkning eller kemisk industri kan ett oupptäckt intrång eller ett systemfel få allvarliga konsekvenser – till och med leda till förlust av liv. I vilken bransch som helst kan ett AI-verktyg som missar en obehörig person eller ett mekaniskt fel orsaka stor skada. Ingen AI-lösning är universell – dess förmågor påverkas av den miljö där den används. AI är alltid situationsbunden.

Vissa analysverktyg kan exempelvis ha svårt i dålig belysning eller bullriga miljöer, vilket kräver kompletterande datakällor eller annan placering. Dåliga kamerasensorer kanske inte kan ge AI-motorerna den data de behöver för att fungera korrekt. Fördomar och bias kan också påverka AI:s beslut. Om en modell konsekvent har svårt att upptäcka rörelser i vissa väderförhållanden är det avgörande att användarna får veta det. Tydlighet kring AI:s begränsningar skapar en bra grund för systemdesign och gör det möjligt för företag att bygga mer effektiva säkerhetslösningar – utan att göra felaktiga antaganden om teknikens kapacitet.

Att säkerställa ansvarsfull användning av AI

Teknikleverantörer har även ett sekundärt ansvar. AI-systemens kraft och mångsidighet innebär, liksom med all teknik, risker för missbruk och utnyttjande. Vissa kan använda AI på oetiska eller olagliga sätt. Säkerhetsbranschen har alltid haft ett etiskt ansvar, särskilt inom övervakning – och med AI blir det ansvaret minst lika viktigt.

Åtgärderna måste gå längre än att bara neka försäljning till kända oansvariga användare. AI:s framväxt kräver ett transparent arbetssätt genom hela försäljningskedjan. Det är avgörande att leverantörer, integratörer och tillverkare arbetar för att skapa förtroendefulla och öppna relationer med varandra – och att de har integriteten att endast samarbeta med parter som delar deras etiska och moraliska syn på AI-användning.

Bygg en AI-framtid – på rätt sätt

AI:s snabba utveckling gör det svårt att förutsäga hur säkerhetstekniken kommer se ut om några år. Mot denna bakgrund är behovet av etisk diskussion tydligt: genom att prioritera öppenhet och bygga starka branschrelationer kan säkerhetsleverantörer bidra till en säker och ansvarsfull framtid för AI. Tillverkare bör sätta förtroende högst upp på listan över affärsmål.

Förtroende ger ett betydande konkurrensförsprång i en trång marknad, eftersom leverantörer och integratörer mycket hellre rekommenderar företag som visar ansvarstagande, än de som agerar impulsivt med något så kraftfullt och polariserande som AI. I takt med att AI utvecklas kommer de företag som visar detta ansvarstagande idag att vara de som förtjänar förtroendet imorgon. Det är de som kommer leda branschen mot en smartare och säkrare värld.

MATS THULIN

Director of AI and Video Analytics,
Axis Communications

FOTNOT: Läs mer om Axis syn på AI: https://www.axis.com/campaigns/ai-in-video-surveiliance