Det globale samfunnet rører seg raskt for å sikre at AI forblir en positiv kraft. Med innføringen av EU AI Act – verdens første omfattende AI-lov – og tilsvarende lovgivningsinitiativ i USA og Asia, forsvinner det regulatoriske vakuumet.

Disse reguleringene er ikke bare byråkratiske hindre. De er et svar på reelle bekymringer knyttet til personvern, algoritmisk skjevhet og risikoen for overvåkning som går for langt. For sluttbrukere er det ikke lenger bare et spørsmål om etikk å velge en leverandør som følger disse globale standardene – det handler også om langsiktig operasjonell sikkerhet. Ved å arbeide i tråd med ISO/IEC 42001 møter Hanwha Vision kravene proaktivt og sikrer at kundene er beskyttet mot de juridiske og etiske risikoene knyttet til ikke-kompatibel AI.

Etablering av kjerneprinsipper for AI
For å opprettholde denne høye standarden har Hanwha Vision etablert et eget Responsible AI (RAI) Council. Dette dedikerte beslutningsorganet setter interne etterlevelsesstandarder, gjennomfører risikovurderinger før lansering og overvåker løpende AI-ytelse. På denne måten sikrer rådet at hver innovasjon bygger på følgende grunnleggende etiske AI-prinsipper:

• Sikkerhet og pålitelighet: AI skal være en pålitelig partner som fungerer konsekvent i alle miljøer for å sikre offentlig trygghet.
• Personvern og menneskelig verdighet: Respekt for individets rettigheter skal være en ikke-forhandlingsbar verdi, og teknologien skal aldri kompromittere verdigheten til dem den er ment å beskytte.
• Åpenhet og rettferdighet: En forpliktelse til integritet, der «black box»-prosesser avvises for å sikre at systemets beslutninger kan etterprøves og er upartiske.

Å omsette prinsippene til praksis
Disse prinsippene må videre gjenspeiles i teknologien som brukes i et sikkerhetssystem. Hanwha Vision har etablert et AI-styringsrammeverk som fungerer som strenge tekniske krav for hvordan AI utvikles og implementeres. Dette inkluderer forpliktelser som:

• Privacy by design: Hanwha Vision bruker AI for å beskytte personvern, ikke bare overvåke. Systemene kan maskere ansikter eller sensitive områder i sanntid, slik at sikkerhetsdata kun brukes til sitt tiltenkte formål uten å kompromittere anonymitet.
• Fjerning av algoritmisk skjevhet: Et sikkerhetssystem skal være rettferdig. Selskapet forplikter seg til grundige revisjoner av treningsdatasett for å sikre at AI gjenkjenner personer og objekter nøyaktig i ulike miljøer og demografier, og unngår diskriminerende utfall.
• Datasikkerhet og integritet: AI er bare så bra som dataene den trenes på. Hanwha Vision sikrer datasett mot uautorisert manipulering eller datapoisoning. Ved å beskytte både data og algoritmer sikres konsistente, presise og manipulasjonssikre analyser kundene kan stole på.
• Åpenhet og forklarbarhet: Brukere skal kunne forstå hvordan AI-beslutninger tas. Rammeverket sikrer at prosessene er etterprøvbare og transparente, og at man beveger seg bort fra en uforståelig «black box»-tilnærming.

Ansvarlighet som konkurransefortrinn
Videoovervåkingsbransjen går inn i en ny æra der tekniske spesifikasjoner alene ikke lenger definerer kvalitet. Etter hvert som AI blir mer autonom, ligger det reelle konkurransefortrinnet i ansvarlighet. Hanwha Vision påpeker at kundene ikke bare søker avanserte funksjoner, men en partner som opererer med etisk tydelighet i et uforutsigbart digitalt landskap.

For Hanwha Vision er etableringen av et pålitelig AI-styringssystem derfor ikke en engangs milepæl, men en kontinuerlig forpliktelse.