Selvmord er nu den næsthyppigste dødsårsag blandt amerikanske unge mellem 10 og 14 år. Problemet med selvmord blandt unge er i de seneste år kun blevet værre, blandt andet på grund af en national mangel på psykiatriske fagfolk – især i skoler – hvor mangelen på psykologer, rådgivere og socialrådgivere gør det svært at få øje på unge i risikogruppen.

AI et hjælpemiddel

Som en løsning har skoler, der slås med knappe ressourcer og mangel på personale, i stigende grad vendt sig til teknologi for at få hjælp til at håndtere de mange selvmord blandt unge. Virksomheder som Bark, Gaggle, GoGuardian og Securly har specifikt udviklet teknologier i form af AI-baseret elevovervågningssoftware, der følger unge menneskers computerbrug for at identificere elever, der står over for psykiske udfordringer. Softwaren er designet til at køre i baggrunden på elevernes skoleudstedte computere og noterer aktivitet, der kan indikere, at de er i risiko for selvskade.

Ringe bevidsthed om softwaren

Denne sporingssoftware bruges over hele landet på millioner af studerende. Men mange forældre og offentligheden er stadig uvidende om dets eksistens. Elever kan have en idé om, at deres skoleenheder bliver overvåget, men har sandsynligvis en begrænset forståelse af, hvordan det bliver brugt. Og selvom det kan være et ønskeligt mål at identificere selvmordsrisiko, kan AI-overvågning ifølge kritikere også opfattes som en klar krænkelse af privatlivets fred.