För att motverka riskerna har ledande AI-laboratorier som Anthropic, OpenAI och Google Deepmind beslutat att stärka skyddsmekanismerna i sina modeller. Arbetet försvåras dock av att biokemisk forskning till sin natur ofta har dubbla användningsområden.
Dubbla användningsområden
– Mycket av det som händer inom biokemin har dubbla användningsområden. Den information som används för att skapa ett biologiskt vapen används också för att skapa ett motgift eller ett vaccin, säger Dawn Bloxwich från Google Deepmind till Financial Times.
Används redan
Eftersom kunskapen som krävs för försvars- och läkemedelsutveckling överlappar med skadliga tillämpningar går riskerna inte att eliminera helt, även med nya säkerhetsbarriärer på plats. Oron förstärks av att artificiell intelligens redan i dagsläget utnyttjas av extremistiska och militanta aktörer, däribland terroristorganisationen Boko Haram i Nigeria.
Global
