Et Microsoft-ledet studium viser at dagens bio-sikkerhetsprogrammer kan mislykkes i å oppdage kunstlig intelligens (KI)-designede toksiner.
Forskerteamet, i samarbeid med The International Biosecurity and Biosafety Initiative for Science og Twist, brukte tre åpne AI-verktøy til å lage over 76 000 syntetiske DNA-varianter basert på 72 farlige proteiner. Sekvensene ble ikke syntetisert i laboratorium; forskerne brukte et proteinprediksjonsverktøy for å vurdere sannsynlig funksjonalitet før de sendte dem til fire ikke-navngitte bio-sikkerhetsprogrammer. Programmene fanget naturlige toksiner, men hadde problemer med å identifisere syntetiske varianter, og etter skreddersydde oppdateringer unnslapp om lag tre prosent av potensielt funksjonelle toksiner.
Studien brukte en «red teaming»-tilnærming og viste også at kommersiell DNA-bestilling ofte er et viktig sikkerhetsfilter, siden leverandører sjekker ordrene mot databaser over kontrollerte sekvenser. Noen leverandører valgte å oppdatere eller bygge om sine systemer etter funnene. Dette er relevante AI-nyheter for Norge fordi kommersiell DNA-syntese og internasjonale sikkerhetskontroller utgjør en global barriere ved bestilling av genetisk materiale.
Kilde: https://singularityhub.com/2025/10/06/dangerous-ai-designed-proteins-could-evade-todays-biosecurity-software | Sammendraget er KI-generert med OpenAI API av Ainy.no
