Doktorgradsarbeidet til Mustafa Adam presenterer et rammeverk for å spore og sikre påliteligheten og sikkerheten til autonome systemer som benytter maskinlæring.
Autonome roboter skal i økende grad arbeide i uforutsigbare omgivelser og tett på mennesker. Mange av disse systemene bruker også maskinlæring for å tolke omgivelsene og forutsi hva som kan skje. Feil i sensorer, programvare, maskinlæring eller samspillet med mennesker kan derfor få alvorlige konsekvenser. Det er ikke tilstrekkelig å teste roboten før den tas i bruk. Man må også kunne dokumentere hvorfor den anses som sikker, og kontrollere at forutsetningene fortsatt gjelder under faktisk drift.
Hva var målet med doktorgradsarbeidet?
Målet har vært å utvikle et helhetlig rammeverk for å spore og sikre påliteligheten og sikkerheten til autonome systemer gjennom hele deres livsløp. Rammeverket knytter sammen identifisering av farer, vurdering av risiko, utforming av sikkerhetskrav, kontroll av systemdesign og programvare, overvåking under drift og innsamling av erfaringer fra den virkelige verden. Dette gjør det mulig å følge en sikkerhetsbeslutning tilbake til den opprinnelige risikoen, se hvilke antakelser beslutningen bygger på, og undersøke om systemet faktisk oppfører seg som planlagt etter at det er tatt i bruk.
Hva er de viktigste funnene?
Et hovedfunn er at sikkerhet og pålitelighet ikke bør behandles som enkeltstående kontroller på slutten av utviklingen. De må bygges opp trinnvis og dokumenteres gjennom hele prosessen, fra de første idé- og designvalgene til systemet er i operativ bruk.
Arbeidet viser hvordan risiko kan vurderes før systemet bygges, hvordan sikkerhetskrav kan kobles til overvåking av den ferdige roboten, og hvordan avvik kan registreres og knyttes tilbake til kravene og beslutningene som ble tatt tidligere. Avhandlingen viser også at maskinlæringsbaserte forutsigelser kan brukes til å oppdage mulige konflikter tidligere og redusere unødvendige stopp, samtidig som etablerte sikkerhetsmekanismer beholder den avgjørende myndigheten.
Metodene ble undersøkt gjennom to praktiske eksempler: en landbruksrobot som utfører UV-C-behandling av planter, og en robot som samarbeider med et menneske om en felles oppgave. Resultatene viser at overvåking, risikovurdering og prediksjon kan integreres i reelle robotsystemer og brukes innenfor tidskravene i de undersøkte situasjonene.
Hvorfor er denne forskningen viktig?
Forskningsarbeidet kan bidra til at utviklere, sikkerhetsingeniører og myndigheter får et bedre grunnlag for å vurdere og dokumentere autonome systemer. Rammeverket kan gjøre det lettere å oppdage svakheter tidlig, bevare sporbarhet mellom risiko, krav og faktisk oppførsel, og utvikle sikkerhetsløsninger som ikke reduserer systemets nytte unødvendig. Selv om arbeidet hovedsakelig er undersøkt innen landbruksrobotikk, er prinsippene relevante for andre sikkerhetskritiske autonome systemer, blant annet innen industri, logistikk og helsetjenester. På lengre sikt kan dette bidra til sikrere innføring av autonome teknologier og økt tillit til systemer som skal arbeide sammen med mennesker.
FAKTa:
Mustafa Adam
- Doktorgrad: NMBUs Fakultet for realfag og teknologi
- Finansiering: Kunnskapsdepartementet. Delvis finansiert via RCN/RoboFarmer
- Tidligere utdanning: BSc Information Systems, Msc Distributed Systems
- Tittel på avhandlingen:
- Norsk: Pålitelighet og sikkerhet i autonome robotsystemer fra offline modellkontroll til online verifikasjon
- Engelsk: Reliability and Safety of Robotic Autonomous Systems from Offline Model Checking to Online Verification
Mustafa Adam forsvarer sin doktoravhandling 21. august 2026. Se disputasoppslaget her.