«Ethvert elektronisk system kan ha feil»

Professor Nina Sunde er en av landets fremste eksperter på disse spørsmålene.

– Man tror gjerne at digitale spor står og faller på seg selv, at de er sikre og uavhengige, men de er aldri det. Det er noen som henter dem ut, plukker dem fram og setter dem i en sammenheng, skriver en rapport og forteller historien til det sporet. De blir tillagt en mening.

– Har du noen gang opplevd at en datamaskin har feil som du ikke finner igjen etterpå?

– Det har vi vel alle. Ethvert kjørende system har iboende feil, fordi det er komplekst og mange ting som kan skje. Det vil alltid være ting som påvirker et kjørende system. Systemet du skal hente data fra, kan være feil, programvaren i systemet kan ha feil. Det er programmert av noen som mener noe om hva du skal ha tilgang til, hva du skal finne, og hva du skal kunne bruke funnet til. Vi ser tilfeller av feil i programvaren som gjør feilene systemiske, tilfeller hvor tidsstempler blir tolket feil – selv om datagrunnlaget er riktig. I neste ledd ser vi at like data tolkes forskjellig av hvem som leser dem.

Medlem

Medlem

Hvorfor forteller så mange om uønsket akselerasjon i sine elbiler?

Vi har gransket ulykken i P-huset i Sandvika.
Les siste nummer av Motor her.

Gir ikke mening

– Finnes det noe grunnlag for å tro at det finnes datamaskiner som ikke kan ha feil?

– Nei, jeg kan ikke se at det finnes grunnlag for å anta at datamaskiner kan være helt feilfrie. Selv om en konkret undersøkelse ikke avdekker spor etter teknisk svikt, utelukker ikke dette at feil kan ha oppstått tidligere eller kan oppstå i fremtiden. Maskinvare og programvare er komplekse systemer utsatt for både kjente og ukjente feiltyper, og ingen teknologisk løsning kan garantere absolutt feilfrihet over tid.

– Bilprodusenter sier ofte sikkerhetskravene til deres teknologi er så omfattende, teknologien er så regulert og gjennomtestet av ulike instanser at de ikke kan ha feil?

– Det er ikke et argument som gir noen mening i det hele tatt. Ethvert elektronisk system kan ha feil. Det er mulig de var feilfrie på testtidspunktet, men det sier bare noe om maskinen på testtidspunktet. For meg vil det være ren utopi at all denne teknologien er feilfri til enhver tid.

– At man ikke finner feil etterpå eller kan rekonstruere påståtte feil, kan det tolkes til inntekt for at det ikke har vært noe galt?

– Det kommer an på systemet, og hvor godt det er rigget for å kunne bevare spor av feil som måtte oppstå. At man ikke finner feil i et system som foretar en systematisk og pålitelig logging av feil man kjenner til at kan oppstå, kan tolkes til inntekt for at de kjente feilene ikke har skjedd. Men, om man derimot ikke vet hva man leter etter, altså en ukjent feil, eller om loggingen av eventuelle feil ikke er konsekvent – så kan ikke fravær av funn tillegges samme vekt.

Feilslutning

– Men hvis det ikke påvises en teknisk feil, da må den nødvendigvis være menneskelig?

– For meg fremstår en slik påstand som en feilslutning. Om man tror at man vil kunne finne alle spor som forklarer en hendelse i datamaskinen, så kan man komme til å tro at fravær av slike spor betyr at det må være menneskelige feil. Men, det er ikke riktig. Det kan altså både ha skjedd og ikke skjedd teknisk svikt uten at dette er sporbart i ettertid. 

– På samme måte kan det være slik at sjåføren har opptrådt både utenfor og innenfor aktsomhetsnormen uten at det finnes spor som støtter den ene eller andre forklaringen. Feilslutningen skjer nok fordi man har så stor tiltro til at det dataene forteller, gir oss alle spor, at man automatisk slutter det må være menneskelig feil – selv når det ikke finnes bevis som støtter det. 

– Den teknologiske forklaringen får lov til å stå fordi man ikke finner spor etter noe annet, men når det gjelder mennesket, holder det å forklare med fravær av spor som underbygger andre forklaringer og uten å føre bevis for at det faktisk er spor etter at sjåføren trykket på gassen? Vel, jeg tenker man opererer med et lavt beviskrav her.

Enken om Sandvika-ulykken:

«Jeg kan ikke skjønne hvordan han skulle trykket på pedalen»

Uavhengig part?

Nina Sunde er skeptisk til bilprodusenters rolle som leverandør av data fra ulykker – og bruken av disse.

– Det er noe underlig med at bilprodusenten blir redusert til en uavhengig part i saken. Det at bilprodusenten, i dette tilfellet Volvo, ikke finner noen feil i sine logger, kan være et produkt av hva Volvo vil at loggene skal vise. Data er aldri et objektivt sannhetsvitne, fordi det alltid er konstruert av noen som har laget det til et formål. For å vite om en datakilde er pålitelig trenger man kunnskap om hvor nøyaktige og fullstendig dataene er. Hva som skal logges og hvilke spor som skal kunne finnes igjen, er styrt av den som har produsert elektronikken.

– Det holder ganske enkelt ikke at Volvo sier dette er et fullstendig datagrunnlag. Hvorfor går bilprodusenten klar av radaren da? Det forstår jeg ikke. Vi ser stadig vekk i straffesaker at man omtaler data som objektive spor, at de er en slags representasjon av virkeligheten. Men man glemmer da at det er noen som har bestemt seg for hvilke data som i utgangspunktet skal lagres.

– Er det vanlig at en statlig undersøkelsesinstans går til en part i saken for å få svar den ukritisk bruker?

– Nei, ikke som jeg kjenner til.

Sandvika-ulykken:

Sjåføren satt aldri i førersetet på ulykkesbilen