Ingen dør om nettbanken er nede eller hackere stjeler passord. Men datateknologi blir i økende grad brukt til oppgaver der feil eller angrep kan true liv og helse. 18. mars i år inntraff en av de første dødsulykkene forårsaket av en selvkjørende bil, da en fotgjenger ble påkjørt i Arizona i USA. Bilen gjorde ingen tegn til å bremse før sammenstøtet.
Hvem har til slutt ansvaret når noe slikt skjer, og hvem skal ha ansvaret for at fremtidens teknologi beskytter, og ikke tar, liv?
Problemstillingen er for omfattende til å overlates til teknologibransjen alene, men er nødt til å inkludere alle som påvirker, eller blir påvirket av, oppgavene teknologien skal løse. Dette er et samspill som Norge og norsk industri bør ha gode forutsetninger for å bli verdensledende på.
Kielland-ulykken ble et tidsskille
Utfordringen kan sammenlignes med situasjonen i offshore-industrien ved starten av det norske oljeeventyret. Da ble også ny teknologi utviklet i raskt tempo for å kunne hente opp de enorme verdiene som var oppdaget på norsk sokkel. Alt dette forandret seg for 38 år siden da Alexander L. Kielland-plattformen veltet og 123 mennesker omkom.
Plutselig måtte alle som var involvert i oljeutvinning ta innover seg de alvorlige konsekvensene tekniske feil kunne ha for helse, miljø og sikkerhet.
Kielland-ulykken markerer et skille der samfunnet ikke lenger aksepterte å høste gevinsten av teknologiske nyvinninger uten å stille krav til trygg adferd. Den ble starten på en omstilling der myndigheter, operatører og teknologileverandører begynte å jobbe aktivt sammen for å redusere risiko i alle deler av norsk oljevirksomhet.
Ansvaret for dette samarbeidet forvaltes i dag av Petroleumstilsynet.
Arizona fikk se konsekvensene
Erfaringer fra arbeidet med å sikre en trygg oljebransje er høyst relevant for dagens situasjon, hvor vi i økende grad digitaliserer oppgaver der liv og helse står på spill. Dette er en omstilling av samfunnet der datateknologi tar stadig flere beslutninger på våre vegne.
For eksempel kan erfarne sjåfører, piloter og helsepersonell i fremtiden delvis erstattes av autonome kjøretøy, droner og roboter med kunstig intelligens.
Fotgjengeren som ble drept av en autonom bil i Arizona er et forvarsel om konsekvensene vi står overfor ved å overlate kontrollen til utrygg teknologi.
Forsker på selvgående skip
I Sintef jobber vi med autonome farkoster og ser på betydningen den digitale transformasjonen har for risikoen for ulykker. Vi undersøker hvilke krav som må stilles til datasystemene og den digitale kommunikasjonen disse er avhengige av for at det skal være trygt – også når det skjer noe uventet.
Resultatene vi kommer frem til er overførbare til mange bransjer, også bilbransjen.
Digitalisering introduserer datateknologi og digital kommunikasjon «overalt». Fordelene er mange: For eksempel kan en autonom bil støtte seg på enorme mengder data fra sensorer og nettverk, uten å være begrenset av menneskelig kapasitet og sanseapparat.
Ulempen er at feil kan oppstå eller at angripere kan lure teknologien. I tillegg er det vanskelig å digitalisere menneskelig sunn fornuft og lang erfaring. Slike egenskaper kan ofte være avgjørende for å avverge ulykker og håndtere uventede situasjoner.
Ofte må ulykker til
Overalt der liv, helse og miljø står på spill må samfunnet derfor kreve at teknologien ikke bare virker, men langt viktigere: at den ikke feiler. Dette er komplisert, tidkrevende og kostbart å få til, og gir få konkurransefortrinn for produsentene.
Ofte må det derfor store ulykker til før nye tekniske løsninger blir underlagt krav til trygg oppførsel.
I Norge har vi erfaring og kompetanse til å kunne ta grep for å hindre at den digitale transformasjonen skjer utelukkende på markedets premisser. Myndigheter, industri og forskningsmiljø bør samarbeide for å unngå digitaliseringens Kielland-ulykke.
