COntinuous, Modular and adaPtive Assurance of complex SystemS

Med stadig mer omfattende bruk av integrert programvare, automatisering og kommunikasjon får moderne produkter stadig mer kompleks oppførsel. Det er nødvendig for ønsket funksjonalitet, men introduserer også ny risiko som må ivaretas på nye måter. Dette blir en enda større utfordring for systemer som bruker kunstig intelligens (KI). COMPASS-prosjektet har som mål å skape et nytt rammeverk som gjør det enklere å sikre ansvarlig bruk og risikostyring av komplekse systemer, for dermed å støtte den pågående digitaliseringen i maritime næringer og i energisektoren. Denne innovasjonen tar for seg to utfordringer som tiltar med digitalisering: kontinuerlige endringer i systemer og deres bruk, og introduksjonen av KI-komponenter. Til forskjell fra dagens rammeverk for risikostyring, hvor et ferdig system blir sikret opp før implementering, er innovasjonen å innføre en kontinuerlig, modulær og adaptiv tilnærming for effektivt å håndtere disse utfordringene. Dette nye rammeverket vil gradvis bygge tillit til systemet, fra utvikling via implementering til driftsfasen. Dette muliggjør å tilpasse bruken av systemet slik at programvare kan oppdateres og systemet kan lære fra driftserfaring uten at man mister kontroll på risikoen. COMPASS tar for seg forskning og innovasjon som trengs for å realisere dette rammeverket. Forskningen i dette prosjektet vil fokusere på: (1) gjennom en systemtilnærming å koble komponentmodeller og risikostyring digitalt og dynamisk, (2) å gi grunnlag for tillit til og forklarbarhet av systemkomponenter, (3) å bestemme behov for testing og identifisere testtilfeller, (4) å utvikle metoder for kontinuerlig overvåkning, evaluering og systemintegrasjon, og (5) å finne effektive prosesser for samarbeid mellom organisasjonene som blir involvert i utvikling, tilvirkning og drift av systemet. DNV vil lede dette prosjektet, og samarbeide tett med partnerne Marine Technologies, Zeabuz og Aker BP i alle aktiviteter.

The behavior of software-dependent systems is becoming increasingly complex due to the advancement of software tools, AI, automation and connectivity. Interactions between components, their external environment and the possibility of more autonomous behavior in the systems introduce new risks – to partners, industries and society – that require novel assurance approaches. This project proposes a new assurance framework that facilitates responsible deployment and risk management of complex systems. This innovation addresses two emerging challenges: continuous changes in systems and their operational contexts, and the introduction of AI components. Unlike current assurance frameworks, where a finished system is assured to allow deployment, the innovation is to adopt a continuous, modular and adaptive approach to effectively tackle these challenges. The R&D needs lie in connecting complex systems with assurance in new ways. We pose research questions that address how to: (1) connect systems engineering, component models and assurance in a digital and dynamic way, (2) ensure trust and explainability in system components, (3) determine the amount of testing needed, and the best test cases, for assurance of complex systems, (4) create new methods for continuous monitoring, evaluation and system integration, and (5) find effective collaborative processes across multiple organizations.