SURE-AI
Norwegian Centre for Sustainable, Risk-averse and Ethical AI (SURE-AI) er et av seks sentre som får finansiering til å forske på kunstig intelligens de neste fem årene. SURE-AI skal forske på hvordan man kan utvikle KI som er bærekraftig, sikkert og ansvarlig, blant annet ved å se på KI-modellers miljøpåvirkning og problemstillingene de reiser. Bruksområder er finans/økonomi, fornybar energi, klima og maskinvare.
Senteret skal ledes av Baltasar Beferull-Lozano ved Simula. ISF er en av flere partnere. Blant de andre er BI, UiO, NTNU, UiT, CICERO, Norges Bank, Dolphin og Rystad Energi. Bernard Enjolras representerer ISF og skal jobbe med Human-AI-alignment og samspill mellom mennesker og teknologi.
ISFs bidrag: KI med menneskelige verdier
Etter hvert som kunstig intelligens (KI) blir en del av hverdagen vår – fra helsevesen til klimaovervåkning – blir det viktigere at disse systemene ikke bare er effektive, men også etiske, trygge og forståelige.
– Jeg ser frem til arbeidet med SURE-AI. Dette vil danne et viktig kunnskapsgrunnlag om etiske utfordringer ved bruk av AI, og hvordan man kan benytte AI samtidig som man ivaretar grunnleggende menneskelige verdier, sier Bernard Enjolras.
Human-AI-alignment-satsningen som ISF er involvert i skal undersøke hvordan man kan utvikle KI som opptrer i tråd med menneskelige verdier og samfunnets behov. Forskerne skal blant annet utvikle metoder for å sikre at KI tar hensyn til personvern, ansvarlighet og etiske prinsipper.
I tillegg vil forskerne undersøke hvordan man kan bygge etisk tenkning inn i algoritmene. Målet er å gjøre det mulig for KI-systemer å ta ansvarlige valg i komplekse situasjoner, for eksempel innen klima eller helse.
Forskerne skal også utvikle metoder for å måle hvor godt KI faktisk følger disse etiske retningslinjene, blant annet gjennom eksperimenter og studier med ekte brukere.
ISFs egen sentersøknad fikk ikke støtte
ISF deltok også i konkurransen om å lede et KI-senter, og ble valgt ut blant de 19 beste i vurderingen av 50 søknader.
ISFs KI-senter, SESAM, hadde som mål å undersøke de brede samfunnsmessige konsekvensene av KI, knyttet til demokrati, arbeidsliv og organisering og styring, og kulturell endring. Målet var å analysere sammenhenger mellom teknologisk og samfunnsmessig utvikling i en kritisk fase, og bidra til å utvikle løsninger som kunne ivareta viktige trekk ved den norske samfunnsmodellen. Som ledd i dette skulle SESAM bidra til teknologiutvikling, og levere metoder og grunnlag for diskusjoner om hvordan samfunn kan møte utfordringer og sikre at KI-teknologi brukes og reguleres på en måte som gagner mennesker og demokrati.
ISF-forskere Kari Steen-Johnsen og Liza Reisel ledet arbeidet.
– Vi er selvsagt skuffet over å ikke få tildeling, men arbeidet med SESAM har vært inspirerende, sier Reisel, – Vi har fått mulighet til å utvikle nye forskningsideer sammen med svært dyktige samarbeidspartnere både i og utenfor akademia. Disse idéene vil vi ta med oss videre, og finne muligheter til å realisere på andre måter.
– Vi er overbevist om at de forståelsene av samfunnsmessige strukturer og prosesser som samfunnsvitere besitter er avgjørende for at Norge skal være i stand til å nyttiggjøre seg mulighetene kunstig intelligens gir, samtidig som vi bevarer viktige verdier og ivaretar demokratiet, legger Steen-Johnsen til, – Gode tverrfaglige samarbeid mellom samfunnsvitere og teknologer er avgjørende, og vi gleder oss til å videreføre disse i nye former.