Senteret er en del av Simula og finnes som eget nettsted. ISF er forskningspartner og representert ved Bernard Enjolras og Øyvind Bugge Solheim. Enjolras leder arbeidspakke 9 (WP9) kalt "AI alignment and human interaction".
Bakgrunn WP9
Kunstig intelligens (KI) integreres i stadig flere samfunnsinstitusjoner — fra helsevesen og rettsvesen til utdanning, arbeidsmarked og offentlig forvaltning — og med denne utviklingen følger et grunnleggende spørsmål: Hvordan sikre at disse systemene handler i tråd med menneskelige verdier, normer og mål? Dette er kjernen i det som kalles verdiforankringsproblemet (alignment). Problemet er langt mer enn teknisk: enhver teknisk løsning forutsetter normative valg om hvem sine verdier som skal ligge til grunn, hvem som bærer risikoen ved feil, og hvem som har myndighet til å gripe inn.
Utfordringene kan forstås på tre nivåer:
På mikronivå — modellnivået — handler det om hvordan KI-systemer lærer og generaliserer verdier.
På mesonivå — i organisasjoner og institusjoner — endrer KI maktforhold og beslutningsstrukturer: algoritmisk styring omformer relasjonen mellom ledelse og ansatte, kliniske beslutningsstøttesystemer endrer legers autonomi, og prediktivt politiarbeid omfordeler skjønn mellom gatenivå og sentraliserte enheter, noe som samlet skaper ansvarspulverisering.
På makronivå — samfunn og demokrati — oppstår systemiske tilbakekoblinger som er vanskelige å forutse: algoritmisk kredittvurdering forsterker boligsegregering, automatisering polariserer arbeidsmarkedet og konsentrerer økonomisk makt, KI-drevet propaganda truer demokratisk deliberasjon, og sentraliserte grunnlagsmodeller risikerer å innskrenke kulturelt mangfold til et homogent normativt perspektiv.
Tilnærming WP9
Tre problemstillinger vil være sentrale for forskning under temaet «AI Alignment»:
- Verdipluralisme og flerpartforankring — hvem sine verdier er faktisk innbakt i dagens systemer, og hvordan designe skalerbare deltakelsesmekanismer som ikke blir symbolske.
- KI-drevet påvirkning og demokratisk motstandskraft — hvor overbevisende KI-generert innhold er, hvilke grupper som er mest sårbare, og hvilke tiltak som styrker motstandskraften uten å true ytringsfriheten.
- Styring og institusjonell design — hvordan utforme styringsmekanismer som fungerer i praksis, og hvordan koble mikronivåets tekniske garantier med institusjonell robusthet og systemisk rettferdighet.