Forskning kan forme fremtidens kunstige intelligens

Hvad fik dig til at arbejde med dette specifikke forskningsprojekt?

Når kunstig intelligens anvendes i den offentlige sektor, er vi potentielt vidner til en meget væsentlig forandring. De offentlige myndigheders brug af kunstig intelligens rummer både fordele (mere præcise beslutninger, mere personaliserede ydelser) og risici (mere overvågning, mere diskrimination).

Myndighederne skal handle både hurtigt og klogt for at forme denne mulighed til samfundets bedste. I Europa forsøger beslutningstagerne af gøre dette ved at involvere interessenter, herunder den videnskabelige verden, for at definere styringen af og med kunstig intelligens i den offentlige sektor.  

Derfor bød jeg også muligheden velkommen, da jeg blev tilbudt at bidrage til AI Watch med min ekspertise. AI Watch er Europakommissionens initiativ til at monitorere og facilitere implementeringen af kunstig intelligens i medlemslandene.

Hvilken effekt har din forskning haft indtil nu?

Jeg har haft mulighed for at dele forskningsbaserede input som leder af en workshop med over 80 embedsfolk fra 23 EU-lande, hvor målet bl.a. har været at lære af hinandens erfaringer. Og jeg har siddet med i Advisory Boardet bag etableringen af den nye Master i Kunstig intelligens i offentlig administration  (AI4Gov), hvis første studerende blev færdige i år. Og tidligere på året bidrog jeg til den globale udbredelse bl.a. ved at deltage i European AI Excellence og Trust in the World under Dubai World Expo.

Desuden er det en væsentlig ambition for os at påvirke offentlig beslutningstagning. Sammen med forskere og beslutningstagere fra hele Europa udgav vi en håndbog med 16 handlingsorienterede anbefalinger til Europas offentlige ansatte, uanset hvilket niveau de befinder sig på, om, hvordan man effektivt kan anvende kunstig intelligens i den offentlige administration med individet i fokus.

Hvorfor er emnet vigtigt? 

Allerede nu viser det sig, at kunstig intelligens har betragtelige fordele. For eksempel kan maskinlæring hjælpe læger med at fastlægge mere succesfulde kræftbehandlinger. Samtale-chatbots med kunstig intelligens kan opskalere personliggjorte ydelser for borgere, som ikke selv har digitale kompetencer.

Men kunstig intelligens har også en mørkere side i form af risici, som for eksempel tilfældig brug af automatisk ansigtsgenkendelse på offentlige steder, hvilket kan føre til uretmæssig overvågning. At profilere borgere ved brug af adfærdsdata for at fange de personer, som kunne tænkes at begå skattesnyd, kan medføre diskrimination.

Dette er ikke et futuristisk scenarie, men noget der allerede foregår. AI Watch har allerede analyseret 686 sager om brugen af kunstig intelligens i den offentlige sektor i Europa. Nogle var succesfulde og andre ikke så succesfulde.

Hvem er din viden relevant for?

Naturligvis er der en umiddelbar relevans for akademiske discipliner såsom digital ledelse, offentlig ledelse og informationssystemer.

Men det vigtigste er, at offentlige ledere forstår fordelene og risici ved kunstig intelligens både i forhold til regulering og som udbydere af ydelser. At virksomheder forstår det, både som brugere og sælgere af teknologien. Og at borgerne forstår det, både som modtagere af offentlige ydelser og som medskabere af offentlige beslutninger.

Hvordan kan det påvirke samfundet på lang sigt?

Som vi allerede har set tegn på, kan myndighedernes brug af kunstig intelligens både gå den helt rigtige vej, men også den helt forkerte vej.

For at gå den rigtige vej er vi nødt til at kombinere to ting: eksperimenter med kunstig intelligens og en tilgang til brugen af kunstig intelligens med mennesket i fokus.

Vi har brug for eksperimenterne, hvis Europa skal forblive i front i konkurrencen om global innovation. Det menneskecentrerede aspekt skal bruges til at forankre teknologien i europæiske værdier som værdighed, retfærdighed og bæredygtighed.

Læs hele rapporten “AI Watch, road to the adoption of Artificial Intelligence by the public sector: A handbook for policymakers, public administrations and relevant stakeholders” her.

Klik her for at lære mere om AI Watch.