”Vågar du känna tillit när AI ställer diagnos?”

11 juli, 2019

Tänk dig in i ett besök hos doktorn. Du får veta att du förmodligen har cancer, och du frågar: ”varför tror du det?” Svaret du får blir en prövning för din tillit: ”För att datorn sa så”.

Vågar du lita på beskedet – utan att förstå hur datorn har kommit fram till en slutsats som blir livsavgörande för dig?

Där någonstans ligger en del av svaret på om artificiell intelligens, AI, ska leva upp till de skyhöga förväntningar som ställs nu. Där finns även en glimt av vad som krävs för att hävda Sveriges konkurrenskraft inom life science.

I grunden handlar det om tillit.

Det menar den samhällsvetenskaplige AI-forskaren Stefan Larsson i en djuplodande intervju i Sahlgrenska Science Parks kommande omvärldsspaning The future of health.

– Ett sätt att bygga tillit för datorns bedömning är att göra det möjligt för allmänheten att förstå mer av processen bakom, säger Stefan Larsson och påpekar att det är hög tid att belysa AI från många fler vetenskapliga perspektiv än enbart de ingenjörsmässiga.

Rapporten släpps i anslutning till årets life science-event Park Annual i september.

Samhällsintressen balanseras

Intervjun handlar också om balansen mellan demokratiska processer, personlig integritet, samhällsnytta kommersiella möjligheter och tempo.

Är det ett så stort allmänintresse att samhället får nytta av det, ja då tummar vi lite på integritetsskyddet

Stefan Larsson, AI-forskare

– Tempot är en av svårigheterna, att vara duktig och kunnig om hur man bör reglera samtidigt som de teknologiska innovationerna går fort.

Det kommer att krävas kompromisser?

– Särskilt på hälsoområdet handlar det om hur man ska balansera samhällsintressen som är goda intentioner, men inte enkelt förenliga utan kompromisser. Vi vill ha skarpa diagnosverktyg och god precision, som ofta kräver stora datamängder. Det är ett gott syfte. Samtidigt är patienters bestämmande över sin egen information också ett gott syfte. Men det är inte alltid förenligt med att aggregera stora datamängder.

– Man kommer att brottas med under vilka förutsättningar detta ska göras. Hur balansen bör se ut. Är det ett så stort allmänintresse att samhället får nytta av det, ja då tummar vi lite på integritetsskyddet, säger Stefan Larsson i intervjun.

Park Annual 2019