Avsnitt 4 – Samarbete med AI

VISA TRANSKRIPT

Del 1


Under Nobel Week Dialogue 2015 talade Guru Banavar, The future of Expertise och ledare av IBM:s internationella forskningsteam som arbetat lång tid med AI-utveckling. Talet var framåtblickande och han sa bland annat:

“Framtidens experter kommer rutinmässigt att arbeta med lärande och logiska maskiner för att utföra sina dagliga uppgifter i ett mycket djupt samarbetsförhållande”

Om han får rätt om framtiden blir samspelet mellan AI och människa centralt för människan och samhällets fortsatta utveckling. Det kommer i sin tur att påverka vilka kunskaper och förmågor vi behöver utveckla för att kunna utföra våra arbeten, även om det ännu råder lite delade meningar om vad det innebär mer exakt.

Ett möjligt scenario är att det i framtiden kommer att bli allt fler områden som vi människor inte kan konkurrera med AI på. Samtidigt kommer många av våra komplexa, djupt mänskliga förmågor att vara fortsatt mycket svåra för en AI att utföra. Därför kan vi nog vara ganska säkra på är att vi alla behöver förbereda oss på att i olika grad utföra våra arbetsuppgifter i samarbete eller samspel med artificiell intelligens.

Kristina Knaving, senior forskare och interaktionsdesigner på RISE, intresserar sig för hur samspelet mellan människa och maskin kan komma att utvecklas. Vi hör lite om hennes tankar i nästa film.

Socialstyrelsen gjorde 2019 en kartläggning av AI som presenteras i rapporten Digitala vårdtjänster och artificiell intelligens i hälso- och sjukvården. I sammanfattningen på sid. 9 skriver de bland annat:

“Av litteraturgenomgången framgår att AI som regel utför sin uppgift mer tillförlitlig än människor. Människors prestationer är mer varierande beroende på olika omständigheter, vilket kan vara både en fördel och nackdel. Detta talar för att vårdkvaliteten skulle tjäna på att man utnyttjar ett samarbete mellan maskin och människa för att ta till vara bådas styrkor, där människor tolkar helheter och maskiner kan utföra mer definierade uppgifter.

Offentliga och privata vårdgivare som intervjuats menar att vårdkvaliteten förbättras då bedömningar i diagnosverktyg och beslutsstöd baseras på stora mängder data. Detta ger därför mindre utrymme för subjektivitet i bedömningarna.

Vissa forskare menar att sjukvårdsprofessionerna behöver få en större förståelse för hur AI-systemen fungerar. Användning av AI i hälso- och sjukvården kräver inte mindre kunskap av sjukvårdspersonalen utan djupare och mer omfattande kunskap för att kunna dra nytta av AI.”

Att AI däremot skulle kunna ta över så till den grad att den kan ersätta alla de människor som verkar inom sektorn, är det dock få som tror idag. Tvärtom spås generellt att de som arbetar i alla yrken där mänskliga möten är centrala i relativt låg grad kan ersättas av AI och andra teknologier.

Vilket genomslag kommer då AI att få för oss i arbetslivet? Skiljer det mellan olika yrken och arbetsplatser, och i så fall varför?

I filmen AI på din arbetsplats från forskning.se reder Karim Jebari, fil. dr. i filosofi från Institutet för framtidsstudier ut detta lite mer.

Del 2


”Vi måste förbereda oss på att utvecklingen över tid kommer att förändra våra arbeten.”

Vård- och omsorgsbehovet förväntas allmänt öka framöver, och den allmänna bilden är att alla händer krävs för att vi ska kunna ge alla den vård och omsorg de har rätt till. Men sannolikt behövs de på lite andra sätt.

Vi måste förbereda oss på att utvecklingen över tid kommer att förändra våra arbeten. Ibland kommer tekniken också att lösa vissa arbetsuppgifter bättre än oss.

På Karolinska institutet har man inom ramen för ett forskningsprojekt jämfört olika algoritmers förmåga att identifiera bröstcancer. Detta för att se hur långt en AI kan utveckla sin förmåga att diagnosticera bröstcancer. Den bästa algoritmen visade sig ha lika bra träffsäkerhet som en genomsnittlig röntgenläkare.


I takt med att vi alltmer behöver samverka med artificiell intelligens behöver vi alltså lära nya saker. Men vad är det vi behöver kunna? Och kommer behovet av kompetensutveckling att bli stort?  Även detta behöver vi utforska för att bättre förstå vad nödvändig kompetens är och hur vi bäst agerar och organiserar oss för att kunna utveckla den.

Hans Blomberg, ledningsläkare och Douglas Spangler, verksamhetsutvecklare vid sjukvårdens ledningsenhet i Uppsala tittar på detta i sin forskning. De gör också en del erfarenheter kring hur de som kommer att använda tekniken behöver möta den för att den ska komma till användning.  Vi hör dem berätta.

VISA TRANSKRIPT

Många menar att AI, genom sin förmåga att bearbeta och analysera stora mängder information och data, kommer att utgöra en central del av vårdbeslut i framtiden. Vid Lunds universitetet och Skånes universitetssjukhus bedriver Johan Nilsson, thoraxkirurg, forskning kring AI som beslutsstöd vid transplantation.

VISA TRANSKRIPT

Del 3


”En AI lär sig utifrån den data vi tränar den på”
Att använda AI som stöd för beslut i mycket komplexa sammanhang innebär många etiska utmaningar. En AI lär sig utifrån den data vi tränar den på. Och tränas den med felaktig data så gör den fel. De regler som den tränas efter, och som först kan förefalla enkla, tenderar också snabbt bli komplicerade.

Det finns också en risk att den data vi använder redan från början är påverkad av värderingar som i sin tur kan påverka hur AI:n fattar beslut.

I filmen från forskning.se som nu följer får du ta del av några tankeexperiment som visar hur enkla regler snabbt blir komplicerade.

Det pågår en mycket viktig debatt och diskussion om maskiners roll i beslutsfattande och i vilken grad vi ska lita på dem. Ska de kanske rent av tillåtas fatta beslut helt på egen hand? I nästa film för Linda Johansson, filosofie doktor vid Försvarshögskolan, ett resonemang kring detta.


Statens medicinsk-etiska råd (SMER) belyser i sin rapport Kort om artificiell intelligens i hälso- och sjukvården just etiska och samhälleliga aspekter på området. På SMERs hemsida summerar de några av utmaningarna.

 ”
– Hur AI-system i vården ska kvalitetssäkras, godkännas och följas upp.
– Hur ansvaret ska fördelas när allt fler beslut i vården fattas av datasystem och inte av människor.
– Hur systemen kan göras transparenta, så att patienter och vårdanställda kan lita på dem.
– Hur patientautonomin kan skyddas och integriteten värnas. ”

Detta är stora frågor som kommer att kräva mycket tid och stora resurser att besvara. Så stora att det kanske till och med kan finnas anledning att känna viss tvekan inför att satsa och investera dem. På denna punkt är dock Statens medicinsk-etiska råd glasklara i sin kommunikation:

 ”SMERs budskap att de etiska utmaningarna inte får uppfattas som hinder för innovation utan som något som kan stimulera utvecklingen av tillämpningar som främjar gemensamma mål och intressen.”


”Människan kan redan idag samarbeta med AI på många sätt”
Människan kan redan idag samarbeta med AI på många sätt och vi ska avsluta det här avsnittet med ett exempel från Cleveland Clinic i Ohio. Där har man tagit stora steg framåt i sin verksamhetsutveckling genom att använda AI som beslutsstöd. För det behöver alla medarbetare över tid mer av olika kunskaper och kompetenser. Chris Donovan, Executive Director of Enterprise Information Management & Analytics, säger:

“ – Vårt mål är inte att driva engångsgrejer eller att använda en viss typ av algoritm eller applikation. Vi vill vara en analytiskt mogen organisation. Det innebär att inte bara medarbetarna som är bra på data, utan att alla våra medarbetare i hela vår organisation. Det gäller våra läkare, våra beslutsfattare, våra managers och våra analytiker. Det handlar om att ha koll på hur vi kan använda information i form av data för att förändra sättet på vilket vi fattar beslut för hela organisationen.”

Du läser hela artikeln Det AI-mogna sjukhuset med en intervju med Chris Donovan här. Texten är på svenska och den filmade intervjun på engelska.

REFLEKTION

Ta några minuter och fundera över följande:

  • Vilka kunskaper och förmågor kan komma att bli mer viktiga för att kunna möta upp och dra nytta av möjligheterna med AI i er verksamhet?  
  • Hur kan ni organisera och arbeta för att successivt öka er AI-kompetens? 
  • Vilka etiska utmaningar ser du med att använda olika former av AI i er verksamhet? 
  • Kan den data ni samlar in i er verksamhet redan idag användas för att träna en AI? Kan er data vara påverkad av värderingar eller andra mänskliga aspekter som gör den mindre tillförlitlig?

FÖRDJUPNING

Kort om artificiell intelligens i hälso- och sjukvården
Statens medicinsk-etiska råd, 2020

Hur ska AI få ökad tillit?
Intervju med Jacob Dexe, senior forskare på RISE

Dialog ska driva på digital kompetens
Artikel om Sahlgrenska sjukhusets arbete med kompetenshöjning, Dagens Medicin, 2020

Digitala vårdtjänster och artificiell intelligens i hälso- och sjukvården
Rapport från Socialstyrelsen