Kjære menighet,
denne uken leste jeg en interessant kommentar om kunstig intelligens på nettsiden digi.no. Den er skrevet av administrerende direktør Jørn Seglem for SAS Institute i Norge. Tittelen er «Kunstig intelligens blir avgjørende i fremtiden: Sammen kan menneske og maskin redde liv».
Det er ikke lett å vurdere om det stemmer, men innledningsvis skriver han et viktig poeng: «Algoritmer fatter allerede beslutning som påvirker menneskers liv og helse, og får stadig større påvirkning i samfunnet. Det haster derfor å få plass et etisk rammeverk og gode rutiner for åpenhet og kontroll». Kommentaren hans handler først og fremst om bruk av kunstig intelligens i forbindelse med behandling osv. på sykehus. Blant annet for å få bukt med sykehusinfeksjoner. Han skriver at bare i Europa dør hvert år 37.000 mennesker av alvorlige sykehusinfeksjoner. Man håper at kunstig intelligens som overvåker infeksjonene kan redusere dette tallet.
Videre skriver han «kunstig intelligens gir enormt med muligheter, men det er helt avgjørende at vi har tillit til dataene og hvordan maskinene behandler dem». Problemet her er jo at maskinene vil bli programmert av mennesker og da er det mulig med feil. Skjønt jeg antar at i fremtiden vil maskiner programmere maskiner.
Det som vil være helt nødvendig er å få stadig støtte hastighet på kjøringen av algoritmene. Det gjøres forsøk med selvkjørende biler og annet. Men det skjer uhell med disse kjøretøy, da de nok ennå ikke er i stand til å ta beslutninger så raskt som et menneske kan. Utfordringen er å ta inn alle mulige tenkelige data fra omgivelsene på et brøkdel av et sekund og ta en beslutning like raskt. Antageligvis er disse forsøkene blitt satt i gang noe for tidlig. Når det gjelder kjøretøy er det sikkert også viktig at GPS blir mer og mer finmasket og eksakt.
Men det blir stadig flere og flere områder hvor man bruker kunstig intelligens. Google laget for et par år siden AlphaZero som var i stand til å lære meget avanserte brettspill som Go eller Sjakk på bare få timer. I sjakken har den funnet frem nye trekk kombinasjoner fordi algoritmene er i stand til å se mange flere trekk fremover i en stor dybde og så ta trekk som et menneske ikke ville ha kommet på.
Det Seglem nevner videre i kommentaren er nødvendigheten av stadig å kontrollere algoritmene og evaluere resultatene: «Algoritmer må revideres, datakilder og analytiske verktøy må kvalitetssjekkes og måten resultatene tolkes på må kontrolleres». Her vil utfordringen være å forstå hvordan den kunstige intelligensen tar beslutninger.
På et etiske plan understreker han at firmaene som utvikler algoritmene «vektlegger åpenhet og forklarer hvordan algoritmene fungerer». De nye GDPR-reglene i Europa krever dette. Å følge de nye reglene vil nettopp være viktig for å «bygge tillit og troverdighet».
Mot slutten sier han noe ganske drastisk: «En lege som motsetter seg bruk av kunstig intelligens og data vil kunne utgjøre en trussel for pasienten, mens kunstig intelligens uten etiske retningslinjer og menneskelig touch vil kunne gjøre det samme». Her må vi håpe at myndighetene er i stand til å utvikle de beste retningslinjer og bestemmelser. Ellers er jeg redd ting kan bli farlig i lengden.
Det er vanskelig i dag å forstå rekkevidden av denne utviklingen. Men jeg tror den kommer til å akselerere i årene som kommer. Kanskje vil jeg oppleve når jeg er gammel at leger konsulterer kunstig intelligens før jeg blir operert …
P. Arne Marcos Blogg 