Kunstig intelligens
Kunstig intelligens i helsevesenetVi har jobbet med kunstig intelligens i helsevesenet siden 2019, og har behandlet over 200 000 pasienter. Da de store språkmodellene (som ChatGPT) kom for fullt i 2022, la vi alt vårt fokus i å forstå disse, og bruke disse til å bygge verktøy som skal hjelpe klinikere til å ta bedre og mer effektive beslutninger.
MaiaMD baserer seg på kunstig intelligens (KI), særlig i form av store språkmodeller. KI byr på noen åpenbare fordeler innen helse, men er også knyttet til stor potensiell risiko.
Etter å ha jobbet med dette i noen år, ser vi på språkmodeller og MaiaMD litt som en skalpell. Det er bruken som avgjør om den er lindrende eller skadelig.
Det enorme potensialet vi mener at KI har i helse, har nøyaktig like stort potensiale til å gjøre skade. Derfor er forståelse, begrensning og rammeverk nøkkelen for trygg bruk av KI i helse.
Hva skjer inne i MaiaMD?En av utfordringene med MaiaMD, og annen KI, er at vi ikke vet helt hvordan den fungerer. Den er ikke deterministisk; altså svaret kan variere selv om spørsmålet er likt. Som lege er dette frustrerende. Men det byr også på muligheter, for det er nettopp denne manglende determinismen som gir oss fleksibiliteten vi trenger når vi snakker om helse. Det er et uendelig antall pasientvariabler, behandlingsmuligheter og utfall. For å kunne håndtere dette trenger vi en programvare som kan håndtere et uendelig antall input, og et uendelig antall output. Her er de store språkmodellene eksepsjonelt gode.
Medisinsk kvalitetsarbeidNettopp fordi MaiaMD ikke er deterministisk, velger vi å gjøre kontinuerlige tester av den medisinske kvaliteten på svarene som MaiaMD gir. Vi har faste ukentlige møter hvor leger systematisk tester følgende parametre på svar fra MaiaMD:
- Kildebruk
- Medisinsk kvalitet
- Hastighet
- Bruk av fotnoter i svar
- Svarstruktur
- Svarlengde
I tillegg setter vi opp ekstra møter for testing og vurdering når vi føler det er nødvendig. Det kan være fordi vi har fått tilbakemelding om at MaiaMD har kommet med et uriktig svar, eller dersom vi har fått en fiks idé til hvordan vi kan gjøre MaiaMD bedre.
Innspill fra brukere
Under hvert svar fra MaiaMD kan du som bruker gi tilbakemelding på svaret. Vi er helt avhengige av tilbakemelding fra brukere, og setter enormt pris på alle tilbakemeldinger! Du skal vite at samtlige tilbakemeldinger gjennomgås av helsepersonell hos oss.
Vi ber deg bruke MaiaMD med måte. Vi gjør så godt vi kan for å informere deg om både styrker og svakheter ved MaiaMD, men husk at MaiaMD alltid vil være overbevisende - selv om MaiaMD tar feil.
Vi ser på MaiaMD som kollegaen som gir oss utmerkede svar i 98% av gangene vi spør. Og en slik kollega må behandles med omhu.
MaiaMD baserer seg på kunstig intelligens (KI), særlig i form av store språkmodeller. KI byr på noen åpenbare fordeler innen helse, men er også knyttet til stor potensiell risiko.
Etter å ha jobbet med dette i noen år, ser vi på språkmodeller og MaiaMD litt som en skalpell. Det er bruken som avgjør om den er lindrende eller skadelig.
Det enorme potensialet vi mener at KI har i helse, har nøyaktig like stort potensiale til å gjøre skade. Derfor er forståelse, begrensning og rammeverk nøkkelen for trygg bruk av KI i helse.
Hva skjer inne i MaiaMD?En av utfordringene med MaiaMD, og annen KI, er at vi ikke vet helt hvordan den fungerer. Den er ikke deterministisk; altså svaret kan variere selv om spørsmålet er likt. Som lege er dette frustrerende. Men det byr også på muligheter, for det er nettopp denne manglende determinismen som gir oss fleksibiliteten vi trenger når vi snakker om helse. Det er et uendelig antall pasientvariabler, behandlingsmuligheter og utfall. For å kunne håndtere dette trenger vi en programvare som kan håndtere et uendelig antall input, og et uendelig antall output. Her er de store språkmodellene eksepsjonelt gode.
Medisinsk kvalitetsarbeidNettopp fordi MaiaMD ikke er deterministisk, velger vi å gjøre kontinuerlige tester av den medisinske kvaliteten på svarene som MaiaMD gir. Vi har faste ukentlige møter hvor leger systematisk tester følgende parametre på svar fra MaiaMD:
- Kildebruk
- Medisinsk kvalitet
- Hastighet
- Bruk av fotnoter i svar
- Svarstruktur
- Svarlengde
I tillegg setter vi opp ekstra møter for testing og vurdering når vi føler det er nødvendig. Det kan være fordi vi har fått tilbakemelding om at MaiaMD har kommet med et uriktig svar, eller dersom vi har fått en fiks idé til hvordan vi kan gjøre MaiaMD bedre.
Innspill fra brukere
Under hvert svar fra MaiaMD kan du som bruker gi tilbakemelding på svaret. Vi er helt avhengige av tilbakemelding fra brukere, og setter enormt pris på alle tilbakemeldinger! Du skal vite at samtlige tilbakemeldinger gjennomgås av helsepersonell hos oss.
Vi ber deg bruke MaiaMD med måte. Vi gjør så godt vi kan for å informere deg om både styrker og svakheter ved MaiaMD, men husk at MaiaMD alltid vil være overbevisende - selv om MaiaMD tar feil.
Vi ser på MaiaMD som kollegaen som gir oss utmerkede svar i 98% av gangene vi spør. Og en slik kollega må behandles med omhu.
Foto: Jarran Flokkmann
Skrevet av:
Harald M. Dobloug - CEO