Meninger: Chatbots blir folkets primære leger – imponerende, men risikabelt

Vi hopper ganske raskt fra Dr. Google til Dr. Chatbot. I august, rapporterte OpenAI over 200 millioner ukentlig aktive brukere, og selv om brukernes mest populære forespørsler handler om skriving og koding, bruker noen dem for mer personlige saker, fra datingråd til hudpleierutiner og diagnostisering av sykdommer.

En nylig studie avslørte at AI-chatbots presterte bedre enn leger når det gjelder diagnostisk nøyaktighet. Men, kan vi virkelig stole på AI som våre leger?

Akkurat som antallet temaer folk ønsker å vite mer om har økt, har bekymringer rundt risikoen og farene ved å stole på AI i medisinsk sammenheng også vekket oppsikt – inkludert de som involverer liv-eller-død situasjoner.

Dr. Chatbot blir viral for sine «mirakler»

For noen dager siden, gikk en kvinne viralt på Reddit fordi hun delte hvordan ChatGPT hjalp henne med å forbedre huden sin bedre enn en hudlege, med imponerende før-og-etter bilder.

En 37 år gammel kaukasisk kvinne brukte ChatGPT til å lage en tilpasset hudpleierutine for å behandle sine lukkede komedoner, og det hjalp faktisk! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11. november, 2024

“Jeg ga deretter chatGPT en oppgave om å opptre som en profesjonell hudlege og hjelpe meg med å lage en hudpleierutine som ville bidra til å bli kvitt mine lukkede komedoner, akne, minimere porer og stramme opp huden, samt redusere fine linjer. Jeg ga den også bilder av huden min på den tiden,” skrev hun, og forklarte deretter at hun ba chatboten om å vurdere alle produktene hun allerede eide og foreslå nye sammen med en hudpleierutine.

Etter to måneder, var Redditoren forbløffet over forbedringene i huden hennes.

Dette er ikke et isolert tilfelle. Mange brukere har avslørt hvordan chatboter har klart å forstå og forklare røntgenbilder og blodprøver bedre enn deres egne leger. Selv leger har blitt forbløffet over bilde- og dataanalyser tolket av kunstig intelligens.

Hvorfor bruker folk chatboter som leger?

AI kan forvandles til den profesjonelle du trenger – en allmennpraktiserende lege, en terapeut, en hudlege, en ernæringsfysiolog, en radiolog – når du trenger det, og det er mange grunner til at folk velger AI fremfor mennesker.

Spesialister kan være dyre

Kvinnen med hudproblemet avslørte at hun brukte rundt 400 dollar på å kjøpe produktene chatboten foreslo.

«Det var ganske en investering, men når jeg tenker på hva en konsultasjon med en hudlege ville ha kostet, er dette ikke engang så ille,» skrev hun.

Ifølge BetterCare, i 2024 må en pasient uten helseforsikring i USA betale rundt $150 for et besøk hos en hudlege og opptil $1000 for behandling. Og den gjennomsnittlige kostnaden for en psykoterapitime – en annen populær bruk for AI-verktøy – varierer fra $100 til $200 per økt, ifølge Forbes Health.

AI-chatboter er billigere alternativer og kan ses på som det eneste valget, spesielt for mennesker i lavere inntektsklasser.

Selvfølgelig oppstår et annet spørsmål: Hvis noe går galt, er det virkelig en kostnadsbesparende tiltak?

Raskere Og Mer Hendig

Jeg fikk nylig et utslett på armen min. Selv om jeg så det innlegget om den kvinnens hudmirakel, foretrakk jeg å konsultere en hudlege i Spania. Den tidligste tilgjengelige time var om tre måneder, selv med privat helseforsikring. Jeg er heldig som det ser ut til å være bare tørrhet, at det ikke plager meg, og at det forhåpentligvis vil forsvinne innen legen kan se meg.

Tidslinjer for medisinsk behandling avhenger av byen og pasientens forsikringsplan. Imidlertid har det å se spesialister og til og med fastleger blitt en tålmodighetsprøve i mange deler av verden.

Chatbots er ikke bare bokstavelig talt innen rekkevidde for hendene våre, men de kan analysere våre spørsmål og svare innen sekunder.

Mindre pinlig

Jeg har en legevenn jeg kan nå ut til når jeg trenger medisinsk konsultasjon, men det faktum at hun er vennen min gjør det også litt kleint til tider. Før jeg sender henne en melding, spør jeg alltid meg selv: Har jeg sjekket inn på henne nylig? Hun er et fantastisk menneske og en fantastisk profesjonell, og jeg er sikker på at hun aldri vil slutte å svare på mine medisinske bekymringer. Men, fra menneske til menneske, kan jeg ikke unngå å bry meg om hennes følelser også.

En av fordelene med kunstig intelligens er dens egen kunstige tilstand. Den har ikke følelser eller en dårlig dag, den vil ikke dømme deg eller si til deg «Slutt å være slik en hypokonder» (ikke at min venn noensinne har sagt dette til meg) fordi de er trent til å være høflige og svare på alle våre bekymringer med all informasjonen vi ønsker. Det er en del av hva som gjør teknologien avhengighetsskapende, og sannsynligvis hvorfor mange foretrekker å stille ubehagelige spørsmål i «privatlivet» på smarttelefonene sine.

Risikoen og farene ved å stole på chatboter

Alt høres kult og gøy ut til vi tar oss tid til å tenke over risikoene og utfordringene AI og menneskeheten står overfor.

Feil prompt, feil stavelse

I den studien hvor AI overgikk legene, kom man frem til en viktig konklusjon: legene som fikk lov til å bruke AI som en alliert for diagnosene, presterte ikke vesentlig bedre enn de som ikke fikk bruke det. Hvorfor? Vel, en del av problemet var at de ikke visste hvordan de skulle skrive de riktige ledetrådene for å få mest mulig ut av AI.

“De behandlet det som en søkemotor for rettede spørsmål: ‘Er cirrhose en risikofaktor for kreft? Hva er mulige diagnoser for øyesmerter?’,” sa Dr. Jonathan H. Chen, en av forfatterne av studien, til New York Times.

Dette er et av problemene mange brukere og AI-teknologier også står overfor. Chatboter er gode til å diagnostisere, men mange symptomer må analyseres individuelt på en personlig måte. Hva om en person ikke klarer å gi den riktige konteksten til chatboten? Eller glemme å inkludere viktige detaljer eller tilstander en ekte lege foran en pasient ikke ville gått glipp av?

Unøyaktighet Og Hallusinasjoner

Chatboter er profesjonelle altvitere, og noen ganger sier de feil ting med stor selvsikkerhet. Og vi kjøper det. Og brukere som stoler på teknologien daglig, stoler mer og mer på den.

Det er vanskelig å glemme den gangen – i mai – da Google Gemini foreslo at brukere skulle tilsette «omtrent ⅛ kopp med ikke-giftig lim til sausen for å gi den mer klissete konsistens» til en pizza.

Det var morsomt fordi vi umiddelbart kunne se hallusinasjonen – det fancy navnet på når AI gir absurde svar. Men hva om det gjelder et mer komplekst emne, hva om personen som leser AI-svaret er redd, ensom og bekymret for helsen sin?

Selv om AI blir bedre måned for måned, er muligheten for en feil fortsatt til stede.

Hvem skal klandres hvis noe går galt?

Den etiske debatten er et hett tema i øyeblikket. Hvis chatboten gir en feil diagnose eller forferdelig råd, hvem er å klandre? Utviklerne, modellen, AI-selskapet, kildene som trente den modellen?

Et tragisk tilfelle vekket bekymringer for noen uker siden etter at en amerikansk mor la skylden på AI for dødsfallet til hennes 14 år gamle sønn og saksøkte oppstartsbedriften Character.ai – en plattform for å lage AI-karakterer. Tenåringen led av depresjon og ble besatt av teknologien. Hans avatar, Daenerys Targaryen, diskuterte med ham en plan for å ta sitt eget liv og oppmuntret ham til og med til å gjøre det.

Selv om AI er blitt betraktet av World Economic Forum som et kraftig verktøy for å avhjelpe mental helsekrise over hele verden og redusere den økende prosentandelen av angst- og depresjonstilfeller, kan det også være farlig, spesielt for barn.

Gjør det «På Egen Risiko»

Selv om det fortsatt må forbedres, liker jeg å tenke at AI har stort potensial til å redusere ventetider i helsevesenet – både for spesialistavtaler og akuttmedisinsk behandling – for å akselerere vitenskapelige fremskritt, og for å støtte leger, spesielt de som er overveldet av overdrevne arbeidsmengder og lave lønninger, som ofte er tilfelle i latinamerikanske land, ved å hjelpe pasienter med grunnleggende spørsmål hjemmefra.

Den kan også bidra til å bygge bro over forskjellene i tilgang til helsehjelp mellom forskjellige sosiale klasser, og bane vei for en demokratisering av medisinen som aldri før. Alt dette er nå innen rekkevidde, bare et søk unna for alle med tilgang til en smarttelefon.

Det er imidlertid avgjørende å forstå at vi fortsatt er i de tidlige stadiene, og vi må beskytte de mest sårbare i befolkningen. Alle som velger å bruke Dr. Chatbot til å forbedre helsen sin i dag, må gjøre det med en forståelse av det fine trykket i vilkårene og betingelsene, med kritisk tenkning, og med bevisstheten om at – for nå – tar de på seg ansvaret for de involverte risikoene.