AI Avatarer Kan Spre Feilinformasjon, Men Også Sannhet i Sensur-Tunge Land Som Venezuela

Jeg returnerte til mitt hjemland, Venezuela, i fjor for et par måneder etter noen år i utlandet. En av tingene som fanget oppmerksomheten min under oppholdet mitt, var denne virale videoen av «amerikanske TV-ankere» som forklarte den økonomiske situasjonen i landet og hvordan den hadde forbedret seg, på engelsk med spanske undertekster. Det så ikke ekte ut, og jeg ble umiddelbart mistenksom – dessverre, ikke folkene som bor der.

«Vi ønsket å finne ut om Venezuela virkelig er så ødelagt som media har hevdet i årevis,» sa Noah, den blonde «journalisten» fra denne ukjente nyhetskanalen kalt House of Media, i en av videoene som ble viral på sosiale medier, som regjeringen delte på lokal TV, og som til og med ble promotert online av Nicolás Maduro, Venezuelas autokrat.

«Det skjer,» tenkte jeg etter å ha snakket med noen venezuelanere som trodde at AI-avatarer var ekte journalister, «Maduros regime bruker AI til å spre feilinformasjon og det virker.» Selv om det ikke var bekreftet at Maduros administrasjon sto bak det, ble det senere avslørt at videoene var AI-avatarer laget av AI-selskapet Synthesia – som nylig utviklet avatarer i stand til å uttrykke menneskelige følelser. Ifølge VICE, kostet Synthesia på det tidspunktet $30 i måneden, og lignende videoer ble laget for propaganda i Afrika og Asia.

Men, akkurat da jeg begynte å føle fortvilelse over at deepfakes ble brukt til ondsinnede formål og feilinformasjon i flere land, førte en interessant vending tilbake oppmerksomheten og håpet mitt: Venezuelanske journalister bruker AI for å informere og spre sannheten.

AI Avatarer: Anonymitet som en fordel

Ett av problemene med deepfakes er anonymitet. Med mindre noen bekjenner – som den tryllekunstneren fra New Orleans fortalte journalister om sin rolle i robocalls som etterligner president Joe Biden under primærvalgene – kan det være vanskelig å finne opphavspersonene til visst AI-generert innhold ettersom AI-avatarer ikke gir informasjon om den virkelige personen. Men hva om dette faktisk er en løsning i visse scenarioer?

I land som Venezuela, er deling av informasjon som går imot regjeringen farlig, selv om du ikke er journalist, selv for bare et innlegg på sosiale medier – det er flere tilfeller av folk og studenter som Villca Fernández blir sendt i fengsel over en tweet. Folk gjør det fortsatt, men det er veldig risikabelt.

Dette er når AI-avatarer kommer godt med. Ifølge Reuters, lanserte Connectas, en organisasjon basert i Colombia, et nytt prosjekt kalt «Operation Retweet», sammen med initiativene #LaHoraDeVenezuela og Venezuela Vota, etter presidentvalget 28. juli. Målet er å dele ekte informasjon forberedt av uavhengige mediekanaler ved hjelp av to AI-karakterer, La Chama (jenta) og El Pana («venn» på Venezuelansk slang)

Videoene deles på sosiale medier gjennom de gjenværende uavhengige nyhetskanalene og andre kommunikasjonskanaler som WhatsApp. I motsetning til AI-avatarer fra House of Media jeg så i fjor, ser disse nye karakterene litt mer kunstige ut og røper det fra begynnelsen. “Før vi begynner, i tilfelle du ikke har lagt merke til det, vil vi fortelle deg at vi ikke er ekte,” sier La Chama i den første videoen publisert. “Vi ble generert av kunstig intelligens, men innholdet er ekte, verifisert, høy kvalitet, og laget av journalister,” legger El Pana til.

Flere videoer har blitt delt på sosiale medier, på engelsk og spansk, og gjennom flere nettsteder og andre kommunikasjonskanaler. Prosjektet har fått internasjonal anerkjennelse og blir beundret som en strategi for å bekjempe sensur.

📢 Tredje episode av Operacion Retuit!#UerstatteligJournalistikk

🎥 Denne episoden fokuserer på den nylige vedtatte loven som regulerer frivillige organisasjoner i 🇻🇪. Er det sivile rommet i ferd med å lukkes for godt?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Les og del.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6. september, 2024

Teknologi blir nøkkelen til overlevelse

Digitale plattformer har blitt helt essensielle for venezuelanere i flere år. Jeg husker jeg hjalp familien min med å finne min bestemors medisin gjennom Twitter (nå X) tilbake i 2016 og 2017 da medisinmangelen nådde 85% i landet.

Mange venezuelanere blir teknologisk kyndige av nødvendighet og utnytter hver digitale plattform til det fulleste. Jeg ble imponert i fjor over hvordan bedrifter og kunder håndterte så mange transaksjoner via WhatsApp. Jeg fikk mat levert på døren og bestilte transportturer gjennom denne plattformen, ettersom populære apper som Uber Eats, Uber, Lyft, eller tradisjonelle internasjonale nettbaserte betalingsmetoder ikke eksisterer. Folk lærer å stole på fremmede gjennom chatter.

Fra å bruke VPN-er for å omgå sensur—lignende til hvordan brasilianere nå gjør for å få tilgang til X, som nylig ble forbudt i landet—til Bitcoin-gruvedrift til å ty til online frilansarbeid for å klare seg, har venezuelanere stadig tilpasset seg nye teknologier som verktøy for å navigere i de turbulente politiske, sosiale, og økonomiske krisene. “Etter USA, er det Venezuela som har det største antallet dataarbeidere i verden,” uttaler en rapport delt av Rest of World tidligere i år.

Kunstig intelligens har hatt en sterk tilstedeværelse i Venezuela i mange år. Flere AI-selskaper har utnyttet krisen ved å ansette billig arbeidskraft. I 2022 delte MIT Technology Review en rapport om hvordan AI data-merkingsselskaper fant muligheter til å utnytte talentfulle borgere: “Venezuelas krise har vært en velsignelse for disse selskapene, som plutselig fikk tilgang til noe av den billigste arbeidskraften som noensinne har vært tilgjengelig.”

Nå bruker venezuelanere sitt talent og kunnskap innen teknologi som et kraftig verktøy ikke bare for å motvirke krisen, men også for å utfordre regjeringen. Kanskje – og forhåpentligvis – er de nye AI-avatarer bare begynnelsen på en ny bølge av borgermyndiggjøring.