AI-desinformasjon hadde ingen innvirkning på europeiske valg i 2024, ifølge rapport

AI-generert desinformasjon og deepfakes hadde ingen innvirkning på resultatene av valgene i 2024 i Storbritannia, Den europeiske union (EU) og Frankrike, ifølge en ny rapport utgitt av Senteret for Valgteknologi og Sikkerhet (CETaS).

Til tross for utbredt bekymring om AI-manipulasjon, fant studien ut at det meste av AI-drevet desinformasjon forsterket eksisterende politiske overbevisninger heller enn å påvirke usikre velgere.

Likevel reiser rapporten bekymringer over de bredere konsekvensene av AI-bruk, spesielt med tanke på de etiske utfordringene det presenterer i demokratiske prosesser.

Rapporten identifiserte 16 tilfeller av AI-drevet viral feilinformasjon i det britiske valget, og 11 tilfeller under EU- og franske valg. De fleste av disse tilfellene, argumenterer studien, forsterket bare allerede eksisterende politiske synspunkter.

Imidlertid avdekket etterspillet av disse AI-hendelsene et mønster av feilinformasjon. Mange var også forvirret om hvorvidt AI-generert innhold var ekte, noe som skadet tilliten til nettbaserte kilder.

Rapporten hevder at noen politikere brukte AI i valgkampanjeannonser uten riktig merking, noe som oppmuntret til uærlige valgpraksiser.

I en annen funn bemerker rapporten at økningen av AI-generert satire, ofte feilaktig for virkelig innhold, ytterligere villedet velgere, noe som avslører en ny type risiko for valgintegritet.

Rapporten fremhevet rollen til både innenlandske aktører og utenlandsk innblanding i spredningen av AI-drevet desinformasjon. Imidlertid understreket den at tradisjonelle metoder, som bot-drevet astroturfing og desinformasjon spredt av menneskelige influensere, hadde en langt større innvirkning på velgere enn AI-innhold.

Selv om påvirkningen fra AI var minimal når det kommer til valgresultater, advarer CETaS om de økende risikoene ettersom AI-teknologi blir mer tilgjengelig.

Rapporten oppfordrer juridiske og regulatoriske organer til å takle disse utfordringene, og foreslår behovet for å balansere ytringsfrihet med bekjempelse av AI-drevet desinformasjon. Den understreker også viktigheten av tydelig merking av AI-generert politisk innhold for å forhindre uetiske kampanjepraksiser.

Den endelige rapporten fra CETaS, som er forventet i november 2024, vil fokusere på AIs rolle i det amerikanske valget og komme med langsiktige anbefalinger for å beskytte demokratiske prosesser fra trusler relatert til AI.

Briefingen avsluttes med å anerkjenne de potensielle positive anvendelsene av AI. Rapporten hevder at AI ga en plattform for å styrke forbindelsen mellom velgere og politiske kandidater via syntetiske online personligheter.

I tillegg hjalp generativ AI faktasjekkere med å prioritere villedende påstander fremsatt av kandidater, og hjalp dem med å bestemme hvilke som trengte øyeblikkelig oppmerksomhet.