Den klare linjen mellom virkelige og AI-genererte videoer kan forsvinne i 2025

AI-generert innhold er kommet for å bli. Det blir bedre og bedre, og vi har sett en betydelig forbedring i AI-teknologier i 2024. Vil vi kunne skille mellom hva som er ekte og hva som ikke er det i 2025?

Jeg fant meg selv nylig å spørre: «Er det en ekte kvinne?» – mens jeg myset litt – etter å ha sett et innlegg på Instagram. «Nei, det må være AI-generert,» konkluderte jeg etter et øyeblikk. Deretter lurte jeg umiddelbart: Vil vi fortsatt kunne se forskjellen innen sekunder neste år? Alle tegn peker mot nei, spesielt på sosiale medier, som store nylige utviklinger i AI-teknologi antyder.

For noen dager siden delte Instagrams sjef, Adam Mosseri, en melding om dette problemet på Threads. “Generativ AI produserer tydeligvis innhold som er vanskelig å skille fra opptak av virkeligheten, og forbedrer seg raskt,” skrev han. Mosseri offentlig anerkjente at de har en hard tid i Meta med merking av AI-opprettet innhold og kontroll og overvåking av de massive mengdene med media som deles hvert sekund på deres sosiale medieplattformer.

Mosseri fraskrev Meta ansvaret og advarte brukerne om at det er opp til dem å skille om et innlegg var ekte eller ikke. “Det blir stadig viktigere at seeren, eller leseren, bringer et kritisk sinn når de konsumerer innhold som hevder å være en konto eller et opptak av virkeligheten,” la han til.

Bare noen få dager senere, lanserte OpenAI Sora Turbo, sin kraftige AI videogenerator, som tillater Pro- og Plus-brukere å generere realistiske videoer fra tekstoppfordringer. I løpet av bare noen få minutter begynte brukerne å lage fascinerende realistiske videoer og begynte å dele dem på sosiale media.

Akkurat da det hele virket å nå et nytt nivå av videoproduksjon, annonserte Google sitt nyeste AI videoverktøy, Veo 2, med høyere oppløsning og lengre klipp enn Sora. Selvfølgelig var resultatene som ble delt av de som hadde tilgang til den avanserte teknologien enda mer imponerende.

«Ingen kan fortelle at dette er AI nå,» skrev en bruker.

It’s over.

Google Veo 2 har nettopp utradert konkurransen og blitt den nye kongen av AI-medieverdenen.

Ingen kan fortelle at dette er AI nå.

10 ville eksempler: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17. desember 2024

Det skjer allerede

I løpet av 2024 har vi sett hvordan AI-generert innhold har påvirket befolkninger, valg og sosiale medier-brukere.

I januar fikk innbyggerne i New Hampshire en telefon «fra Joe Biden» som fortalte dem at de ikke skulle stemme i primærvalgene. Politisk konsulent Steve Kramer sto bak svindelen og ble bøtelagt med 6 millioner dollar for AI-dypfalske robosamtaler. Regjeringer har begynt å forstå den innvirkningen AI kan ha, og nasjoner som Singapore har utviklet lover og strategier for å hjelpe befolkningen med å avsløre dypfalskt innhold.

I Venezuela har AI-genererte videoer spredt feilinformasjon—men også hjulpet journalister med å informere gjennom AI-avatarer for å omgå sensur.

Folk har hatt vanskelig for å skille mellom hva som er ekte og hva som ikke er det, og det er ikke deres feil: Innhold generert av kunstig intelligens blir stadig bedre og bedre.

Høykvalitets innhold generert av kunstig intelligens er en voksende bransje i alle sine former; tekst, lyd og video. Mange OnlyFans-skapere stoler for tiden på chatbots for å engasjere seg i samtaler med fansene sine, en jobb som tidligere ble tildelt gig-arbeidere i lavinntektsland. De nye AI-modellene som er spesialisert i flørtingsteknikker har til og med generert $1,000 i tips fra sine følgere.

I april lanserte Nvidia-støttede oppstarten Synthesia AI-avatarer som kan uttrykke menneskelige følelser og snakke i 130 språk. TikTok tillater nå bedrifter å lage AI-genererte annonser ved å bruke innhold fra Getty Images, og nå kan YouTube-skapere bruke den nye AI-auto-dubbing funksjonen for å oversette innholdet sitt til 9 språk, og fremtidige oppdateringer vil kopiere den opprinnelige stemmen.

Zoom jobber med å lage AI-avatarer som ser ut akkurat som brukerne for å hjelpe dem med å ta opp meldinger og til og med delta i møter. Dette verktøyet vil bli lansert neste år, men folk har allerede testet flere verktøy, og bedrifter kan allerede lage fotorealistiske AI-kloner.

Er du sikker på at du snakket med en ekte person under din siste Zoom-samtale?

Hvordan kan du vite om det var laget av AI? For nå

Vi lever i forvirrende tider i denne digitale æraen. Filtre kan få hvem som helst til å se ut som en modell med feilfri hud, og korrigeringer verdige Photoshop er bare et klikk unna på Instagram eller Snapchat – hvor mange mennesker vil ønske å dele sitt «naturlige» bilde, med alle ufullkommenhetene, når det kan forbedres på sekunder? Vi ser flere og flere annonser som inneholder fotorealistiske bilder generert av kunstig intelligens, som gradvis overbeviser øynene våre om deres kjennskap og «normalitet». Og hver dag gjør overraskende hendelser rundt om i verden at vi stiller spørsmål: hva er virkelig, og hva er det ikke lenger?

De store AI-selskapene har arbeidet med vannmerker for å gjenkjenne sitt AI-genererte innhold og identifisere det enkelt. Google DeepMind lanserte sitt åpen kildekode-vannmerkesystem i oktober for å merke AI-videoer, tekst og lyd, og Meta inkluderte også en i sitt AI-videoverktøy.

Men effektiviteten er tvilsom, startende med Meta som bare erkjenner at de ikke kan merke alt AI-generert innhold. Ondsinnede aktører kan fortsatt finne måter å fjerne vannmerkene på og flere lover, partnerskap og avtaler er nødvendige mellom sosiale medieselskaper og regjeringer for å oppnå et mer vellykket system.

For nå, i tillegg til å stole på magefølelsen, kan vi stille oss selv noen spørsmål før vi deler på sosiale medier eller tror på det vi ser:

• Akkurat som Mosseri anbefalte, vurder følgende: Hvem deler denne informasjonen? Er dette en pålitelig kilde?
• Føles personens uttrykk eller bevegelser robotaktige? Selv om AI-avatarer kan være ganske realistiske, er det fortsatt mulig å kjenne igjen en merkelig stivhet eller mangel på følelser – selv om det er verdt å merke seg at noen selskaper som Synthesia allerede forbedrer dette.
• Er innholdet designet for å fremkalle en sterk emosjonell reaksjon? Skadelige aktører vet hvor lett vi deler negativt nyheter og samhandler med følelsesmessig ladet materiale på sosiale medier, og forskning bekrefter det. Før du deler innholdet som fikk blodet ditt til å koke for å få andre like opprørte som deg, tenk over om det er designet for å skape kontrovers, eller om det faktisk er ekte nyheter eller en ekte hendelse.
• Kan du bekrefte innholdet med andre kilder? Det skader aldri å dobbeltsjekke med pålitelige kilder.

Og til slutt, har du spurt deg selv – eller din foretrukne chatbot – om hvordan du kan forbedre din kritiske tenkning? Å utvikle en kritisk tankegang bør definitivt være blant alles nyttårsforsetter.