Generativ AI Vekker Alarm innen Vitenskapen når Falske Data Truer Troverdigheten

AI-genererte bilder vekker stor bekymring blant forskere og utgivere, ettersom nye generative AI-verktøy gjør det skremmende enkelt å lage falske vitenskapelige data og bilder, som bemerket i en presseutgivelse av Nature.

Denne utviklingen truer troverdigheten til akademisk litteratur, med eksperter som frykter en økning i AI-drevne, fabrikkerte studier som kan være vanskelige å identifisere.

Jana Christopher, en bildeintegritetsanalytiker ved FEBS Press i Tyskland, understreker at den raske utviklingen av generativ AI vekker økende bekymringer rundt dens potensielle misbruk i vitenskapen.

“Folkene som jobber i mitt felt – bildeintegritet og publikasjonsetikk – blir stadig mer bekymret for mulighetene det tilbyr,” sa Jane, slik det ble rapportert av Nature.

Hun bemerker at, mens noen tidsskrifter kan akseptere AI-generert tekst under visse retningslinjer, blir bilder og data generert av AI sett på som å krysse en grense som kan ha stor innvirkning på forskningsintegriteten, som nevnt av Nature.

Å oppdage disse AI-skapte bildene har blitt en primær utfordring, sier Nature. I motsetning til tidligere digitale manipulasjoner, mangler ofte AI-genererte bilder de vanlige tegnene på forfalskning, noe som gjør det vanskelig å bevise noen form for bedrag.

Bildforensiker Elisabeth Bik og andre forskere foreslår at AI-produserte figurer, spesielt innen molekylær og cellevitenskap, allerede kan være til stede i publisert litteratur, som rapportert av Nature.

Verktøy som ChatGPT brukes nå regelmessig til å skrive utkast til artikler, og kan identifiseres av typiske chatbot-fraser som er igjen uten redigering, men AI-genererte bilder er mye vanskeligere å oppdage. Som svar på disse utfordringene utvikler teknologiselskaper og forskningsinstitusjoner deteksjonsverktøy, bemerket Nature.

AI-drevne verktøy som Imagetwin og Proofig leder an ved å trene algoritmene sine til å identifisere innhold generert av AI. Proofigs medgrunnlegger Dror Kolodkin-Gal rapporterer at deres verktøy vellykket oppdager AI-bilder 98% av tiden, men han bemerker at menneskelig verifisering forblir avgjørende for å validere resultater, rapporterte Nature.

I publiseringsverdenen bruker tidsskrifter som Science Proofig for innledende skanning av innsendinger, og publiseringsgiganten Springer Nature utvikler egne verktøy, Geppetto og SnapShot, for å identifisere uregelmessigheter i tekst og bilder, som rapportert av Nature.

Andre organisasjoner, som International Association of Scientific, Technical and Medical Publishers, lanserer også initiativer for å bekjempe papirmøller og sikre forskningsintegritet, som rapportert av Nature.

Imidlertid advarer eksperter om at utgivere må handle raskt. Vitenskapelig bildeetterforsker Kevin Patrick er bekymret for at hvis handlingene drøyer, kan AI-generert innhold bli enda et uløst problem i akademisk litteratur, som rapportert av Nature.

Til tross for disse bekymringene, er det mange som fortsatt har håp om at fremtidens teknologi vil utvikle seg til å oppdage dagens AI-genererte bedrag, og tilby en langsiktig løsning for å sikre akademisk forskningsintegritet.