Google DeepMind lanserer open-source vannmerkeverktøy for å hjelpe med å oppdage AI-generert tekst

Google DeepMind lanserte et åpen-kilde vannmerkeverktøy kalt SynthID-Text denne onsdagen for å hjelpe til med å oppdage AI-generert tekst. Verktøyet er tilgjengelig for bedrifter og utviklere gratis og fungerer ved å legge inn usynlige vannmerker – usynlige for det menneskelige øyet – i teksten under generering, ved å endre sannsynligheten for ordene.

«Her beskriver vi SynthID-Text, et produksjonsklart tekstvannmerkesystem som bevaret tekstkvaliteten og muliggjør høy deteksjonsnøyaktighet, med minimal forsinkelseskostnad,» uttaler sammendraget av forskningen publisert i Nature. «For å muliggjøre vannmerking i stor skala, utvikler vi en algoritme som integrerer vannmerking med spekulativ prøvetaking, en effektivitetsteknikk ofte brukt i produksjonssystemer.»

Ifølge MIT Technology Review, har teknologigigantens forskningslaboratorium for AI utviklet SynthID-teknologien for å lage flere AI-vannmerkeverktøy som nå kan gjenkjenne AI-generert tekst, musikk, video og bilder. Google DeepMind delte en video som forklarer hvordan teknologien fungerer over flere typer medier.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23. oktober 2024

SynthID er tilgjengelig gjennom selskapets Google Responsible Generative AI Toolkit, og forskere jobber sammen med Hugging Face – en samarbeidsplattform for utviklere som også huser andre åpen kildekode-prosjekter som LeRobot’s veiledning for å bygge AI-drevne roboter hjemme – for å dele det på nettstedet deres også.

“Nå vil andre [generative] AI-utviklere kunne bruke denne teknologien til å hjelpe dem med å oppdage om tekstutskrifter har kommet fra deres egne [store språkmodeller], noe som gjør det lettere for flere utviklere å bygge AI ansvarlig,” sa Pushmeet Kohli, visepresident for forskning hos Google DeepMind, til MIT Technology Review.

SynthID har blitt testet i Googles Gemini-produkter, og millioner av brukere klarte ikke å skille mellom vannmerket og ikke-vannmerket innhold. Imidlertid anerkjente forskere at det har begrensninger når teksten har blitt redigert eller oversatt, men de forblir optimistiske og tror at verktøyet kan bidra til å bekjempe feilinformasjon og forbedre AI-sikkerheten.

Flere teknologiselskaper har kunngjort AI-etiketteringsstrategier de siste månedene. Meta annonserte i februar et system for å identifisere AI-innhold på tvers av Instagram, Facebook, og Threads, Google krevde at brukere merker AI-innhold i mars, og Tiktok la til etiketter på AI-generert innhold i mai.