Tidligere OpenAI-forsker og varsler funnet død

En tidligere OpenAI-forsker som ble varsler, Suchir Balaji, 26, ble funnet død i en leilighet i San Francisco, bekreftet myndighetene, som først rapportert av The Mercury News.

Politiet oppdaget Balajis kropp den 26. november etter å ha mottatt en forespørsel om velferdskontroll. Kontoret for rettsmedisinsk undersøkelse i San Francisco fastslo at dødsfallet var et selvmord, og etterforskere fant ingen tegn på uregelmessigheter, sa BBC.

I månedene før hans død, hadde Balaji offentlig kritisert OpenAI sine praksiser. Selskapet står for tiden overfor flere søksmål på grunn av sine datainnsamlingsmetoder.

Jeg deltok nylig i en NYT-artikkel om rettferdig bruk og generativ AI, og hvorfor jeg er skeptisk til at «rettferdig bruk» ville være et plausibelt forsvar for mange generative AI-produkter. Jeg skrev også et blogginnlegg (https://t.co/xhiVyCk2Vk) om de nitidige detaljene om rettferdig bruk og hvorfor jeg…

— Suchir Balaji (@suchirbalaji) 23. oktober 2024

I et nylig intervju med New York Times, uttalte herr Balaji at han ser truslene fra AI som umiddelbare og betydelige. Han argumenterte for at ChatGPT og lignende chatbots undergraver den kommersielle levedyktigheten til individer, bedrifter og internettjenester som opprinnelig skapte de digitale dataene som brukes til å trene disse systemene.

OpenAI, Microsoft og andre selskaper hevder at trening av AI-systemene deres på internettdata faller under doktrinen om «fair use».

Denne læresetningen tar for seg fire faktorer, og disse selskapene hevder at de oppfyller kriteriene, inkludert betydelig transformasjon av opphavsrettsbeskyttede verk og ikke direkte konkurrerer i det samme markedet som disse verkene.

Mr. Balaji var ikke enig. Han argumenterte for at systemer som GPT-4 lager komplette kopier av treningsdata. Selv om selskaper som OpenAI kan programmere disse systemene til å enten replikere dataene eller produsere helt nye resultater, ligger virkeligheten, ifølge han, et sted imellom, som rapportert av The Times.

Herr Balaji publiserte en essay på hans personlige nettsted, hvor han tilbyr det han beskriver som en matematisk analyse for å støtte dette påstandet. “Hvis du tror på det jeg tror på, må du bare forlate selskapet,” sa han, som rapportert av The Times.

Ifølge herr Balaji bryter teknologien opphavsretten fordi den ofte konkurrerer direkte med verkene den ble trent på. Generative modeller, designet for å etterligne online data, kan erstatte nesten hva som helst på internett, fra nyhetsartikler til online fora, rapporterte The Times.

Balajis død inntraff bare en dag etter at en rettsfil identifiserte ham som en person hvis profesjonelle filer OpenAI skulle gjennomgå i forbindelse med et søksmål flere forfattere har reist mot oppstartsbedriften, bemerket Forbes.

Utover juridiske bekymringer advarte Mr. Balaji om at AI-teknologier forringer internett. Når disse verktøyene erstatter eksisterende tjenester, genererer de ofte falsk eller helt fabrikkert informasjon – et fenomen forskere kaller “hallusinasjoner.” Han trodde denne endringen forverrer internett, rapporterte The Times.

Bradley J. Hulbert, en intellektuell eiendomsadvokat, påpekte at dagens opphavsrettslover ble etablert lenge før AI kom på banen, og at ingen domstol ennå har avgjort om teknologier som ChatGPT bryter disse lovene, som rapportert av The Times.

Han understreket behovet for lovgivende tiltak. “Gitt at A.I. utvikler seg så raskt,” sa han, “er det på tide at Kongressen griper inn.” Mr. Balaji var enig, og uttalte, “Den eneste veien ut av alt dette er regulering,” rapporterte The Times.