Apple Oppfordres til å Fjerne AI-Funksjon Etter Kontrovers Rundt Feilaktig Overskrift

En viktig journalistisk vaktbikkje har oppfordret Apple til å trekke tilbake sin generative AI-funksjon etter at verktøyet feilaktig tilskrev en overskrift om en høyprofilert drapssak til BBC News.

BBC rapporterte på torsdag at det oppsto kontrovers etter at Apples nye funksjon, Apple Intelligence, feilaktig genererte en overskrift. Den foreslo at Luigi Mangione, en mistenkt i mordet på helseforsikrings-CEO Brian Thompson, hadde skutt seg selv. BBC hadde ikke publisert en slik artikkel.

Reportere Uten Grenser (RSF), en internasjonal organisasjon som kjemper for pressefrihet, kritiserte Apple, med påstander om at hendelsen understreker risikoen AI-verktøy i utviklingsfasen utgjør for medietroverdighet og offentlig tillit.

Vincent Berthier, leder for RSFs teknologi- og journalistikkavdeling, fordømte feiltrinnet, og kalte det et «slag mot mediets troverdighet» og en trussel mot offentlig tilgang til pålitelig informasjon. RSF krevde at Apple umiddelbart fjernet funksjonen.

«Den europeiske AI-loven — til tross for å være den mest avanserte lovgivningen i verden på dette området — klassifiserte ikke informasjonsgenererende AI-er som høyrisikosystemer, noe som etterlater et kritisk juridisk tomrom. Dette gapet må fylles umiddelbart,» sa Berthier.

BBC bekreftet at de hadde innlevert en formell klage til teknologigiganten og bedt om en løsning, men det er fremdeles uklart om Apple har svart.

Den feilaktige AI-sammendraget var ikke begrenset til BBC News. Den 21. november oppsummerte funksjonen feilaktig en artikkel fra New York Times, og antydet feilaktig at Israels statsminister Benjamin Netanyahu hadde blitt arrestert, som rapportert av BBC-artikkelen.

Denne varslingen, som senere ble fremhevet av journalist Ken Schwencke, refererte faktisk til en internasjonal straffedomstolsordre mot Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence har som mål å redusere forstyrrelser fra varsler ved å oppsummere og gruppere dem. Tilgjengelig på iPhones som kjører iOS 18.1 og nyere modeller, samt utvalgte iPads og Macs, har verktøyet møtt motstand for å feilrepresentere informasjon fra anerkjente nyhetskilder.

BBCs talsperson understreket at mens noen grupperte varsler nøyaktig oppsummerte historier om globale hendelser, viste feilinformasjonen involverende Mangione teknologiens potensiale til å skade både medieutgivelser og offentlig forståelse.

RSF advarte om at «Denne ulykken illustrerer at generative AI-tjenester fortsatt er for umodne til å produsere pålitelig informasjon for offentligheten, og bør ikke tillates på markedet for slike bruksområder.»

Ars Technica anmeldte Apples varslingssammendrag, og bemerket flere problemer som ofte oppstår. Først, selv om noen sammendrag er faktisk korrekte, høres de robotiske og klønete ut, særlig i følsomme emner som forhold eller psykisk helse. Andre misforstår sarkasme, slang eller idiomer, og tolker dem ofte for bokstavelig.

Tap av kontekst er et annet stort problem, spesielt når sammendrag mangler tidligere meldinger i en tråd eller ikke tar hensyn til multimediainnhold. I gruppechatter med flere emner, kan sammendrag bli overbelastet, blande emner og føre til unøyaktigheter.

Til slutt er noen sammendrag bare helt feil, ofte på grunn av et forsøk på å kondensere for mye informasjon til for få ord, noe som resulterer i forvrengte beskrivelser. Samlet sett er disse problemene, som påvirker nytteverdien og nøyaktigheten til funksjonen, hyppige i daglig bruk.

Mangione, nå tiltalt for drap i første grad, har blitt et sentralt punkt i debatten om risikoene forbundet med AI i journalistikk. Offentlighetens tillit til troverdige nyheter står på spill mens Apple møter økende press for å håndtere problemet.