Midt i den digitale tidsalderen har bekymring for falske nyheter i økende grad vært opptatt av offentlige organisasjoner, media og personligheter av alle slag. Ikke for ingenting, Fake News har hatt en viss vekt i viktige valgprosesser som presidentvalget i USA i 2016, folkeavstemningen om Storbritannias utgang fra EU eller generalene i Brasil som ga Bolsonaro seier.
Uten å måtte gå så langt, måtte Facebook i vårt land nylig stenge tre store ekstreme høyre nettverk som gjennom 30 sider samlet grupper og duplikatkontoer mer enn halvannen million følgere og mer enn 7 millioner interaksjoner . Disse gruppene var viet til å spre hoaxes og falske bilder.
Men nå står vi overfor en annen type digital trussel som genererer ny hodepine. Vi snakker om den såkalte Deepfake, et begrep som oppstår fra kombinasjonen av "Deep Learning" og "Fake". I utgangspunktet er det en form for kunstig intelligens som lar enhver bruker redigere falske videoer og lydbånd av mennesker som virker virkelige. Til dette brukes antagonistiske generative nettverk (AGR) , en slags algoritme som kan lage nye typer data fra andre sett som allerede eksisterer.
Kort fortalt er "deepfakes" en annen form for digital manipulasjon , og en av de mest sannsynlige til å bli brukt til "trolling" i de beste tilfeller. Men hvordan kan vi oppdage dem? Og fremfor alt, hva gjøres av private institusjoner og selskaper for å forhindre katastrofale konsekvenser? I denne spesialen skal vi gjennomgå innsatsen som blir utført for å stoppe denne nye digitale plagen.
Hvorfor er deepfakes så farlige?
“Deepfake” -teknologien gjør at vi enkelt kan erstatte ansiktet til en person for det andre, som om det var en slags maske eller digital maske, for å få oss til å tro at han har sagt visse ting som egentlig aldri fant sted . Som du kan gjette, har disse teknikkene en rekke ganske betydelige implikasjoner for å bestemme legitimiteten til informasjonen som sirkulerer på internett.
Selv om de ofte brukes til å lage humoristiske videoer, er sannheten at "deepfakes" har et mørkt potensial for å ødelegge en persons offentlige image eller å påvirke opinionen gjennom bruk av desinformasjon. Dessverre må vi fortelle deg at dette misbruket er mer utbredt enn vi ønsker, og med enorm suksess bør vi legge til.
Et tydelig eksempel er DeepNude-appen, som tillot å laste opp bildet av en person med klær og lage en ny av den samme nakne personen . Heldigvis er den allerede lukket, men vi må understreke brukervennligheten av denne typen verktøy som ingen kunnskap om redigering er nødvendig for siden algoritmen selv gjør alt arbeidet.
I tilfelle DeepNude tilbød plattformen utrolig realistiske resultater og var fullt tilgjengelig via nettstedet for Windows og Linux . Og som forventet, tok ikke montasjene med kjendiser som Katy Perry eller Gal Gadot lang tid å vises på nettverket, til det punktet at presset fra advokatene til disse skuespillerne ikke stoppet før viktige nettsteder for vokseninnhold fjernet videoene .
Dette er bare toppen av isfjellet til håndteringskapasiteten som denne typen applikasjoner kan ha. Tenk deg nå konsekvensene av en kampanje av denne typen rettet mot en viss politisk person for å manipulere en valgprosess i et land eller en region. Det onde kjenner ingen grenser.
Hvordan bekjemper du deepfakes?
Et av de første selskapene som uttalte seg, var ingen ringere enn Google, som kunngjorde sin faste vilje til å bekjempe deepfakes, og som de sier i disse tilfellene, slukker brann. Teknologigiganten bekreftet lanseringen av en hel database med opptil 3000 videoer manipulert med kunstig intelligens (deepfakes) som er opprettet spesielt for å foredle forskningsoppdagelsesverktøyene.
For å gjøre dette har Google ansatt virkelige skuespillere for å spille inn ansiktene sine og bruke dem som et referansepunkt for å avgjøre om en video er kunstig endret. Ved hjelp av deepfake-generasjonsmetoder tilgjengelig for alle, blir tusenvis av deepfakes opprettet fra disse opptakene.
De resulterende videoene, ekte og falske, lastes opp til den samarbeidende utviklingsplattformen GitHub slik at forskerne forstår hva systemet produserer. Denne databasen er, som vi sier, fullt tilgjengelig, selv om de først må gi deg tillatelse .
For sin del planlegger Facebook også å lage en lignende database innen utgangen av dette året. Ifølge administrerende direktør, Mark Zuckerberg, er hovedproblemet at industrien ikke har et standardisert system for å oppdage dem . Derfor har det gått sammen med Association of AI, Microsoft og akademikere fra Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park og University of Albany-SUNY for å bygge Deepfakes Detection Challenge. (DFDC for akronym på engelsk).
Dette makroprosjektet vil omfatte en omfattende database og en detaljert klassifisering , i tillegg til økonomisk støtte og donasjoner for å oppmuntre så mange samarbeidspartnere som mulig. Ideen er å skape et slags fellesskap som hjelper med å oppdage og unngå manipulerte videoer gjennom en AI.
Det er ingen tvil om at spredningen av "deepfakes" har blitt et veldig alvorlig spørsmål, med alvorlige konsekvenser som ikke kan ignoreres. Selv om tiltakene som er foreslått av hovedagentene som er forpliktet til denne saken, kan virke upraktiske, eller til og med kontraproduktive, på sikt, kan de være den eneste måten å utrydde denne forbrytelsen på. Selv om det kan virke motstridende, vil bekjempelse av "deepfakes" med mer "deepfakes" hjelpe oppdagelsesverktøyene til å absorbere mer data for å hjelpe dem lettere å finne disse typer montasjer .