Innhold
- Hva er deepfake?
- Hvordan fungerer deepfake?
- Opprinnelsen
- Farene
- Finne en løsning
- Populært deepfake-innhold
Deepfake-innhold bygger kaos blant mennesker som vokste opp med ideen om at å se er å tro. Bilder og videoer, som en gang var ansett som ubestridelig bevis på at noe skjedde, blir nå avhørt av massene. Dette kan forventes etter å ha funnet ut den utrolig realistiske videoen av Barack Obama som kaller president Trump for en "total og fullstendig dypp ****", er ikke noe annet enn en dyptgående skapelse.
Deepfake-innhold bygger kaos blant mennesker som vokste opp med ideen om at å se er å tro.
Edgar CervantesTeknologien som er involvert er å heve øyenbrynene og generere spørsmål, og det er derfor vi er her for å gi deg en fullstendig gjennomgang av hva det er, hvordan det fungerer, og om det virkelig er grunn til å bekymre deg.
Hva er deepfake?
Deepfake er en AI (kunstig intelligens) teknikk som bruker maskinlæring for å lage eller manipulere innhold. Det brukes ofte til å lage montasjer eller overlegge ansikts ansikt på toppen av en annen, men dens evner strekker seg langt utover det. Denne teknologien har mange andre applikasjoner. Disse inkluderer å manipulere eller skape lyd, bevegelse, landskap, dyr og mer.
Hvordan fungerer deepfake?
Deepfake-innhold opprettes gjennom en maskinlæringsteknikk kjent som GAN (generative adversarial network). GAN-er bruker to nevrale nett: en generator og en diskriminator. Disse konkurrerer stadig mot hverandre.
Generatoren vil prøve å skape et realistisk bilde, mens diskriminerende vil prøve å avgjøre om det er falsk eller ikke. Hvis generatoren narrer diskriminereren, bruker diskriminerende informasjon som er samlet for å bli en bedre dommer. På samme måte, hvis diskriminereren bestemmer at generatorens bilde er en falsk, vil generatoren bli bedre til å lage et falskt bilde. Den uendelige syklusen kan fortsette til et bilde, video eller lyd ikke lenger er merkbart falske for menneskets perspektiv.
Opprinnelsen
De første falske videoene var tydeligvis porno!
Edgar CervantesDe første falske videoene var tydeligvis porno! Mer spesifikt var det vanlig å se kjendisansikter lagt over pornoskuespillerinner. Nicholas Cage memes var også populære, blant andre morsomme oppfinnelser.
Ordet deepfake ble synonymt med denne teknikken i 2017, takket være en Reddit-bruker som gikk under navnet “deepfakes”. Brukeren fikk selskap av andre på det nå forbudte r / deepfakes subreddit, der de delte sine kreasjoner med verden.
Den virkelige skaperen av generative motstandernettverk er Ian Goodfellow. Sammen med kollegene introduserte han konseptet for University of Montreal i 2014. Han gikk deretter videre for å jobbe for Google, og er i dag ansatt i Apple.
Farene
I gale hender kan opprettelse av dype falser brukes til å forfalske mye mer enn dumme Nicholas Cage memes.
Edgar CervantesSelv om manipulering av innhold ikke er noe nytt, krevde det alvorlige ferdigheter. Du trengte en kraftig datamaskin og en virkelig god grunn (eller bare for mye fritid) for å lage falskt innhold. Deepfake-opprettingsprogramvare som FakeApp er gratis, lett å finne og krever ikke mye datamaskinkraft. Og fordi det gjør alt arbeidet på egen hånd, trenger du ikke å være en dyktig redaktør for å lage sinnsykt ekte deepfake media.
Dette er grunnen til at allmennheten, kjendiser, politiske enheter og regjeringer bekymrer seg for den dyptliggende bevegelsen. I gale hender kan opprettelse av dype falser brukes til å forfalske mye mer enn dumme Nicholas Cage memes. Se for deg noen som lager falske nyheter eller skjellsettende videobevis. Du kan legge til falske og hevnporno til problemet. Ting kan bli rotete veldig raskt.
En annen grunn til å bekymre deg for innhold i dybden er at viktige personligheter også kan benekte tidligere handlinger. Fordi deepfake-videoer virker så ekte, kan hvem som helst hevde at et ekte klipp er en deepfake.
Les også: Kompleksitetene i etikk og AI
Finne en løsning
Mens det er veldig nær ekte, kan et trent øye fremdeles se en falsk video ved å være nøye med. Bekymringen er at vi på et tidspunkt i fremtiden ikke kan være i stand til å fortelle forskjellen.
Twitter, Pornhub, Reddit og andre har uten hell prøvd å kvitte seg med slikt innhold. På den mer offisielle siden jobber DARPA (Defense Advanced Research Projects Agency) med forskningsinstitusjoner og University of Colorado for å skape en måte å få øye på deepfakes.
Det beste vi kan gjøre for å bekjempe deep-fake-videoer er å være mer observante og mindre godtroende.
Edgar CervantesInntil vi har programvare som kan oppdage uregelmessigheter i slike videoer, er det beste vi kan gjøre å være mer observant og mindre godtroende. Undersøk før du antar at video, bilde eller lyd er ekte. Dette er noe vi burde ha gjort allerede, uansett.
Populært deepfake-innhold
Jordan Peele blir med Buzzfeed for å sette sammen denne videoen, som er ment å skape bevissthet.
Onlinemanipulasjonsekspert Claire Wardle viser oss hvor realistiske disse videoene kan se ut ved å fremstå som Adele de første 30 sekundene av videoen. Denne videoen fra The New York Times gir oss et godt innblikk i temaet.
Watchmojo gir har samlet en liste over noen av de mest populære deepfake-videoene rundt. Det er en morsom video med mange gode eksempler.
Er du bekymret for konsekvensene av deepfake-videoer? Det er absolutt et tema vi bør huske på, samtidig som vi også jobber med å finne løsninger.
