Falska videon på riktiga personer – och hur man upptäcker dem

Tro inte att den person som visas på TV eller i MSM-media alltid är en verklig person. Med dagens teknik kan det mesta tillverkas och få dig att tro att du ser personen. Detta utnyttjas mycket idag när kändisar o politiker arresteras, men fortfarande exponeras i våra medier. Nu kan vi avslöja hur det går till…
++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++

 

Tror du att du är bra på att upptäcka falska videor, där kända människor säger saker de aldrig har sagt i verkliga livet? Se hur de är gjorda i den här fantastiska prat- och tekniska demon. Datorforskaren Supasorn Suwajanakorn visar hur han som examensstudent använde AI- och 3D-modellering för att skapa fotorealistiska falska videon av människor synkroniserade med ljud. Läs mer om både de etiska implikationerna och de tekniska kreativa möjligheterna – och de åtgärder som vidtas för att bekämpa dess missbruk.

Titta nu på de här fyra bilderna på Obama och berätta för mig vilken av dem som är äkta. 

obama

Svar: Ingen av dem! Ingen av dem är äkta.

Så låt mig berätta hur jag hamnade här. Min inspiration för det här arbetet var ett projekt för att bevara vår sista chans att lära oss om Förintelsen av de personer som överlevde. Det kallas New Dimensions in Testimony (Nya dimensioner av vittnesbörd) och det tillåter dig att ha interaktiva konversationer med ett hologram av en Förintelse-överlevande.

studio
(visar en video med en överlevande)

Dessa svar var förprogrammerade i en studio.

Ändå var effekten häpnadsväckande. Du känner dig så kopplad till hans berättelse och till honom som person. Jag tror, att det är något speciellt med mänsklig interaktion som gör det mycket djupare och personligare än vad böcker eller undervisningar eller filmer kan förmedla till oss.

Jag såg detta och började fundera, kan vi göra en modell av en person på samma sätt? En modell som ser likadan ut, talar på samma sätt och beter sig på samma sätt?

Så jag slog mig ner och beslöt att ta reda om det kunde göras och eventuellt komma fram med en lösning genom att använda mig av en modell för en person men ingenting annat än dessa…

person

… existerande foton och videon av en person. Om du kan utnyttja denna form av passiv information genom att använda dig av de foton och videon som finns där ute utgör dessa nyckeln till att skala av var och en.

Här har vi Richard P. Feynman, som står inför att få Nobelpriset i fysik, man han var också känd som en utmärkt lärare. Kunde det inte vara fint om vi kunde ta honom tillbaka och låta honom undervisa och inspirera miljontals studenter, kanske inte bara på engelska utan på vilket språk som helst?


Richard P. Feynman född  11 maj 1918 –  död 15 februari 1988. Fick Nobelpriset 1965 i fysik. red.anm Källa: Wikipedia


Eller om vi kunde fråga våra farföräldrar om råd och höra dessa överensstämmande ord även efter att de inte längre finns bland oss. Och även om vi använder oss av dessa verktyg, bokförfattare, levande eller inte, och hör dem läsa högt ur deras böcker för var och en som är intresserad.

De kreativa möjligheterna här är oändliga, och för mig är det mycket intressant. Och såhär går det till idag.

Först introducerar vi en ny teknik som kan rekonstruera en högdetaljerad 3D-ansiktsmodell från vilket foto som helst utan att ha 3D-scannat den personen. Och här har du samma person ur olika synvinklar.

3D

Det här kan också fungera i en video genom att använda sig av samma algoritmer på varje videoram och utveckla en video i 3D form. Och här med samma output-modell ur olika synvinklar.

bush

Det visar sig att detta problem är mycket utmanande, men nyckeltricket är att vi analyserar ett stort antal fotografier av den här personen på förhand. När det gäller George W. Bush är det bara att söka på Google …

bush-google

och härifrån är det möjligt att konstruera en allmän modell, en interaktiv förfinad modell, för att återställa uttrycket med förfinade uttryck och rynkor.

shape

Det som är fascinerande med detta är att denna fotokollektion kan komma från dina vanliga foton. Det spelar egentligen ingen roll vilket uttryck du vill få fram eller var detta foto har tagits. Det enda som spelar roll, är att det finns många. Men fortfarande saknas det en färg här. Som nästa moment, utvecklar vi här en ny blandteknik, som förbättras med en enda genomsnittlig metod (simple average method) …

simple

och lägger till färg och skarpa ansiktsdetaljer, och detta kan man göra för varje enskilt uttryck såsom här nedan.

uttryck

Här nedan har vi en kontrollerad modell av Tom Hanks. (idag vet vi att han inte längre finns i livet enligt Q, men förekommer ff i medierna, red.anm)

tom tom2
och hur man nu kontrollerar detta är genom olika sekvenser i ett statiskt foto och olika sekvenser i det. Notera nu, att rynkor kommer och går. Vi kan också använda oss av en video-modell för att göra en modell.

(här visas en videosekvens med Daniel Craig ”James Bond”)

Här är en annan rolig demo

demo

Det du ser här är kontrollerade modeller på människor som jag har gjort från foton jag har hittat på internet. Om man nu för in ett rörelseschema i fotot kan vi faktiskt köra hela partiet. (här visas ett rörelseschema)

Men låt oss gå lite tillbaka. Vårt absoluta mål är ju att fånga deras manér och personernas unika mimik och leenden. För att göra det, kan vi lära datorn att imitera en persons talesätt genom att visa det i en videoinspelning med en person.

Vad jag då gjorde endast genom att använda mig av en video:

Det som synkroniseras här är munnens rörelser och det hör man såhär:

mun
Först använder man sig av en neutral mun för att omforma och lägga till ljudet i dessa punkter i munnen.

texture

Sedan framställer jag på syntetisk väg strukturen, ändrar i detaljer och i tänderna, omformar huvudet och bakgrunden från källvideon.

obama

Jag tror att resultatet ser rätt så realistiskt ut men samtidigt skrämmer det även mig. Vårt mål var att bygga upp en person, inte att förvränga en person. Så en sak som oroar mig, är att man kan missbruka detta.

Människor har tänkt på det här under en lång tid, allt sedan PhotoShop kunde köpas för första gången på marknaden. Som en forskare, jobbar jag också med motåtgärdsteknik och jag är medlem av en pågående AI Foundation ansträngning, som använder sig av en kombination av maskininlärning och mänskliga moderatorer för att avslöja falska bilder och videon genom att bekämpa mitt eget arbete.

reality

Ett av de verktyg vi ämnar släppa heter Reality Defender som är en web-browser plug-in
som kan avslöja potentiellt falskt inlägg automatiskt inne i browsern.

Trots allt detta, kan falska videon förorsaka stor skada, även innan någon hinner verifiera bedrägeriet, då är det viktigt att vi gör oss alla uppmärksammade på vad som är möjligt, så att vi kan göra rätt antaganden och vara kritiska till vad vi ser.

Det är fortfarande en lång väg att gå innan vi kan fullt ut avbilda en person och innan vi kan försäkra oss om säkerheten i den här teknologin. Men jag är förväntansfull och hoppfull, att när vi använder oss av den rätt och försiktigt, kan det här verktyget användas på ett positivt sätt för var och en i världen för att bli exponerad i större utsträckning och verkligen forma vår framtid på ett sätt som vi själva vill.

Tack.



Kategorier:Världspolitik, Video

Etiketter:, ,

1 svar

%d bloggare gillar detta: