Microsoft viser AI, der genererer hyperrealistiske deepfakes fra 1 foto

O VASA-1 er den nyeste AI fra microsoft, designet til at skabe hyperrealistiske deepfakes fra et enkelt foto eller tegning af en person. Værktøjet imponerer med sin evne til nøjagtigt at gengive ansigtsudtryk og hovedbevægelser, hvilket giver en illusion af, at personen på billedet faktisk udtrykker noget. I demonstrationer præsenteret af microsoften VASA-1 imponeret ved at replikere læbebevægelser synkroniseret med lyden og skabe udtryk, der ikke er til stede i de originale billeder, hvilket resulterer i ekstremt overbevisende videoer.

Det nye værktøj vækker bekymring over den etiske brug af deepfake-teknologier, da dets evne til at skabe realistiske videoer med få inputoplysninger potentielt kan bruges til at skabe falske nyheder, ærekrænkende videoer og endda fup. Derfor er microsoft arbejder på at sikre, at VASA-1 bruges ansvarligt og etisk.

Hvad er VASA-1, og hvordan virker det?

Det ser ud til at være sandt, men videoen ovenfor er bare en deepfake. En VASA-1 repræsenterer et betydeligt fremskridt i at skabe realistiske talende ansigter gennem kunstig intelligens. O VASA-1 er i stand til at producere videoer af talende ansigter fra et enkelt stillbillede, det være sig et foto eller en tegning, af en person og et lydklip af tale. Disse resulterende videoer har ikke kun læbebevægelser synkroniseret med lyden, men også en bred vifte af naturlig ansigtsdynamik og hovedbevægelser, hvilket opnår et højt niveau af realisme og livlighed.

I modsætning til tidligere metoder er VASA-1 nærmer sig genereringen af ​​talende ansigter holistisk og betragter alle mulige ansigtsbevægelser, såsom udtryk, øjenbevægelser og blink, som unikke latente variabler. Desuden VASA-1 inkorporerer valgfrie konditioneringssignaler, såsom primær blikretning, hovedafstand og følelsesmæssig offset, i læringsprocessen. Dette gør generativ modellering af komplekse distributioner mere kontrollerbar og øger generationsregnskabet. I videoen nedenfor, f.eks VASA-1 demonstreret forskellige blikretningsmuligheder i deepfake.

En af de mest imponerende aspekter af VASA-1 er dens evne til at generere talende ansigter i realtid, hvilket gør den ideel til interaktive kommunikationsapplikationer. Ved at balancere videogenereringskvalitet med beregningseffektivitet, VASA-1 Det overgår markant eksisterende metoder og bringer os tættere på en fremtid, hvor AI-drevne digitale avatarer kan interagere med os lige så naturligt og intuitivt som interaktioner med rigtige mennesker.

Repræsentationen af VASA-1 kan ændre udseendet, den tredimensionelle position af hovedet og ansigtets dynamik, hvilket tillader separat kontrol af attributter og redigering af genereret indhold. Dette betyder, at det, selv med et enkelt inputbillede, er muligt at generere videoer af talende ansigter med forskellige bevægelsessekvenser eller anvende forskellige fotos til den samme bevægelsessekvens, hvilket resulterer i en lang række tilpasningsmuligheder og kontrol over det genererede indhold.

Farerne ved deepfakes

O VASA-1, på trods af dets mulige positive anvendelser, udgør det også betydelige risici relateret til skabelsen af ​​deepfakes. Denne teknologi kan misbruges til at skabe ekstremt overbevisende falske videoer, hvor en person er afbildet, når han gør eller siger noget, der aldrig er sket. Disse deepfakes har potentiale til at forårsage alvorlig skade, såsom at sprede misinformation, manipulere offentlige meninger, bagvaske enkeltpersoner og endda tilskynde til sociale eller politiske konflikter.

Især i valgperioder kan teknologien skabe problemer som følge af ondsindet brug med frembringelser af politiske deepfakes. Med denne teknologi er det muligt at lave videoer af politikere eller offentlige personer, der holder falske taler eller udfører kompromitterende handlinger. Disse videoer kan bruges til at påvirke valg, underminere offentlighedens tillid til ledere og institutioner og skabe politisk ustabilitet.

Brugen af ​​Deepfakes har vakt opmærksomhed og bekymring hos adskillige regeringer rundt om i verden. I Brasilien er TSE forbudt brugen af ​​deepfakes ved valg, hvor foranstaltningen blev godkendt i februar i år. Dette forbud har til formål at forhindre manipulation af information og beskytte integriteten af ​​valgprocessen, forhindre falske videoer og lydoptagelser i at blive brugt til at skade eller favorisere kandidater. Ukorrekt brug af deepfakes kan resultere i tilbagekaldelse af mandatet eller registrering af kandidatur.

Især Kina har været banebrydende for omfattende regulering af brugen af ​​disse teknologier. Dens lovgivning, der er bredere end den, der er vedtaget af nogle vestlige regeringer, ses som et instrument til at opretholde social stabilitet. Det forbyder eksplicit oprettelsen af ​​deepfakes uden samtykke og kræver klar identifikation af AI-genereret indhold.

Et alarmerende eksempel opstod efter den russiske invasion af Ukraine, da en deepfake-video blev bredt cirkuleret på sociale medier. I den dukkede den ukrainske præsident Volodymyr Zelensky op for at beordre sine tropper til at overgive sig, noget der faktisk aldrig skete. Ydermere kan deepfakes bruges mere udbredt i hverdagssituationer, såsom at skabe falske videoer af berømtheder, venner eller familie, skabe forvirring og skade de involverede personers omdømme.

udgivelsesprognose

A microsoft anerkender de risici, der er forbundet med VASA-1 og er forpligtet til at sikre, at værktøjet udvikles og bruges ansvarligt. På grund af de potentielle etiske, privatlivs- og sikkerhedsproblemer, der VASA-1 kan generere microsoft Der er endnu ingen udgivelsesdato for offentligheden.

Virksomheden arbejder aktivt på at implementere sikkerheds- og kontrolforanstaltninger, der hjælper med at mindske risikoen for teknologimisbrug. Udviklere arbejder på at forbedre ægtheden af ​​genererede videoer og udvikle deepfake-detektionsmetoder, der kan hjælpe med at bekæmpe misbrug af teknologien, før de overvejer dens udgivelse til offentligheden.

Se denne og andre nyheder på Showmetech TRIO:

Veja também:

Kilder: PCMag, microsoft e Kort shorts

Anmeldt af Glaucon Vital den 22/4/24.