Microsoft a anunțat lansarea unui nou instrument conceput pentru a identifica deepfake-urile și pentru a ajuta la combaterea răspândirii știrilor false în spațiile media. Denumită Microsoft Video Authenticator, noua tehnologie poate analiza atât fotografii, cât și videoclipuri, căutând semne care arată că acel mesaj a fost manipulat artificial.

Pe scurt, deepfake se referă la acel conținut sintetic creat prin folosirea inteligenței artificială pentru a suprapune imaginea unei persoane pe o poză sau un videoclip deja existent. Acest lucru se poate face de la zero sau folosind un șablon, rezultatul fiind uneori identic cu realitatea. Acest lucru le permite oamenilor să pară că spun ceva ce nu au declarat vreodată sau să pară prezenți în locuri în care nu au fost fizic.

Microsoft Video Authenticator, despre care compania speră că poate fi de ajutor și în perioada premergătoare alegerilor prezidențiale din SUA, poate analiza amănunțit videoclipuri și fotografii și poate oferi o șansă procentuală sau un scor de încredere pentru a estima dacă mass-media a fost manipulată artificial.

„În cazul unui videoclip, acesta poate furniza acest procentaj în timp real pe fiecare cadru pe măsură ce videoclipul este redat. Funcționează prin detectarea limitei de blending a elementelor deepfake și a efectelor subtile de estompare care ar putea să nu fie detectabile de ochiul uman”, este explicat în cadrul unui articol pe blogul Microsoft.

Instrumentul a fost creat folosind un set de date public de la Face Forensics ++, iar testarea sa a fost efectuată folosind Deepfake Detection Challenge Dataset, ambele fiind considerate a fi premergătoare tehnologiilor de formare și testare a detecției.

Cu toate acestea, gigantul cu sediul în Redmond se așteaptă ca tehnologiile deepfake sau altele similare să evolueze și să devină mai sofisticate. „Întrucât toate metodele de detectare AI au rate de eșec, trebuie să înțelegem și să fim pregătiți să răspundem la deepfake-urile care eschivează metodele de detectare. Astfel, pe termen mai lung, trebuie să căutăm metode mai puternice pentru a menține și a certifica autenticitatea articolelor de știri și a altor mijloace media”, a declarat Microsoft.

În cadrul companiei, nu există multe instrumente care să ajute cititorii să verifice dacă articolul media pe care îl vizualizează provine dintr-o sursă de încredere și că materialul nu a fost modificat. De aceea, Microsoft lansează, de asemenea, o nouă piesă de tehnologie care urmărește să descopere conținutul manipulat sau controlat, precum și să asigure cititorii că articolul media pe care îl văd este autentic. Tehnologia este alcătuită din două părți.

Prima componentă este integrată în Microsoft Azure și permite creatorului de conținut să adauge hashuri și certificate digitale la conținutul său, care se păstrează ca o parte integrată sub formă de metadate oriunde se răspândește acel conținut pe paginile web. A doua componentă este un cititor care verifică certificatele și se asociază cu hashurile pentru a le confirma autenticitatea.

Gigantul tehnologic a colaborat, de asemenea, cu Universitatea din Washington, Sensity și USA Today pentru a lansa un test interactiv pentru a educa oamenii privind mass-media sintetică și pentru a observa deepfake-urile. Deși testul se adresează oamenilor din Statele Unite în perioada premergătoare alegerilor prezidențiale, vă puteți testa și dvs aici.

Sursa: Microsoft