Detalii tehnice ale metodei de detecție a deepfake-urilor prin astronomie
Cercetătorii de la Universitatea din Hull au demonstrat ceva neașteptat. Principii folosite de zeci de ani pentru studiul galaxiilor pot detecta imagini generate de inteligența artificială. Metoda a fost prezentată în iulie 2024. Locul: întâlnirea națională de astronomie a Royal Astronomical Society, găzduită chiar de Universitatea Hull.
Cercetarea a fost condusă de Adejumoke Owolabi, studentă la master. Coordonarea a aparținut profesorului Kevin Pimbblet, profesor de astrofizică. Acesta conduce și Centrul de Excelență pentru Data Science, Inteligență Artificială și Modelare din cadrul universității.
ℹ️ Notă tehnică: La momentul prezentării, cercetarea nu trecuse încă prin recenzie științifică (peer review). Nu era publicată într-o revistă academică. Echipa lucra la transformarea studiului într-o publicație formală. Concluziile de mai jos sunt rezultate preliminare, nu un standard validat definitiv.
Ideea de bază: fizica reflexiilor din ochi
Punctul de plecare a fost o observație simplă. Într-o fotografie reală, reflexiile de lumină din cei doi ochi ar trebui să fie coerente între ele. Motivul: ambii ochi reflectă aceeași sursă de lumină din mediu, din același unghi general.
Într-o imagine generată de AI, această coerență se pierde frecvent. Reflexiile pot arăta diferit de la un ochi la altul — alt număr de surse de lumină, altă formă, altă poziție. Motivul: modelul generativ nu reconstruiește scena pe baza unor legi fizice reale. El se bazează pe tipare statistice învățate din date.
- În imaginile autentice, cei doi ochi reflectă identic aceleași ferestre, lumini de tavan sau alte surse din cameră.
- În imaginile false, reflexiile eșuează frecvent să respecte această coerență.
⚠️ AVERTISMENT: Metoda funcționează pe legi optice de bază, nu pe recunoaștere facială sau metadate. Nu poate identifica o persoană. Nu poate confirma identitatea. Verifică exclusiv dacă fizica luminii din imagine este plauzibilă.
Măsurători împrumutate din astronomie
Pentru a cuantifica aceste diferențe, echipa a folosit două instrumente statistice. Ambele au fost dezvoltate inițial pentru a caracteriza forma și structura galaxiilor.
Sistemul CAS (Concentration, Asymmetry, Smoothness)
CAS e folosit de astronomi pentru a determina morfologia unei galaxii. El măsoară cât de concentrată e lumina în centru. Măsoară și cât de asimetrică e distribuția. Măsoară, în plus, cât de „netedă” sau granulară arată structura.
- O galaxie eliptică, de exemplu, are o concentrație mare și asimetrie/netezime scăzute. Lumina e concentrată central, cu o structură difuză spre margini.
- Aplicat pe reflexiile din ochi, sistemul CAS nu s-a dovedit un predictor eficient. Concentrația funcționează bine pentru o singură sursă punctuală de lumină. Reflexiile din ochi apar însă adesea ca mai multe pete de lumină împrăștiate, nu ca un singur punct.
Indexul Gini
Indexul Gini vine inițial din economie, unde măsoară inegalitatea veniturilor. În astronomie, el cuantifică cât de inegal e distribuită lumina în imaginea unei galaxii.
- O valoare Gini de 0 înseamnă lumină distribuită perfect uniform pe toți pixelii.
- O valoare Gini de 1 înseamnă toată lumina concentrată într-un singur pixel.
- Spre deosebire de CAS, indexul Gini analizează întreaga distribuție a pixelilor. Nu se limitează la un singur punct central. Asta l-a făcut o abordare mult mai robustă pentru compararea reflexiilor stânga-dreapta.
ℹ️ Notă tehnică: Chiar în cuvintele profesorului Pimbblet, indexul Gini „ia întreaga distribuție a pixelilor”. Poate vedea dacă valorile sunt distribuite similar între stânga și dreapta. E, spune el, „o abordare non-parametrică robustă” pentru acest tip de comparație.
Cum a fost testată metoda
Echipa a construit un set de date comparativ, din două surse distincte de imagini:
- Imagini reale: din setul public Flickr-Faces-HQ (FFHQ). E o colecție de 70.000 de fotografii de fețe umane, cu variație mare de vârstă, etnie și fundal.
- Imagini false: generate prin This Person Does Not Exist. Site-ul produce fețe fotorealiste prin arhitectura StyleGAN. Persoana din imagine nu există în realitate.
Software-ul echipei a detectat automat reflexiile din ochi, în fiecare imagine. Apoi a rulat trăsăturile morfologice ale acestor reflexii prin sistemul CAS și prin indexul Gini. Scopul: compararea similarității dintre ochiul stâng și cel drept.
Rezultatele: acuratețe, nu certitudine
Metoda bazată pe indexul Gini a prezis corect statutul imaginii — reală sau falsă — în aproximativ 70% din cazuri. Asta echivalează cu o rată de eroare de aproximativ 3 din 10 imagini testate.
⚠️ AVERTISMENT: Profesorul Pimbblet a fost explicit. Metoda „nu este un glonț de argint” pentru detectarea imaginilor false. Există fals-pozitive: imagini reale marcate greșit ca false. Există și fals-negative: deepfake-uri nedetectate. Metoda oferă o bază de lucru, nu o soluție definitivă.
Tabel comparativ: cele două instrumente statistice
| Instrument | Origine | Ce măsoară | Eficiență pe reflexii oculare |
|---|---|---|---|
| Sistem CAS | Morfologie galactică | Concentrare, asimetrie, netezime | Ineficient — optimizat pentru un singur punct de lumină |
| Index Gini | Economie → astronomie | Inegalitatea distribuției luminii pe toți pixelii | Eficient — surprinde diferențe fine stânga-dreapta |
Limitări și aplicabilitate reală
- Metoda depinde de reflexii clare și vizibile în ochi. Asta nu se întâmplă în toate fotografiile — unghiuri nefavorabile, ochelari, iluminare slabă pot bloca metoda.
- Rata de 70% acuratețe e utilă ca instrument suplimentar de screening. Nu e un verdict final într-un context critic — juridic, jurnalistic sau de securitate.
- Modelele generative viitoare ar putea învăța să corecteze exact acest tip de inconsistență fizică. Eficiența metodei ar scădea, în timp.
Dualitatea oricărei cercetări în domeniu
Orice metodă de detecție publicată riscă ceva. Poate deveni, indirect, un ghid pentru îmbunătățirea generatoarelor de imagini false. Dacă un model AI e antrenat să corecteze exact aceste inconsistențe, metoda își pierde din eficiență.
Această tensiune rămâne activă în comunitatea de cercetare AI. Pe de o parte, transparența științifică e necesară pentru validarea unei descoperiri. Pe de altă parte, aceeași descoperire poate îmbunătăți tehnologia pe care încearcă s-o contracareze.
Concluzie
Sistemul CAS și indexul Gini sunt instrumente consacrate în astrofizică. Aplicarea lor la detectarea deepfake-urilor arată ceva important. Principiile matematice pot fi transferate între domenii aparent fără legătură. Echipa de la Universitatea din Hull a obținut o acuratețe de aproximativ 70%, prin indexul Gini. Rezultatul nu e o soluție definitivă. Este însă un instrument suplimentar, bazat pe legi fizice verificabile, în arsenalul tot mai necesar împotriva imaginilor generate artificial.
✍️ Autor: Bejenaru Alexandru Ionut – [email protected]
🔗 Link intern: https://diagnozabam.ro/sfaturi
Treci la nivelul următor în atelierul tău: Diagnoză profesională wireless, codări ECU avansate și control bidirecțional complet:
🔗 Link afiliat — putem primi un comision, fără cost suplimentar pentru tine.
Soluția ideală de mijloc: O tabletă accesibilă de 5.5 inch ce oferă diagnosticare completă pe toate sistemele și 10 resetări esențiale:
