Vědci používají techniky z astronomie k vytvoření počítačem generovaného „Deepfake“ obrázky rozpoznat – což na první pohled může vypadat identicky se skutečnými fotografiemi.

Analýzou snímků obličejů, které se obvykle používají ke studiu vzdálených galaxií, mohou astronomové měřit, jak lidské oči odrážejí světlo, což může naznačovat známky manipulace s obrázky.

„Není to všelék, protože máme falešně pozitivní a falešně negativní výsledky,“ říká Kevin Pimbblet, ředitel Centra pro datovou vědu, umělou inteligenci a modelování na University of Hull ve Velké Británii. Výzkum prezentoval na National Astronomy Meeting Royal Astronomical Society 15. července. "Tento výzkum však nabízí potenciální metodu, důležitý krok vpřed, který může potenciálně přidat k testům, které lze použít ke zjištění, zda je snímek skutečný nebo falešný."

Vyjádřené fotografie

Díky pokroku v umělé inteligenci (AI) je stále obtížnější rozlišit mezi skutečnými obrázky, videem a zvukem ty vytvořené algoritmy, rozpoznat. Deepfakes nahrazují rysy jedné osoby nebo prostředí jinými a může to vypadat, jako by jednotlivci řekli nebo udělali věci, které ne. Úřady varují, že tato technologie militarizuje a přispívá k šíření dezinformací, například při volbách, lze použít.

Skutečné fotografie by měly mít "konzistentní fyziku," vysvětluje Pimbblet, "takže odrazy, které vidíte v levém oku, by měly být velmi podobné, i když ne nutně totožné, s odrazy v pravém oku." Rozdíly jsou nepatrné, takže se vědci obrátili na techniky vyvinuté pro analýzu světla v astronomických snímcích.

Dílo, které dosud nebylo publikováno, vytvořilo základ pro diplomovou práci Adejumoke Owolabiho. Owolabi, datový vědec z University of Hull ve Velké Británii, získal skutečné obrázky z Flickr Faces HQ Dataset a vytvořili falešné tváře pomocí generátoru obrázků. Owolabi poté analyzoval odrazy od světelných zdrojů v očích na snímcích pomocí dvou astronomických měření: systému CAS a Giniho indexu. Systém CAS kvantifikuje koncentraci, asymetrii a hladkost rozložení světla objektu. Tato technika umožnila astronomům, včetně Pimbbleta, charakterizovat světlo extragalaktických hvězd po celá desetiletí. Giniho index měří nerovnoměrnost rozložení světla na snímcích galaxií.

Eine Serie klarer und annotierter Bilder von Deepfake-Augen, die inkonsistente Reflexionen in jedem Auge zeigen.

Porovnáním odrazů v očních bulvách člověka dokázal Owolabi v 70 % případů správně předpovědět, zda je obraz falešný. Nakonec vědci zjistili, že Gini index byl lepší než systém CAS při předpovídání, zda byl obrázek zmanipulován.

Brant Robertson, astrofyzik z Kalifornské univerzity v Santa Cruz, výzkum vítá. „Pokud však dokážete vypočítat hodnotu, která kvantifikuje, jak realisticky se může deepfake obraz jevit, můžete také trénovat model AI tak, aby produkoval ještě lepší deepfakes optimalizací této hodnoty,“ varuje.

Zhiwu Huang, výzkumník umělé inteligence na University of Southampton ve Velké Británii, říká, že jeho vlastní výzkum nezjistil žádné nekonzistentní světelné vzory v očích hluboce falešných snímků. Ale „zatímco specifická technika použití nekonzistentních odrazů v očních bulvách nemusí být široce použitelná, takové techniky by mohly být užitečné pro analýzu jemných anomálií v osvětlení, stínech a odrazech v různých částech obrazu,“ říká. "Detekce nesrovnalostí ve fyzikálních vlastnostech světla by mohla doplnit stávající metody a zlepšit celkovou přesnost detekce deepfake."