Raziskovalci uporabljajo tehnike iz astronomije za ustvarjanje računalniško ustvarjenih "Deepfake" slike prepoznati - kar je na prvi pogled lahko videti identično pravim fotografijam.

Z analizo slik obrazov, ki se običajno uporabljajo za preučevanje oddaljenih galaksij, lahko astronomi izmerijo, kako človekove oči odbijajo svetlobo, kar lahko kaže na znake manipulacije slike.

"To ni rešitev, saj imamo lažno pozitivne in lažno negativne rezultate," pravi Kevin Pimbblet, direktor Centra za podatkovno znanost, umetno inteligenco in modeliranje na Univerzi Hull v Združenem kraljestvu. Raziskavo je predstavil na nacionalnem astronomskem srečanju Kraljevega astronomskega društva 15. julija. "Toda ta raziskava ponuja potencialno metodo, pomemben korak naprej, ki bi lahko dodal testom, s katerimi bi lahko ugotovili, ali je slika resnična ali lažna."

Izražene fotografije

Napredek umetne inteligence (AI) otežuje razlikovanje med resničnimi slikami, videi in zvokom tiste, ki jih ustvarijo algoritmi, prepoznati. Deepfakes zamenjajo lastnosti ene osebe ali okolja z drugimi in lahko povzročijo, da se zdi, kot da so posamezniki rekli ali storili stvari, ki jih niso. Oblasti opozarjajo, da ta tehnologija militarizira in prispeva k širjenju napačnih informacij, na primer med volitvami, se lahko uporablja.

Prave fotografije bi morale imeti "konsistentno fiziko," pojasnjuje Pimbblet, "zato bi morali biti odsevi, ki jih vidite v levem zrklu, zelo podobni, čeprav ne nujno identični, z odsevi v desnem zrklu." Razlike so subtilne, zato so se raziskovalci obrnili na tehnike, razvite za analizo svetlobe v astronomskih slikah.

Delo, ki še ni bilo objavljeno, je bilo podlaga za magistrsko nalogo Adejumoke Owolabi. Owolabi, podatkovni znanstvenik na univerzi Hull v Združenem kraljestvu, je pridobil resnične slike iz Nabor podatkov Flickr Faces HQ in ustvaril lažne obraze z uporabo generatorja slik. Owolabi je nato na slikah analiziral odboje svetlobnih virov v očeh z uporabo dveh astronomskih meritev: sistema CAS in Ginijevega indeksa. Sistem CAS kvantificira koncentracijo, asimetrijo in gladkost porazdelitve svetlobe predmeta. Ta tehnika je astronomom, vključno s Pimbletom, omogočila, da desetletja karakterizirajo svetlobo ekstragalaktičnih zvezd. Ginijev indeks meri neenakost porazdelitve svetlobe na slikah galaksij.

Eine Serie klarer und annotierter Bilder von Deepfake-Augen, die inkonsistente Reflexionen in jedem Auge zeigen.

S primerjavo odsevov v človekovih očesnih jabolkih je Owolabi v približno 70 % primerov lahko pravilno napovedal, ali je slika ponarejena. Končno so raziskovalci ugotovili, da je Ginijev indeks boljši od sistema CAS pri napovedovanju, ali je bila slika spremenjena.

Brant Robertson, astrofizik na kalifornijski univerzi v Santa Cruzu, pozdravlja raziskavo. "Vendar, če lahko izračunate vrednost, ki kvantificira, kako realistična se lahko zdi slika deepfake, lahko tudi usposobite model AI za ustvarjanje še boljših deepfake z optimizacijo te vrednosti," opozarja.

Zhiwu Huang, raziskovalec AI na Univerzi v Southamptonu v Združenem kraljestvu, pravi, da njegova lastna raziskava ni odkrila nobenih nedoslednih svetlobnih vzorcev v očeh globoko ponarejenih slik. Toda "čeprav specifična tehnika uporabe nedoslednih odsevov v očesnih jabolkih morda ni široko uporabna, bi lahko bile takšne tehnike koristne za analizo subtilnih anomalij v osvetlitvi, sencah in odsevah v različnih delih slike," pravi. "Odkrivanje nedoslednosti v fizikalnih lastnostih svetlobe bi lahko dopolnilo obstoječe metode in izboljšalo splošno natančnost odkrivanja globokih ponaredkov."