Tutkijat käyttävät tähtitieteen tekniikoita luodakseen tietokoneella luotuja "Deepfake" -kuvat tunnistaa - mikä ensi silmäyksellä saattaa näyttää identtisiltä todellisten valokuvien kanssa.

Analysoimalla kuvia kasvoista, joita tyypillisesti käytetään kaukaisten galaksien tutkimiseen, tähtitieteilijät voivat mitata, kuinka ihmisen silmät heijastavat valoa, mikä voi viitata kuvan manipuloinnin merkkeihin.

"Se ei ole ihmelääke, koska meillä on vääriä positiivisia ja vääriä negatiivisia tuloksia", sanoo Kevin Pimblet, Hullin yliopiston datatieteen, tekoälyn ja mallinnuksen keskuksen johtaja. Hän esitteli tutkimuksen Royal Astronomical Societyn National Astronomy Meetingissa 15. heinäkuuta. "Mutta tämä tutkimus tarjoaa potentiaalisen menetelmän, tärkeän askeleen eteenpäin, mahdollisesti lisätä testejä, joiden avulla voidaan selvittää, onko kuva todellinen vai väärennös."

Ilmaistuja kuvia

Tekoälyn (AI) edistyminen tekee yhä vaikeammaksi erottaa todellisen kuvan, videon ja äänen välillä algoritmien luomia, tunnistaa. Deepfake korvaa yhden henkilön tai ympäristön piirteet toisilla ja voi saada vaikutelman siltä, ​​että ihmiset ovat sanoneet tai tehneet asioita, joita he eivät ole tehneet. Viranomaiset varoittavat, että tämä tekniikka militarisoi ja edistää väärän tiedon leviämistä, esimerkiksi vaalien aikana, voidaan käyttää.

Oikeilla valokuvilla pitäisi olla "yhdenmukainen fysiikka", Pimblet selittää, "joten vasemmassa silmämunassa näkemiesi heijastusten tulisi olla hyvin samanlaisia, vaikkakaan eivät välttämättä identtisiä, oikean silmämunan heijastusten kanssa." Erot ovat hienovaraisia, joten tutkijat siirtyivät tekniikoihin, jotka on kehitetty valon analysointiin tähtitieteellisissä kuvissa.

Teos, jota ei ole vielä julkaistu, muodosti pohjan Adejumoke Owolabin pro gradu -työlle. Owolabi, datatieteilijä Hullin yliopistosta Iso-Britanniasta, hankki oikeita kuvia Flickr Faces HQ Dataset ja loi väärennettyjä kasvoja kuvageneraattorilla. Owolabi analysoi sitten kuvien valonlähteiden heijastukset silmissä käyttämällä kahta tähtitieteellistä mittausta: CAS-järjestelmää ja Gini-indeksiä. CAS-järjestelmä mittaa kohteen valon jakautumisen keskittymisen, epäsymmetrian ja tasaisuuden. Tämän tekniikan ansiosta tähtitieteilijät, mukaan lukien Pimbblet, ovat pystyneet luonnehtimaan ekstragalaktisten tähtien valoa vuosikymmeniä. Gini-indeksi mittaa valon jakautumisen epätasaisuutta galaksikuvissa.

Eine Serie klarer und annotierter Bilder von Deepfake-Augen, die inkonsistente Reflexionen in jedem Auge zeigen.

Vertaamalla ihmisen silmämunien heijastuksia Owolabi pystyi ennustamaan oikein, oliko kuva väärennös noin 70 % ajasta. Lopulta tutkijat havaitsivat, että Gini-indeksi oli CAS-järjestelmää parempi ennustamaan, oliko kuvaa manipuloitu.

Brant Robertson, astrofyysikko Kalifornian yliopistosta Santa Cruzista, on tyytyväinen tutkimukseen. "Jos kuitenkin pystyt laskemaan arvon, joka määrittää, kuinka realistiselta syväväärennöskuva voi näyttää, voit myös harjoitella tekoälymallia tuottamaan entistä parempia syväväärennöksiä optimoimalla tämän arvon", hän varoittaa.

Britannian Southamptonin yliopiston tekoälytutkija Zhiwu Huang sanoo, että hänen omassa tutkimuksessaan ei ole havaittu epäjohdonmukaisia ​​valokuvioita syvän väärennettyjen kuvien silmissä. Mutta "vaikka erityinen tekniikka, jossa käytetään epäjohdonmukaisia ​​heijastuksia silmämunassa, ei ehkä ole laajasti sovellettavissa, tällaiset tekniikat voivat olla hyödyllisiä analysoitaessa hienovaraisia ​​poikkeavuuksia valaistuksessa, varjoissa ja heijastuksissa kuvan eri osissa", hän sanoo. "Valon fysikaalisten ominaisuuksien epäjohdonmukaisuuksien havaitseminen voisi täydentää olemassa olevia menetelmiä ja parantaa syvän väärennösten havaitsemisen yleistä tarkkuutta."