Изследователите използват техники от астрономията, за да създават компютърно генерирани “Deepfake” изображения за разпознаване - което на пръв поглед може да изглежда идентично с реални снимки.

Чрез анализиране на изображения на лица, които обикновено се използват за изследване на далечни галактики, астрономите могат да измерят как очите на човек отразяват светлината, което може да показва признаци на манипулиране на изображението.

„Това не е панацея, тъй като имаме фалшиви положителни и фалшиви отрицателни резултати“, казва Кевин Пимблет, директор на Центъра за наука за данни, изкуствен интелект и моделиране в Университета на Хъл, Обединеното кралство. Той представи изследването на Националната астрономическа среща на Кралското астрономическо дружество на 15 юли. „Но това изследване предлага потенциален метод, важна стъпка напред, за потенциално добавяне към тестовете, които могат да се използват, за да се установи дали изображението е истинско или фалшиво.“

Изразени снимки

Напредъкът в областта на изкуствения интелект (AI) прави все по-трудно разграничаването между реални изображения, видео и аудио тези, създадени от алгоритми, да разпознаеш. Deepfakes заместват характеристиките на един човек или среда с други и могат да направят така, че да изглежда така, сякаш хората са казали или направили неща, които не са направили. Властите предупреждават, че тази технология милитаризира и допринася за разпространението на дезинформация, например по време на избори, може да се използва.

Реалните снимки трябва да имат „последователна физика“, обяснява Пимблет, „така че отраженията, които виждате в лявата очна ябълка, трябва да са много подобни, макар и не непременно идентични, с отраженията в дясната очна ябълка“. Разликите са фини, така че изследователите се обърнаха към техники, разработени за анализиране на светлината в астрономически изображения.

Работата, която все още не е публикувана, е в основата на магистърската теза на Adejumoke Owolabi. Owolabi, учен по данни в Университета на Хъл, Обединеното кралство, извлече реални изображения от Flickr Faces HQ набор от данни и създаде фалшиви лица с помощта на генератор на изображения. След това Owolabi анализира отраженията от източници на светлина в очите в изображенията, използвайки две астрономически измервания: системата CAS и индекса Gini. Системата CAS определя количествено концентрацията, асиметрията и плавността на разпределението на светлината на обекта. Тази техника позволи на астрономите, включително Пимблет, да характеризират светлината на извънгалактични звезди в продължение на десетилетия. Индексът Джини измерва неравенството на разпределението на светлината в изображенията на галактики.

Eine Serie klarer und annotierter Bilder von Deepfake-Augen, die inkonsistente Reflexionen in jedem Auge zeigen.

Чрез сравняване на отраженията в очните ябълки на човек, Owolabi успя да предскаже правилно дали изображението е фалшиво в около 70% от случаите. В крайна сметка изследователите установиха, че индексът Gini е по-добър от системата CAS при прогнозиране дали изображението е било манипулирано.

Брант Робъртсън, астрофизик от Калифорнийския университет в Санта Круз, приветства изследването. „Въпреки това, ако можете да изчислите стойност, която количествено определя колко реалистично може да изглежда дълбоко фалшиво изображение, можете също така да обучите AI модела да произвежда още по-добри дълбоки фалшиви изображения, като оптимизирате тази стойност“, предупреждава той.

Zhiwu Huang, изследовател на AI в Университета на Саутхемптън, Обединеното кралство, казва, че собственото му изследване не е идентифицирало никакви противоречиви светлинни модели в очите на дълбоко фалшиви изображения. Но „докато специфичната техника за използване на непоследователни отражения в очните ябълки може да не е широко приложима, такива техники биха могли да бъдат полезни за анализиране на фини аномалии в осветлението, сенките и отраженията в различни части на изображението“, казва той. „Откриването на несъответствия във физическите свойства на светлината може да допълни съществуващите методи и да подобри цялостната точност на откриването на дълбоки фалшификати.“