Как определить подделку фотографий в эпоху искусственного интеллекта?
© pixabay.com
С каждым годом влияние искусственного интеллекта становится всё более обширным и проникает в различные сферы жизнедеятельности человека, иногда создавая серьёзные проблемы.
В наше время искусственный интеллект (ИИ) набирает всё большую популярность в различных отраслях, а свободный доступ к возможностям данной технологии есть уже у каждого, кто планирует её освоить. Рисунки и видеоролики, сгенерированные ИИ встречаются повсеместно — в социальных сетях, на сайтах и блогах. Часто их крайне трудно идентифицировать и отличить от реальных процессов, явлений. Таким образом, данная технология в руках недобросовестных пользователей становится мощным оружием для дезинформации людей, поскольку возможности нейросети в создании контента не имеют границ. К сожалению, всё больше появляется сгенерированных фотографий и видео на метеорологическую тематику, которые преподносятся как реальные явления и процессы. Иногда подобные вещи публикуют даже серьёзные издания, научные сообщества и сайты, невольно попадая в неудобное положение. Мы сделали небольшую подборку характерных признаков, по которым можно выявить подобного рода изображения или видео, чтобы не оказаться в ловушке современного обмана глобального масштаба.
Основные признаки, по которым можно отличить фото, созданное нейросетью (deepfake, AI-generated), от настоящих кадров:
- Наиболее заметной и часто встречающейся деталью можно назвать чрезмерную пластичность, размытие и сглаженность текстур, которая в реальной жизни вовсе не характерна для изображений людей и многих явлений (облаков, волн на воде, смерчей и т.д.).
- Линии предметов или переходные участки с резкими градиентами цвета / света часто «плывут» и теряют естественную геометрию.
- Если на фото присутствуют логотипы, числа и надписи, то они могут быть заметно искажены.
- Тени и отражения могут не совпадать с направлением на источник освещения, а также выглядеть непропорционально маленькими или большими.
- Кроме того, если даже на первый взгляд кажется, что фото реальное, то при попытке узнать метаданные снимка (EXIF-данные камеры), они как правило, будут отсутствовать.
- На изображениях природных процессов может наблюдаться физическая нелогичность: дождь может выпадать под странным углом, молнии «рисуют» на небе уж слишком идеальные или симметричные узоры; снег, туман или дым не имеют глубины - они распределены равномерно, без естественного градиента плотности.
- Если речь идёт о волнах на водной поверхности, то они могут быть одинаковыми, словно скопированные из одной, без характерных отличительных нюансов, с потерей индивидуальности.
- Огонь может быть «резиновым» или иметь одинаковую форму на разных участках.
- Облака могут иметь неестественные паттерны и /или всевозможные завихрения, а также отличаться чрезмерной симметричностью, при этом границы горизонта неестественно размыты.
- Цветы, минералы, птицы и другие яркие объекты окружающей природы нередко представлены слишком броскими и насыщенными, без изъянов и различных индивидуальных особенностей, при этом максимально «идеализированные».
- Такие природные явления как радуга или гало могут иметь многократно повторяющиеся части, которые вдобавок ещё и крайне симметричны, а также не соответствуют расположению источника света и нарушают принципы геометрической оптики.
Читайте также
Примеры сгенерированных искусственным интеллектом изображений разных природных явлений приведены ниже:
Что бы не попасть в ловушку ИИ, следует соблюдать цифровую гигиену. Можно сравнить изображение с подлинными фото из открытых источников (например, из NASA, National Geographic или NOAA). Увеличьте фото и проверьте, нет ли «мыльных» переходов или повторяющихся узоров в облаках, на траве или в море. Можно использовать специальные анализаторы, такие как: «AIorNot», «HuggingFaceDeepfakeDetector», «Illuminarty.ai». Постарайтесь найти первоисточник конкретного изображения и его автора.
Основные признаки, по которым можно отличить видео, созданное нейросетью (deepfake, AI-generated), от настоящих съёмок:
- Дождевые капли, снежинки, облака, искры двигаются неестественно синхронно. Это же можно наблюдать и в отношении потоков воды.
- Темп и ритм природных процессов слишком плавный и равномерный, без случайных колебаний и флуктуаций.
- По аналогии с изображениями, в видео может наблюдаться чрезмерная пластичность, отсутствие мелкой детализации, а также крайне идеальная симметрия.
- Также могут наблюдаться неестественные переходы между кадрами в виде рывков - например, молния исчезает, но отражение остаётся.
- Несоответствие пропорций: то есть определённый объект съёмки имеет размер и форму не соответствующие расстоянию до него. Это часто происходит с подделками шаровых молний и облаков.
- Довольно часто показаны природные явления, которые невозможны с точки зрения физики, однако проблема здесь заключается в том, что подобные подделки сложно выявить человеку, который не является специалистом в конкретной области науки или искусства.
Рекомендации по выявлению поддельных (сгенерированных) видео будут примерно такими же, что по отношению к фотографиям (см. выше).
Пример сгенерированного нейросетью видео торнадо приведен ниже:
