fbpx
IT и компьютерная техника Топ новости

Вашинтонский университет научился генерировать дипфейки спутниковых снимков

Доцент географии Вашингтонского университета Бо Чжао и его коллеги опубликовали статью на тему «дипфейк-географии», в которой рассказали о собственных экспериментах по генерированию дипфейков спутниковых снимков и по их обнаружению.

Вашинтонский университет научился генерировать дипфейки спутниковых снимков

То, что может показаться изображением Такомы, на самом деле является имитацией, созданной путем переноса визуальных паттернов Пекина на карту реального района Такомы

Чжао и его команда создали программное обеспечение для генерации дипфейков спутниковых изображений, используя генеративные состязательные сети, которые уже задействовали в таких программах, как ThisPersonDoesNotExist. Затем они создали ПО для обнаружения подделок на основе таких характеристик, как текстура, контраст и цвет.

Вашинтонский университет научился генерировать дипфейки спутниковых снимков

Упрощенная иллюстрация того, как смоделированное спутниковое изображение (справа) можно создать, поместив базовую карту (Город A) в дипфейк-модель. Она создается путем выделения группы пар базовой карты и спутниковых изображений из второго города (Город B).

Чжао решил проинформировать общественность о проблемах надежности спутниковых снимков и повысить осведомленность о потенциальном влиянии дипфейк-географии. Ученый отмечает, что, пока специалисты по геоинформационным системам отмечают технические достоинства глубокого обучения и других типов ИИ, лишь немногие публично признают или критикуют потенциальные угрозы дипфейков в данной области.

Команда Чжао обнаружила дипфейки, которые насчитывают сотни, и даже тысячи лет. Они рассмотрели мифологические географические карты вавилонян и те карты, которые публиковали воюющие стороны уже во время современных конфликтов. Исследователи нашли так называемые «бумажные города» и «улицы-ловушки». Это фальшивые поселения и дороги, вставленные в карты.

Вашинтонский университет научился генерировать дипфейки спутниковых снимков

Это карты и спутниковые изображения, настоящие и поддельные, одного из районов Такомы. В левом верхнем углу показано изображение из картографической программы, а в правом верхнем углу – фактический спутниковый снимок района. Нижняя пара – это смоделированные спутниковые изображения района, созданные на основе геопространственных данных Сиэтла (внизу слева) и Пекина (внизу справа).

Создавать поддельные спутниковые снимки благодаря их низкому разрешению, безусловно, легче, чем поддельные видеоролики с изображением людей, говорит Чжао. Кроме того, к таким снимкам потенциально больше доверия, поскольку их передают правительственные спутники и аппараты крупных космических компаний.

Географы давно говорят о проблемах, которые могут возникнуть из-за появления поддельных снимков из космоса. По их словам, такие изображения могут вводить в заблуждение, демонстрируя, к примеру, лесные пожары или наводнения. Кроме того, правительства могут использовать их для дискредитации реальных историй, в частности, обнаруженных уйгурских лагерей в Китае.

Географические дипфейки могут также представлять угрозу национальной безопасности, поскольку геополитические противники могут использовать их для введения друг друга в заблуждение.

Ранее группа ученых из Калифорнийского университета в Сан-Диего продемонстрировала, что даже самые продвинутые системы обнаружения дипфейков можно обмануть. Для этого достаточно внедрить слегка измененные входные данные или состязательные примеры в каждый видеокадр дипфейка.

Related Posts

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *