Команда представила свою работу на Международной конференции по машинному обучению (ICML) 15 июля 2020 года, одной из ведущих конференций в области машинного обучения. Кроме того, исследователи делают свой код бесплатно доступным онлайн по адресу https: // github.com / RUB-SysSec / GANDCTAnalysis, чтобы другие группы могли воспроизвести их результаты.
Взаимодействие двух алгоритмов приводит к новым изображениям
Глубокие поддельные изображения – слово-портфель от «глубокого обучения» для машинного обучения и «подделка» – генерируются с помощью компьютерных моделей, так называемых генеративных состязательных сетей, сокращенно GAN.
В этих сетях работают вместе два алгоритма: первый алгоритм создает случайные изображения на основе определенных входных данных. Второй алгоритм должен решить, поддельное изображение или нет. Если обнаруживается, что изображение является подделкой, второй алгоритм дает первому алгоритму команду изменить изображение до тех пор, пока он не перестанет распознавать его как подделку.
В последние годы этот метод помог сделать глубокие фальшивые изображения все более и более аутентичными.
На сайте www.которыйлицореальный.com, пользователи могут проверить, могут ли они отличить подделки от оригинальных фотографий. «В эпоху фейковых новостей может возникнуть проблема, если у пользователей нет возможности отличить изображения, созданные компьютером, от оригиналов», – говорит профессор Торстен Хольц из кафедры системной безопасности.
Для своего анализа исследователи из Бохума использовали наборы данных, которые также легли в основу вышеупомянутой страницы «Какое лицо настоящее?.«В этом междисциплинарном проекте Джоэл Франк, Торстен Эйзенхофер и профессор Торстен Хольц с кафедры системной безопасности сотрудничали с профессором Асей Фишер с кафедры машинного обучения, а также Леа Шонхерр и профессором Доротеей Колосса с кафедры цифровой обработки сигналов.
Частотный анализ выявляет типичные артефакты
На сегодняшний день фальшивые изображения проанализированы с использованием сложных статистических методов. Группа Бохума выбрала другой подход, преобразовав изображения в частотную область с помощью дискретного косинусного преобразования. Таким образом, сгенерированное изображение выражается как сумма множества различных функций косинуса. Естественные изображения состоят в основном из низкочастотных функций.
Анализ показал, что изображения, генерируемые GAN, имеют артефакты в высокочастотном диапазоне. Например, типичная структура сетки возникает в частотном представлении поддельных изображений. "Наши эксперименты показали, что эти артефакты встречаются не только в изображениях, созданных GAN. Это структурная проблема всех алгоритмов глубокого обучения ", – объясняет Джоэл Франк с кафедры безопасности систем. «Мы предполагаем, что артефакты, описанные в нашем исследовании, всегда скажут нам, является ли изображение фальшивым изображением, созданным с помощью машинного обучения», – добавляет Фрэнк. "Таким образом, частотный анализ является эффективным способом автоматического распознавания компьютерных изображений."