.gif)
- Работать исключительно через ГАРАНТ.
Cложно ли сделать deepfake-видео и можно ли бороться со злоумышленниками, если использовали лицо для поддельного ролика.
18 января в сети появилась информация, что мошенники выпустили два deepfake-видео с рекламой супердоходов, скопировав лицо основателя Flocktory и Dbrain Дмитрия Мацкевича. В рекламе его копия приглашает на инвестиционные мастер-классы с обещанием 360% годовых.
Сам же Мацкевич считает, что это «крутое иммерсивное шоу про будущее ИИ, которое уже наступило» и один из первых коммерческих примеров использования deepfake, которых в будущем будет всё больше.
"Благодаря ей мы стали частью иммерсивного шоу, в котором будущее ИИ уже наступило, понятие личности размывается, а любой человек может оказаться в рекламе сомнительных услуг."
Кадр из deepfake-видео с основателем Dbrain. На данный момент видео исчезло с ютуба.
Посмотреть вложение mp4.mp4
Ролик создан с помощью дипфейка (deepfake), — нейросети, которая подставляет лицо выбранного человека в видео с максимальной реалистичностью. ИИ сначала анализирует видео и фотографии с участием конкретного человека, а затем генерирует аудиодорожку и создает ролик таким образом, чтобы движения губ соответствовали тому, что говорит человек.
Дипфейк-фрод — новая реальность. Программисты со сравнительно небольшим опытом работы с алгоритмами уже могу подделывать видео с известными предпринимателями, инфлюенсерами и политиками.
Например, бывший президент США Барака Обамы называет деятельность Дональда Трампа «полным провалом». Конечно, на самом деле Обама таких заявлений не делал.
Видео с Димой Мацкевичем создано похожим образом: мошенники обучили алгоритм на основе фотографий и видео с его участием, а затем записали нужную звуковую дорожку и запустили рекламу.
Кроме короткого ролика, авторы фрода сняли получасовой вебинар. Его ведет дипфейк Димы, который находится в кадре почти пять минут — выглядит это действительно круто. Артефакты на видео почти незаметны — даже типаж человека, который стал прототипом Мацкевича, подобран верно.
Что нужно, чтобы сделать deepfake-видео
Существуют открытые и бесплатные нейросетевые приложения с технологией deepfake, которые можно использовать для замены лиц и создания видео с нужным человеком в «главной роли». Самые популярные открытые библиотеки — и .
DeepFaceLab
DeepFaceLab позволяет заменить лицо, голову и возраст человека на видео, а также оптимизировать движение губ под нужные слова. Для работы нужен компьютер с мощной видеокартой и большим объёмом видеопамяти, исходное видео с лицом-источником и целевое видео, на которое будет накладываться нужное лицо.
Разработчики DeepFaceLab опубликовали короткую видеоинструкцию по созданию deepfake
Процесс создания deepface-видео через DeepFaceLab в упрощённом виде:
- Разбиение обоих видео на кадры и извлечение лиц в виде изображений. Их качество и количество зависят от исходника: чем длиннее видео и выше разрешение, тем лучше будут изображения «захваченного» лица, а затем и готовое видео. Некорректные и нечеткие кадры удаляют.
- На базе изображений создаются «маски», а пользователь выделяет границы лиц для более естественного наложения.
- Нейросеть обучается под конкретные случаи: замена лица, головы, убирание фона, сохранение исходных черт лица. Для этого в DeepFaceLab есть несколько параметров, которые необходимо подбирать вручную для максимальной точности ролика.
- Обученную модель нейросети используют для слияния «созданного» лица с исходными кадрами видео.
- Готовые deepfake-кадры преобразуют обратно в видео.
В целом, хотя работа над deepfake и занимает несколько десятков часов, она не требует особых навыков. Достаточно иметь мощный компьютер и время для экспериментов по созданию маски, выбору модели нейросети и её обучения.
Можно ли что-то делать, если злоумышленники использовали лицо
Юридически deepfake-видео не нарушают законов, из-за новизны они находятся в «серой зоне» ответственности, The Verge. В России нет законов, регулирующих deepfake.
Перед выборами президента США в 2020 году интернет-платформы обновили правила: во многом запретили использование и публикацию deepfake-видео, а также начали разработку алгоритмов по их определению.
Посмотреть вложение mp4.mp4
Разработка Microsoft Research по определению deepfake
Но пожаловаться на deepfake можно не везде:
- На Facebook нельзя явно пожаловаться на deepfake-видео, но можно попробовать пожаловаться на «скам» и «введение в заблуждение». Компания , что сама будет бороться с вредоносными deepfake, которые вводят в заблуждение пользователей или нарушают правила соцсети. Исключения только для юмористических видео и роликов с отредактированным порядком слов.
- У Instagram нет правил, по которым модерируется и удаляются deepfake-материалы.
- У «Яндекса» есть жалобы на откровенные материалы, в том числе созданные с помощью deepfake. Компания может удалить ссылки на фото и видео в выдаче, если они нарушают права пользователя.
- «ВКонтакте» удаляет deepfake с «явными изменениями» по пользователя в поддержку, менее очевидные случаи могут требовать дополнительной проверки. Если подобные ролики используются для шантажа или относятся к порнографии, нужно сообщить о них модераторам через кнопку «Пожаловаться», рассказали vc.ru в компании.
- В Twitter нельзя отправить запрос на удаление твита с deepfake, хотя официально соцсеть deepfake-видео и другие манипуляции с медиа и обещает помечать подобное содержимое.
- У YouTube более «мягкие» правила: видеохостинг удалять связанные с выборами deepfake-ролики, не уточнив про возможные мошеннические видео. В апреле 2020 года сервис, к примеру, deepfake-ролик, использующий голос репера Jay-Z, несмотря на артиста. YouTube объяснил это тем, что «запросы на удаление были неполными».
- У Google есть специальная , через которую можно удалить «недобровольную синтетическую порнографию». Также компания с 2019 года инструменты по распознаванию deepfake.
- Microsoft также технологии по распознаванию deepfake, а Adobe сохранять в медиафайле полную историю создания и изменений, чтобы любой желающий мог понять, кто и как его менял.
