Contents

Правда за Deepfakes

19 июля 2019 года от wernerb Правдоподобные глубокие подделкиИсточник: Business Insider

Вы тратите время на то, чтобы заниматься своими делами, проверять последние сплетни онлайн или крутить барабаны в казино Vegas Palms, когда кто-то отправляет вам видео. Это Том Круз, вы можете ясно видеть, как день, но он делает то, чего вы никогда не ожидаете за миллион лет. Ради вежливости и сохранения этого PG13, допустим, он жонглирует цыплятами, прыгая на одной ноге. Вы сбиты с толку. Почему Том Круз разрешил публиковать такое видео? Конечно, он прыгнул на диван однажды, но даже для него это слишком далеко.

Если вы еще не догадались по названию этой статьи, это глубокая подделка. Или сгенерированный подделкой CGI, в котором лицо знаменитости вставлено в видео. Обычно эти творения любителя в лучшем случае, и порнографический характер. Но еще одна более креативная подделка заключалась в том, что Джон Сноу извинялся за финальный сезон игры престолов. Это было настолько правдоподобно, что осталось незамеченным, честно говоря, дольше, чем следовало.

Как это работает?

Так как же изготавливаются эти впечатляющие подделки? Простой ответ, довольно легко. Немного более длинный ответ довольно легко, но не так просто, как вы думаете, чтобы сделать что-то действительно неотличимое от реальной вещи.

Само программное обеспечение упоминается как генеративные состязательные сети (GAN) и основано на двух программных системах, идущих один на один. Один пытается наложить сгенерированную информацию на изображение, в то время как другой постоянно пытается определить работу как фальшивую. Эти две системы разыгрывают друг друга до тех пор, пока не будет создано нечто, приближающееся к реалистично выглядящей подделке.

Овладение глубокими подделкамиИсточник: Defusing Dis

Pro Touch

Все это звучит очень хай-тек и круто, и это так. Но есть несколько вещей, которые нужно иметь в виду. Во-первых, создание глубокого поддельного лица — это не то же самое, что щелкать пальцами, даже с помощью специального программного обеспечения. Причины двояки.

Во-первых, алгоритмы должны иметь как можно больше примеров целевого лица с максимально возможного количества углов. Так что в случае со знаменитостью или политиком, не повезло. Для обычного человека на улице этот процесс намного сложнее. Так что отдыхайте спокойно, если у вас нет тонны видео онлайн, которые демонстрируют вашу красивую кружку со всех сторон. Вы в безопасности, в основном.

Во-вторых, процесс занимает часы. Это не тот случай, когда все готово. Кроме того, создание действительно правдоподобных подделок, которые выживут при тщательном изучении, является истинной формой искусства. Качество созданного изображения должно соответствовать целевому видео многими, многими тонкими способами. Окружающий свет, правдоподобные тени, синхронизированные движения и плавные переходы — все это неотъемлемая часть создания реально выглядящей подделки.

Являются ли они проблемой?

Теперь вы о Deepfakes вы когда-нибудь сможете доверять всему, что вы видите онлайн? Или пора просто начать предполагать, что все подделано все время? Если подумать, это мир, в котором мы жили уже много лет.

В эпоху, когда мы живем в «фальшивых новостях», перед тем, как нас вызвали, мы получаем ошеломляющую тягу. Поддельные новости сами по себе даже не особенно убедительны в подавляющем большинстве случаев. Тем не менее, он идет далеко, убеждая миллионы или даже десятки миллионов, без большой вероятности того, что он окажется неверным или вводящим в заблуждение. Добавьте к этому сценарию реалистичное видео, и у нас есть рецепт серьезного хаоса. Том Круз жонглирует цыплятами? Шутка. Как насчет невероятно реалистичной подделки политика, вставленного в расистское или сексистское видео за несколько дней до выборов? Больше не шутка.

Сенатор-республиканец Марко Рубио официально заявил, что считает подделок столь же опасными, как и ядерное оружие. Направляясь домой, он предположил, что для нападения на Соединенные Штаты понадобилось 10 авианосцев и оружие массового уничтожения. Теперь все, что вам нужно было компьютер и подключение к Интернету.

Не меняя игру

Очень драматично звучащий пример, но действительно ли глубокие подделки действительно меняют игру, поскольку она стоит столько, сколько предлагает сенатор? Тим Хванг, директор по этике и управлению инициативой ИИ в Массачусетском технологическом институте, придерживался более взвешенного подхода. Он согласился, что последствия глубоких подделок касаются, но они вряд ли изменят мир Интернета и социальных сетей от того, как он уже существует.

Это, в двух словах, правда. Было множество изображений с изображением цыплят, в которых участвовали знаменитости задолго до этой новой волны технологий. Это просто первый раз, когда изображения движутся. На самом деле, эпидемия фальшивых новостей явно нанесла поразительный объем урона и дезинформации до недавних глубоких подделок. Таким образом, утверждать, что проблема только становится реальной, теперь кажется чем-то вроде запоздалой реакции.

Правда в том, что глубокие подделки могут быть именно тем, что нужно, чтобы люди лучше осознавали, насколько безудержной подделкой являются онлайн, и чтобы не слепо верить тому, что они видят.