Діпфейки: як і з якою метою створюються та як їх виявити?

Спеціальні застосунки для створення діпфейків

Сьогодні кожен, хто має смартфон, може завантажити на нього той чи інший застосунок, призначений для створення діпфейків. Ось кілька з них:

Reface

Це найпопулярніший застосунок App Store, до того ж створений українськими розробниками. За допомогою онлайн-сервісу можна замінювати одне обличчя на інше у відео або на GIF-зображеннях. Достатньо лише зробити селфі та обрати цільовий ролик, і сервіс створить анімовану картинку. Але точність кінцевого результату залежить від симетрії обличчя на фото і якості вхідних даних.

Avatarify

Діпфейк-застосунок, доступний на iOS та Android, дає змогу завантажити будь-яке фото з галереї смартфону. Шляхом перенесення емоцій на обличчя нейронна мережа оживляє його і зберігає результат у вигляді короткого відео.

Wombo

Сервіс надає статичним обличчям людей на фото співучої міміки. Для цього користувачеві достатньо зробити селфі і вибрати музичний трек з переліку запропонованих, а далі система анімує обличчя і синхронізує його губи з обраною композицією.

MyHeritage

Цей безкоштовний застосунок оснащений функцією “глибока ностальгія”, яка анімує старі фото, даруючи їм нове життя. Все, що для цього потрібно зробити — завантажити зображення і натиснути кнопку анімації.

DeepFakes Web

Потрібно замінити обличчя однієї людини у відео на інше? З цим вам допоможе DeepFakes Web. Необхідно лише завантажити вихідний і цільовий ролики, а далі впродовж 30 хвилин буде виконана обробка відео у хмарі. Застосунок доступний для завантаження як на iOS, так і на Android.

Шкода і користь діпфейків

Доступність технології створення діпфейків сприяє розповсюдженню численних маніпуляцій у суспільстві. Видаючи брехню за правду, легко переконати людей вірити в те, чого насправді не існує. А це дуже небезпечно і може мати неабиякі наслідки: знищення репутації, руйнування шлюбу, зрив виборів тощо.

Найбільшу популярність діпфейки набули з появою у 2017 році застосунку FaceApp. Сьогодні створені підробки масово викладають в інтернет-мережі. Зокрема, діпфейкові відео можна знайти на YouTube. Наприклад, як оцей популярний ролик, у якому начебто Барак Обама образливо говорить про Дональда Трампа:

Використання результатів діпфейкової технології може нашкодити репутації конкретної людини. Так, одним з найперших і найвідоміших діпфейків в історії стало відео з актрисою Галь Гадот: у ролику обличчя кінозірки “приліпили” до тіла порноактриси. А згодом жертвами аналогічних маніпуляцій стали й інші акторки (Наталі Портман, Емма Вотсон, Наталі Дормер та ін.).

Фальсифікація даних з подальшою видачею їх за докази у суді — ще один несумлінний спосіб застосування фото- та відеодіпфейків. Як і обман систем розпізнавання облич або голосу шляхом імітації біометричних даних з метою порушення особистої безпеки людини.

Але разом з тим технологію використовують і з користю при виконанні робочих завдань. Наприклад, у кіноіндустрії, коли треба замінити актора, виправити помилки у зйомках, синхронізувати рух акторських губ і аудіодоріжки при дублюванні фільмів різними мовами тощо. Або в маркетингу, як це зробив бренд Lays у своїй рекламній кампанії, в якій використав діпфейк зіркового футболіста Ліонеля Мессі:

Ще один приклад екологічного застосування діпфейків: у документальному фільмі про американського шеф-кухаря Ентоні Бурдена було використано підроблений голос знаменитості для того, щоб прочитати відчайдушний особистий електронний лист.

Також результати “творчості” нейромереж стають популярним способом розваг. Один з них — публікація користувачами в соцмережах Instagram і TikTok уривків популярних кінокартин із заміненими обличчями героїв, створеними через спеціальні застосунки. Тут же можна згадати про викладені на акаунті @deeptomcruise в TikTok відео нібито з Томом Крузом, які за три дні набрали мільйони переглядів. З цього можна зробити висновок: акаунт кожної публічної персони має бути верифікованим, щоб це спростило ідентифікацію фейкових сторінок.

Вчимося розпізнавати діпфейки в мережі

Якщо на етапі появи технології розпізнати створені діпфейки було простіше, то з її розвитком зробити це стає все складніше. З більшою ймовірністю виявити підроблені фото та відео може допомогти спеціальне програмне забезпечення. Але практика підтверджує, що найкращі результати вдається отримати на прикладах селебріті, адже у вільному доступі є багато матеріалів, на яких штучний інтелект має змогу тренуватися. Із викриттям діпфейків зі звичайними людьми машинним алгоритмам впоратися складніше.

Однак, виявити фальшивку все ж можливо, звернувши увагу на такі невідповідності:

• Візуальні. Пам'ятаєте, як перші згенеровані ШІ зображення людей мали дивні долоні з шістьма пальцями на них? Авжеж, сучасні діпфейки вже не такі недолугі. Тепер вас мають насторожити незвичні рухи тіла або міміка обличчя людини (наприклад, очі, що не моргають, непослідовні тіні або освітлення та ін.).
• Звукові. Якщо помічаєте, що вимова персонажа на відео не синхронізується з рухом його губ, це теж явно вказує на підробку.
• Контекстуальні. Не забудьте підключати критичне мислення, яке допоможе вам відповісти на питання: “Чи герой відео взагалі в змозі говорити і робити те, що я бачу?“.

А ще має значення, наскільки надійним є джерело публікації. Поважні світові видання зазвичай ретельно перевіряють матеріали, які публікують на своїх веб-сторінках. А от якщо ви натрапили на сайт якоїсь “жовтої преси”, то уважно передивитися розміщені на ньому світлини або відео не завадить.

Резюме

Чим просунутішими стають алгоритми машинного навчання, тим кращою стає їхня продуктивність, а отже, тим реалістичнішими діпфейки. Але за певними ознаками все ж таки можна відрізнити фотографії та відео, згенеровані нейромережами, від створених людиною. І добре, коли це перешкоджає використанню синтезованих людських зображень та відео як зброї для поширення дезінформації, що здатна серйозно нашкодити іншим.