Дипфейк

Материал из Википедии — свободной энциклопедии
(перенаправлено с «Deepfake»)
Перейти к навигации Перейти к поиску

Дипфейк (англ. deepfake от deep learning «глубинное обучение» + fake «подделка»)[1] — методика синтеза изображения или голоса, основанная на искусственном интеллекте.

Технология[править | править код]

Синтез изображения[править | править код]

Мето́дика си́нтеза изображе́ния используется для соединения и наложения существующих изображений и видео на исходные изображения или видеоролики. В подавляющем большинстве случаев для создания таких видео используют генеративно-состязательные нейросети (GAN). Одна часть алгоритма учится на реальных фотографиях определённого объекта и создаёт изображение, буквально «состязаясь» со второй частью алгоритма, пока та не начнёт путать копию с оригиналом[2].

Методы выявления движения и превращения в целевое видео, которое похоже на целевой образ, были представлены в 2016 году и позволяют создавать поддельные мимические изображения в существующем 2D-видео в режиме реального времени[3]. 1 сентября 2020 года компания Microsoft анонсировала свою новую разработку — Microsoft Video Authenticator, программное обеспечение, которое позволяет определить вмешательство в видео[4]. Дипфейк-ролики можно легко найти на популярных сайтах потокового видео, таких как YouTube или Vimeo. Популярной программой является FakeApp[5], использующая TensorFlow[6].

Голосовые дипфейки[править | править код]

Используя модифицированный алгоритм преобразования текста в речь и обработку компьютером аудиозаписей речи того или иного человека, возможно «подделать» голос этого человека. Так создаются голосовые дипфейки. С помощью этой технологии возможно адаптировать голоса актёров при локализации фильмов, создавать естественную речь для людей, утративших возможность говорить, начитывать аудиокниги для детей голосами родителей, подстраивать речь под определённый акцент, создавать реалистичные видеоаватары — личности для голосовых ассистентов. Впрочем, эта технология может также использоваться и злоумышленниками для обмана, дискредитации или дезинформации[7][8][9][10].

Применение[править | править код]

Фальсификация[править | править код]

Дипфейк используют для замены определённых элементов изображения на желаемые образы, в частности для создания фальшивых порнографических видео со знаменитостями или для порно-мести[11]. Среди всех видео с применением данной технологии порно-дипфейки составляют 96 %, причём 99 % из них делаются с участием популярных актрис и певиц[12]. Дипфейк-порнография появилась в Интернете в 2017 году, в частности на Reddit[13], и была запрещена многими сайтами, включая сам Reddit, Twitter и Pornhub[14][15][16][17]. Технология дипфейк также может быть использована для создания поддельных новостей и вредоносных обманов[18][19].

В 2020 году британский телеканал Channel 4 выпустил ложное рождественское поздравление от лица королевы Елизаветы II[20]. Руководство телеканала объяснило произошедшее предупреждением о том, что с помощью Deepfake можно вводить людей в заблуждение, но некоторые люди всё равно осудили действия телеканала[21][22].

Центр противодействия дезинформации Украины заявил в феврале 2022 года о том, что дипфейк может быть использован в информационно-психологической операции в ходе российского вторжения на Украину для создания ложного видео с заявлением о капитуляции Владимира Зеленского[23].

В искусстве и развлечениях[править | править код]

Технология дипфейк использовалась в музейном пространстве: например, в Музее Сальвадора Дали во Флориде в честь 115-летия известного художника была организована специальная выставка Dalí Lives («Дали жив»). По словам кураторов проекта, на этом мероприятии «искусство встречает искусственный интеллект». Они использовали сгенерированный искусственным интеллектом прототип художника, который общался с посетителями музея, рассказывал им истории о своих картинах и жизни, а также делал селфи и присылал фотографии на почту посетителей[24].

См. также[править | править код]

Примечания[править | править код]

  1. Brandon, John (2018-02-16). "Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise". Fox News (англ.). Архивировано из оригинала 15 июня 2018. Дата обращения: 20 февраля 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  2. Евгения Созанкова. Дипфейки: как нейросети копируют реальность // screenlifer.com. — 2019. Архивировано 2 сентября 2019 года.
  3. Thies, Justus Face2Face: Real-time Face Capture and Reenactment of RGB Videos. Proc. Computer Vision and Pattern Recognition (CVPR), IEEE. Дата обращения: 24 февраля 2018. Архивировано 26 февраля 2018 года.
  4. New Steps to Combat Disinformation (амер. англ.). Microsoft On the Issues (1 сентября 2020). Дата обращения: 26 декабря 2020. Архивировано 24 декабря 2020 года.
  5. "FakeApp: Finally, a Program that Will Let You Seamlessly Put Donald Trump in Porn!". Reason.com (англ.). 2018-01-25. Архивировано из оригинала 22 марта 2018. Дата обращения: 24 марта 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  6. "I'm using AI to face-swap Elon Musk and Jeff Bezos, and I'm really bad at it". The Verge. Архивировано из оригинала 24 марта 2018. Дата обращения: 24 марта 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  7. Не обмануть лишь Станиславского: Что такое дипфейк-аудио и зачем нам оно.
  8. Не верь ушам своим: Голосовые дипфейки.
  9. Кто занимается дипфейк-аудио и зачем это нужно.
  10. Дипфейки вокруг нас: Как учёные нашли способ распознать поддельный голос.
  11. "What Are Deepfakes & Why the Future of Porn is Terrifying". Highsnobiety (англ.). 2018-02-20. Архивировано из оригинала 14 июля 2021. Дата обращения: 20 февраля 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  12. 2020: эпоха дипфейков (рус.). Теплица социальных технологий[d] (25 декабря 2020). Дата обращения: 26 декабря 2020. Архивировано 25 декабря 2020 года.
  13. Roettgers, Janko (2018-02-21). "Porn Producers Offer to Help Hollywood Take Down Deepfake Videos". Variety (англ.). Архивировано из оригинала 10 июня 2019. Дата обращения: 28 февраля 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  14. Ghoshal, Abhimanyu Twitter, Pornhub and other platforms ban AI-generated celebrity porn (амер. англ.). The Next Web (7 февраля 2018). Дата обращения: 9 ноября 2019. Архивировано 20 декабря 2019 года. (англ.)
  15. "It took us less than 30 seconds to find banned 'deepfake' AI smut on the internet" (англ.). Архивировано из оригинала 10 апреля 2019. Дата обращения: 20 февраля 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  16. Kharpal, Arjun (2018-02-08). "Reddit, Pornhub ban videos that use A.I. to superimpose a person's face over an X-rated actor". CNBC. Архивировано из оригинала 10 апреля 2019. Дата обращения: 20 февраля 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  17. "PornHub, Twitter Ban 'Deepfake' AI-Modified Porn". PCMAG (англ.). Архивировано из оригинала 10 апреля 2019. Дата обращения: 20 февраля 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  18. Experts fear face swapping tech could start an international showdown (англ.). The Outline. Дата обращения: 28 февраля 2018. Архивировано 16 января 2020 года.
  19. Roose, Kevin (2018-03-04). "Here Come the Fake Videos, Too". The New York Times (англ.). ISSN 0362-4331. Архивировано из оригинала 18 июня 2019. Дата обращения: 24 марта 2018. {{cite news}}: Указан более чем один параметр |accessdate= and |access-date= (справка)
  20. Британский телеканал выпустил рождественское поздравление от фейковой Елизаветы II | «Рамблер». Дата обращения: 30 июля 2022. Архивировано 27 апреля 2022 года.
  21. «Чудовищное видео»: «Елизавета II» доказала опасность дипфейков | «Газета.ru». Дата обращения: 30 июля 2022. Архивировано 30 июля 2022 года.
  22. Королевский фейк: британцев возмутило видео с фальшивой Елизаветой II | «Смотрим»
  23. Росія може поширювати фальшиву «заяву про капітуляцію» Зеленського (укр.). www.ukrinform.ua. Дата обращения: 3 марта 2022. Архивировано 2 марта 2022 года.
  24. Жанна Карамазова. Дипфейки в искусстве: как Сальвадор Дали воскрес из мертвых. screenlifer.com. Дата обращения: 2 сентября 2019. Архивировано 2 сентября 2019 года.

Литература[править | править код]