Что случилось?
Арбитражный суд Москвы признал Deepfake объектом авторского права и взыскал за его несогласованное использование денежную компенсацию. Это стало прецедентным решением по делу, в котором фигурирует контент, созданный с применением Deepfake технологии.
Технология
Deepfake (от английского «Deep learning» – «глубинное обучение» нейросетей и «fake» – «подделка») – это технология синтеза изображений, видео или голоса человека с использованием искусственного интеллекта. Алгоритм ИИ объединяет фотографии человека, анализируя черты лица, мимику и другие детали, и впоследствии использует их для создания контента. Глубокий анализ позволяет искусственному интеллекту создать образ, который выглядит и движется в кадре как «оригинал». Также существует возможность синтезировать и речь человека – в этом случае в качестве модели для ИИ служит его голос.
С начала распространения технологии в 2017 году Deepfake стали достаточно широко применяться в производстве развлекательного и маркетингового контента, им нашлось применение и в искусстве, музейном деле и образовательной сфере. Однако обратной стороной стало создание дискредитирующих видеоматериалов, материалов для политических манипуляций, мошенничества и кибербуллинга. Кроме того, использование Deepfake в создании контента вызывает и вопросы юридического характера, связанные с применением в отношении таких материалов авторского права.
Короче…
Deepfake – это технология, использующая нейросети для создания правдоподобного образа человека на основе его изображений, видео или голоса. Впоследствии образ может использоваться для создания фото- и видеоматериалов с участием «двойника» или синтезирования его речи.
А как раньше?
Ранее для создания искусственного образа человека использовался фотомонтаж – способ создания изображения путем наложения, вырезания или соединения снимков. В XIX веке для этого использовался коллаж, по мере развития технологий начали использовать аналоговые средства, с помощью которых вырезали нужные части изображения, подгоняли под необходимый масштаб, а затем склеивали на бумаге и ретушировали. С приходом компьютерных технологий для монтажа стали использовать специализированное ПО для работы с изображениями типа Adobe Photoshop, Corel Photo-Paint и другие графические редакторы.
Одним из способов создания такого рода материалов стало использование компьютерной графики, которая стала широко применяется в кинематографе с конца XX века. Технология CGI (computer-generated imagery) позволила создавать и анимировать модели для эффектов и образов, которые отчасти заменили собой грим, применение аниматроники, а в некоторых случаях каскадеров, массовки и декораций.
Также для схожих целей, хотя и в меньшей степени, использовали технологию видеоклона или видеоголограммы. При использовании такого инструмента анимированная 3D-модель человека проецируется на полупрозрачное стекло под определенным углом, создавая «объемное изображение». Такой способ широко применяется для «воскрешения» знаменитостей на концертах.
Кто?
Поскольку технология Deepfake основана на ряде других технологий, связанных с ИИ и нейросетями, не представляется возможным выделить одного автора-создателя этого инструмента. Однако можно отметить, что генерация изображения человека, основывающаяся на работе генеративных нейросетей, была впервые реализована исследователем Иэном Гудфеллоу в 2014 году, хотя сам термин deepfake появился только в 2017 году.
Источники:
- Мика Вестерлунд Появление технологии Deepfake: Обзор, 2019
- Брайан Долхански, Джоанна Биттон, Бен Пфлаум, и другие Проблемы обнаружения Deepfake, 2020
- Цзя Вэнь Соу, Мэй Куан Лунь, Рафаэль К. В. Фань, Джозеф К. Лю Всесторонний обзор Deepfake: генерация, обнаружение, наборы данных и возможности, 2022
Цитата
«Технология Deepfake – один из новых инструментов, в основе которого лежит искусственный интеллект, отсутствие контроля над ним может привести к серьезным последствиям для мира и стабильности»
Антониу Гутерриш, Генеральный секретарь ООН
«Выявление дипфейков – это объемная задача, поскольку подделки создаются при помощи современных алгоритмов машинного и глубокого обучения. Сложность заключается в том, что традиционные методы анализа исходного видео могут быть неэффективными против современных технологий»
Дарья Фокина, преподаватель ИИ для бизнеса в Product University и НИУ ВШЭ
+ Технология Deepfake позволяет создавать контент с использованием минимального количества данных, что открывает широкие возможности в первую очередь в коммерческой сфере и сфере развлечений.
- Злонамеренное применение технологии представляет собой вызов – Deepfake возможно использовать как для розыгрыша, так и для распространения дезинформации или мошенничества, что может повлечь за собой существенный ущерб и репутационные издержки.
= Технология сама по себе не наносит вреда и упрощает процесс генерации контента, однако вместе с этим порождает большое количество морально-этических, а также юридических вопросов. Только регламентация отдельных аспектов создания, применения и распространения контента с использованием Deepfake позволит раскрыть позитивный потенциал технологии.
