ДИПФЕЙКИ: КОГДА ИИ ВТОРГАЕТСЯ В НАШУ ЛИЧНУЮ ЖИЗНЬ

Дипфейки, гиперреалистичные цифровые создания с помощью искусственного интеллекта (ИИ), представляют собой новую форму онлайн-насилия, особенно те, что имеют порнографический характер. Появляются правовые меры и инструменты защиты, но бдительность и поддержка жертв остаются важными.

Дипфейки — это контент (изображения, видео, звуки), искусственно измененный с помощью искусственного интеллекта (ИИ), который становится все более реалистичным и убедительным. Эти манипуляции, возникшие в результате сочетания «глубокого обучения» (deep learning) и «фальшивки» (fake), позволяют заставить человека сказать или сделать что угодно. Использование этих техник варьируется от дубляжа фильмов до замены лиц в видео или изображениях, объясняет Камиль Салинези, соруководитель Центра мониторинга ИИ. Первые дипфейки появились в 2017 году и затронули таких знаменитостей, как Галь Гадот¹ и Дейзи Ридли². Одна молодая женщина, Джулия, рассказывает, что увидела свои фотографии, сделанные на профессиональных и личных фотосессиях, измененные так, чтобы она выглядела обнаженной. «Мне понадобилась доля секунды, чтобы понять: на самом деле это фотографии, которые он украл с моих фотосессий и изменил так, чтобы я выглядела обнаженной».

В 2023 году производство дипфейков резко возросло, увеличившись с 2019 года на 550%. Почти 96% этого контента составляют порнографические дипфейки, 99% из которых касаются женщин и девочек. Этот контент стал оружием цифрового насилия. Селия Золински, профессор частного права и криминалистики, подчеркивает, что демократизация инструментов генеративного ИИ делает создание дипфейков очень легким, увеличивая риски для женщин и девочек. «Гипертракинг, показывающий интимные моменты, может вызвать чувство беспомощности, потери контроля над своим образом, утраты себя». Кампании дестабилизации с использованием дипфейков также направлены против женщин-политиков и журналистов. Эти монтажи могут использоваться для секстинга³, особенно в отношении девочек, чтобы получить интимные изображения.

Секстинг: растущая угроза
Секстинг — это шантаж несовершеннолетних с целью получения контента сексуального характера или денег. Вероника Бешу, сотрудник полиции, руководитель стратегического отдела Управления по делам несовершеннолетних (OFMIN), объясняет механизмы этого явления. Авторами таких шантажей могут быть педокриминальные элементы или члены организованных преступных группировок, часто базирующихся в Западной Африке. Цифры тревожные: в 2024 году количество сообщений о секстинге увеличилось в 2,4 раза по сравнению с 2023 годом, достигнув 28 767 случаев. «Большинство сообщений поступает от Facebook, Snapchat, Instagram и TikTok»⁴. ИИ облегчает совершение таких действий, так как авторам больше не нужно тратить время на «груминг»⁵.

В ответ на эти угрозы были предприняты различные инициативы. В Великобритании и Южной Корее создание и распространение неконсенсуальных дипфейков наказывается. Во Франции регламент об ИИ от июня 2024 года обязывает маркировать все контенты с дипфейками. Регламент о цифровых услугах (DSA) обязывает крупные платформы блокировать их распространение. Франция также ужесточила свое законодательство, предусмотрев тюремные сроки и штрафы за распространение неконсенсуальных⁶ сексуальных дипфейков. Однако Селия Золински считает, что необходимо идти дальше, уголовно наказывая создателей таких контентов и ограничивая доступ к инструментам для создания обнаженных изображений. «Чтобы улучшить правовую реакцию, важно уголовно наказывать не только распространение, но и создание дипфейков сексуального характера».

Как защитить себя и реагировать?
Для эффективной защиты важно сразу сообщать о таких случаях. Нужно делать скриншоты или записывать видео, собирать информацию о происхождении контента и сообщать об этом на официальные платформы для жалоб. Во Франции специальный номер 3018, платформа для сообщений о кибербуллинге, является ценным инструментом. Родители должны помогать своим детям создавать профили в интернете, настраивать их аккаунты на приватность и быть осторожными с отправляемым контентом. Также важно разъяснять жертвам, что они не виноваты, так как «первая отправка контента делается самим автором. Поэтому он думает: Я рискнул, меня наказали за то, что я сделал, это моя вина». Самюэль Комблез, заместитель генерального директора ассоциации «e-Enfance»⁷ и директор 3018, подчеркивает, что несмотря на определенную осторожность среди молодых людей, следует готовиться к увеличению числа подобных случаев.

Перевод
Александра ПАРХОМЕНКО

¹ - Галь Гадот — израильская актриса и модель, посол доброй воли ООН, наиболее известна по ролям в фильмах «Бэтмен против Супермена: На заре справедливости», «Лига справедливости», «Чудо-женщина», «Чудо-женщина 1984», «Шпионы по соседству», а также серии фильмов «Форсаж».
² - Дейзи Джаз Изобель Ридли — английская актриса, получившая широкую известность благодаря исполнению роли Рей в трилогии сиквелов саги «Звездные войны».
³ - Секстинг — пересылка личных фотографий, сообщений интимного содержания посредством современных средств связи: сотовых телефонов, электронной почты, социальных интернет-сетей.
⁴ - В России запрещены Facebook и Instagram. Snapchat и TikTok не упоминаются в списке запрещенных социальных сетей в России. Однако, TikTok ограничил возможность распространять новый контент на территории России, но приложение можно скачать и использовать для просмотра старых видео и чатов.
⁵ - В контексте дипфейков груминг (grooming) означает процесс, при котором злоумышленники используют поддельные изображения или видео, созданные с помощью технологии дипфейков, для установления доверительных отношений с жертвой, чаще всего с целью эксплуатации.
⁶ - Неконсенсуальный дипфейк – это дипфейк (фальсифицированное изображение, видео или аудиозапись), созданный без согласия человека, чье лицо, голос или образ используются.
⁷ - Ассоциация e-Enfance (L'association e-Enfance) — французская некоммерческая организация, которая занимается защитой детей и подростков в цифровом пространстве; e-Enfance также управляет платформой Net Écoute (3018), которая предоставляет бесплатную и конфиденциальную поддержку детям и подросткам, сталкивающимся с проблемами в интернете. Платформа доступна по телефону, через чат и электронную почту.

20.02.2025

Полина ПЕННАНЕК Franceinfo