Китай начал бороться с дипфейками знаменитостей в стримах

Пекин, 15 ноября /Синьхуа/ -- Управление по вопросам киберпространства КНР начало бороться с использованием дипфейков, которые во время прямых эфиров в сфере электронной коммерции выдавали себя за инфлюенсеров, поскольку страну охватил всплеск мошенничества, основанного на ИИ.

Как заявили в этом управлении в пятницу, власти недавно "сурово наказали" несколько онлайн-аккаунтов, которые использовали ИИ для имитации интернет-знаменитостей для продвижения товаров в рамках прямых трансляций и коротких видеороликов, вводя пользователей в заблуждение. Онлайн-платформы инициировали чистку подобного контента, в результате которой на данный момент было удалено более 8700 публикаций и обработано более 11 000 аккаунтов, выдававших себя за инфлюенсеров.

Данная кампания стартовала после серии громких дел, в том числе с участием актрисы Вэнь Чжэнжун. Пользователи обнаружили ее созданных с помощью искусственного интеллекта "клонов", рекламирующих разную продукцию в нескольких прямых эфирах. Сама актриса, попытавшаяся остановить обман, была заблокирована в чате после вопроса: "Если вы Вэнь Чжэнжун, то кто я?"

Ее опыт подчеркивает растущую проблему в быстро развивающемся секторе электронной коммерции Китая. По мере того, как инструменты искусственного интеллекта становятся все более доступными, недобросовестные продавцы используют их для создания сложных, но поддельных реклам с участием инфлюенсеров и знаменитостей с целью продвижения иногда некачественной или контрафактной продукции.

В рамках одной из схем для продвижения "глубоководного рыбьего жира полиен", который на деле оказался обычными конфетами, был использован дипфейк, имитирующий телеведущего Ли Цзымэн, а олимпийские чемпионы Цюань Хунчань и Сунь Инша были сымитированы для продажи яиц.

"Подобная практика является нарушением Гражданского кодекса КНР", - отметил Лю Хунчунь, исполнительный директор исследовательского центра по закону о правах человека при Юньнаньском университете. "Тем самым мошенники посягают на права третьих лиц на изображение, а также нарушают право потребителей на получение информации".

Несмотря на то, что с 1 сентября в Китае были введены "Меры по маркировке контента, созданного и скомпилированного при помощи искусственного интеллекта", правоприменение в данной сфере по-прежнему сталкивается с определенными трудностями.

Нарушители часто прячут водяные знаки в незаметных уголках видео или используют технические средства для удаления идентификаторов. Некоторые разбивают синтезированный контент на фрагменты и распространяют их по нескольким аккаунтам, что затрудняет их обнаружение.

Платформы также сталкиваются с проблемами модерации контента. В то время как Доуинь, китайская версия TikTok, удалила более 10 000 видеороликов с дипфейками Вэнь Чжэнжун, а также оштрафовала 37 аккаунтов, вице-президент TikTok Ли Лян признал, что выявление контента, созданного с помощью ИИ, на предмет нарушения авторских прав остается "техническим вызовом для всей отрасли".

"Злоумышленники-владельцы подобных аккаунтов с дипфейками постоянно используют различные технические средства для противодействия платформам", - отметил Ли Лян в своем посте на Weibo, пообещав, что Доуинь увеличит инвестиции для решения этой проблемы.

Для жертв сбор доказательств и обоснование того, что контент создан при помощи ИИ, технически сложен и отнимает много времени. Согласно информации СМИ, команда Вэнь Чжэнжун за сутки обнаружила 50 аккаунтов с дипфейками актрисы, однако некоторые из них быстро появились в новых формах.

Эксперты в области права и отраслевые инсайдеры говорят, что решение этой проблемы требует комплексного подхода: ужесточения наказаний для нарушителей, совершенствования технологий обнаружения и более четкой подотчетности платформ.

В Управлении по вопросам киберпространства КНР заявили, что будут придерживаться позиции "высокого давления", продолжая привлекать платформы к ответственности, а также "разоблачать и удалять" вредоносные маркетинговые аккаунты.

"Мы должны сохранять открытое и инклюзивное отношение к ИИ, но мы также должны придерживаться основных принципов и "красных линий" в его использовании, чтобы действительно сделать технологию движущей силой добра и благополучия людей", - отметил профессор Китайского университета политических наук и права Лю Сяонань.