Мошенники используют дипфейки Тейлор Свифт и Рианны для сбора данных в TikTok

Злоумышленники начали активно применять видеоролики, созданные искусственным интеллектом, для продвижения сомнительных услуг. По данным экспертов компании Copyleaks, специализирующейся на проверке подлинности контента, целями для имитации стали мировые звезды, включая Тейлор Свифт и Рианну.

Схемы обмана и механизмы манипуляции

Рекламные объявления чаще всего представляют собой фрагменты интервью, записей с красных дорожек или популярных подкастов. Реальные кадры обрабатываются нейросетями, чтобы заставить знаменитость озвучивать предложения мошенников. В большинстве случаев пользователям обещают участие в программах вознаграждения, где якобы можно заработать деньги за просмотр роликов в TikTok и написание отзывов.

• В одном из видео сгенерированный образ Тейлор Свифт призывает зарегистрироваться в несуществующем сервисе TikTok Pay.
• В другой рекламе цифровая копия Рианны утверждает, что пользователям достаточно просто смотреть контент и делиться своим мнением за плату.
• В объявлениях часто используется официальный брендинг соцсети для введения в заблуждение, однако ссылки ведут на сторонние ресурсы, запрашивающие персональную информацию.

Глобальный кризис доверия в социальных сетях

Распространение убедительных дипфейков (реалистичных манипуляций с видео и звуком) становится повседневной проблемой для крупнейших технологических площадок. По словам специалистов, TikTok — не единственная платформа, столкнувшаяся с этой угрозой. В отчетах отмечается, что пользователи сервисов корпорации Meta ежедневно сталкиваются с огромным количеством мошеннической рекламы, а видеохостинг YouTube заявляет о масштабных инвестициях в разработку систем для обнаружения фальшивых роликов с участием знаменитостей.

Юридическая защита от искусственного интеллекта

Публичные личности начинают искать новые юридические способы борьбы с цифровыми двойниками. На прошлой неделе Тейлор Свифт подала заявки на регистрацию товарных знаков, защищающих записи ее голоса. В обзоре отмечается, что такой подход призван защитить артистку от создания несанкционированных ИИ-копий и использования её имиджа в сомнительных целях.

Твитнуть