Угроза дипфейков: как технологии искусственного интеллекта меняют реальность

Эксперты в области технологий предупреждают, что дипфейки — созданные нейросетями видео, изображения и аудиозаписи, на которых люди совершают действия или произносят фразы, не имевшие места в действительности, — перестали быть просто забавными экспериментами. Развитие генеративных моделей и их доступность сделали создание реалистичного подложного контента задачей, доступной практически каждому.

Рост угрозы и последствия для общества

Современные дипфейки используются для дезинформации, политической пропаганды и травли. В отличие от примитивных подделок прошлых лет, нынешние материалы отличаются высокой степенью детализации, из-за чего их крайне сложно отличить от реальных записей. Специалисты отмечают, что использование таких технологий разрушает доверие между людьми и к институтам власти.

Исследования показывают, что негативные последствия внедрения этой технологии распределяются неравномерно. По данным за 2023 год, 99 процентов всех дипфейков изображали женщин, а 98 процентов контента носили порнографический характер.

Масштабы проблемы

Проблемы безопасности стали очевидны после внедрения функций редактирования изображений в популярных ИИ-чат-ботах. Несмотря на вводимые ограничения, пользователи продолжают создавать миллионы порнографических изображений, в том числе с участием несовершеннолетних. Ситуация осложняется и в политической сфере:

• Политические деятели разного уровня регулярно публикуют сгенерированные ИИ изображения и видео для дискредитации оппонентов.
• Подобный контент зачастую не маркируется как подделка, что вводит избирателей в заблуждение.
• Наблюдается использование дипфейков для изменения внешности и мимики политических оппонентов с целью их унижения.

Почему существующие меры защиты недостаточно эффективны

Предлагаемые решения, такие как разработка методов обнаружения дипфейков и совершенствование законодательства, пока не приносят ожидаемых результатов. Технические средства защиты легко обходятся с помощью открытых моделей, не имеющих встроенных ограничений. Более того, даже при наличии законов, криминализующих создание вредоносного контента, на практике сталкиваются с отсутствием должного контроля.

Ситуация требует особого внимания в преддверии крупных избирательных кампаний. Аналитики отмечают, что сокращение ресурсов у организаций, занимающихся проверкой фактов и борьбой с дезинформацией, создает благоприятную среду для распространения сфабрикованных материалов, способных повлиять на исход голосований и общественное мнение.

Твитнуть