Как США устраняют и используют дипфейки

Правительство США активно разрабатывает и реализует программы по противодействию фейковой информации для обеспечения безопасности информационного пространства.

Дипфейки – одни из наиболее распространенных способов манипуляции, это методика компьютерного синтеза изображения, основанная на искусственном интеллекте, которая используется для соединения и наложения фото или видео на исходные медиаматериалы.

Для противодействия и защиты от дипфейков Управление перспективных исследовательских проектов Минбороны США (DARPA) разрабатывает методы всестороннего анализа аудио, видео и текстовой информации. Ведомство, помимо распознавания сгенерированных видео, занимается исследованиями по семантическому анализу, структурному лингвистическому анализу и интерпретации содержания для выявления манипуляции общественным сознанием. Мы расскажем об основных проектах ведомства – Semantic Forensics (SemaFor), Media Forensics (MediFor) и AIDA.

SemaFor

Программа SemaFor разработана с целью автоматизации поиска фейковых медиаматериалов и защиты от крупномасштабных дезинформационных атак в режиме реального времени. Например, специальный набор детекторов семантической несогласованности может выявлять такие несоответствия как разные детали аксессуаров, растрепанные волосы или необычный фон у личностей, сгенерированных сетью GAN.

MediFor

Задачи MediFor состоят в проведении экспертизы СМИ для выявления недостоверных видеоматериалов, сопровождаемых фейковой аудиозаписью, а также:

• в распознавании сгенерированных и реальных видео;
• в распознавании фейковых видео с помощью специальных нейросетей, способных проверять несоотвествие мелких деталей в различных частях кадра;
• в использовании технологии «анти-спуфинг», которая защищает биометрические данные от мошенников, которые пытаются обмануть систему распознавания.

AIDA

Проект AIDa разрабатывает семантический механизм, который генерирует альтернативные интерпретации событий, ситуаций и тенденций по данным из множества источников.

С целью реализации данного проекта DARPA активно привлекает к сотрудничеству в сфере военных НИОКР ведущие институты США. Так, в Калифорнийском университете Беркли разработали биометрический подход для моделирования типичных выражений человеческого лица и мимики при речи.

Программы противодействия информационным угрозам

Для работы с текстами DARPA разработало программу глубокого исследования и фильтрации текста DEFT. Система выявляет причинно-следственные связи и смысловые аномалии в больших текстах, что повышает эффективность расследований правоохранительных органов, разведки и военных.

За предотвращение попыток дезинформационных атак отвечает программа SocialSim. Она помогает осуществлять высокоточное компьютерное моделирование социального поведения в киберпростанстве, в том числе противника, а также детализировать потенциальные действия в информсреде между субъектами.

От защиты к нападению: США планируют использовать дипфейки в своих целях

Одновременно с программами противодействия информационным угрозам и манипуляциям в СМИ в последнее время со стороны Министерства обороны США просматривается тенденция использования дипфейк-технологий в качестве информационного оружия. Об этом свидетельствует анализ запроса коммерческих предложений Командования специальными операциями США с перечнем необходимых устройств и технологий, опубликованного в феврале 2023 года на официальном веб-сайте управления госзаказами Правительства США.

В этих документах содержится информация о намерениях правительства страны внедрить дипфейк-технологии для ведения интернет-пропаганды и организации дезинформационных онлайн-кампаний, направленных на иностранные государства. Проведение подобных спецопераций предполагает внедрение шпионских программ, в том числе, для мониторинга успешности проведения информационных кампаний, а также для распространения дезинформации и дипфейков, направленных на политических и/или военных лидеров иностранных государств с целью формирования к ним недоверия среди местного населения.

Командование спецоперациями США планирует получить усовершенствованные средства для проведения операций информационного влияния, кибератак, нарушения связи противника и осуществления кампаний по дезинформации на тактическом и оперативном уровнях. Кроме того, в своем запросе ведомство объявило о наборе высококлассных специалистов для отслеживания повседневных разговоров и переписки иностранных граждан, создания целевой пропаганды, антирекламы, распространения дипфейков.

Таким образом, злонамеренное использование технологий на основе искусственного интеллекта представляет собой значительные угрозы информационной безопасности. Одним из возможных решений этой проблемы является формирование международной нормативно-правовой базы по регулированию применения технологии ИИ, в том числе для запрета ее использования в целях деструктивного информационно-психологическое воздействия.