Сбер предупредил о росте поддельных видео в социальных сетях с дипфейками медийных персон

Заместитель председателя правления рассказал о увеличении числа поддельных видео в социальных сетях с дипфейками публичных людей.

«В социальных сетях увеличилось количество поддельных видео, в том числе с дипфейками публичных персон. Подобные вбросы проводятся по политическим мотивам: для дезинформации россиян, а также с целью дискредитации представителей власти. Для таких фейковых новостей злоумышленники используют различные темы, которые потенциально могут вызвать резонанс и панику. Фейковые ролики, как правило, сначала публикуются в анонимных каналах, чтобы автору было сложнее отследить — а затем распространяются в социальных сетях. К сожалению, граждане воспринимают такие подделки как правду и пересылают друг другу в мессенджерах. Качество и реалистичность дипфейков уже достигли такого уровня, что только один из четырех человек способен распознать подделку без помощи технологий», — рассказал Станислав Кузнецов.

По его словам, рынок осознает необходимость контроля: выдвигаются предложения о маркировке контента с дипфейками и об ответственности за их злонамеренное использование и распространение, но такие инициативы важно форсировать, чтобы скорее довести до статуса принятых законов.

При этом, крайне важно создавать и внедрять технологии автоматического распознавания дипфейков на всех поверхностях и устройствах, где они могут использоваться, например, в мессенджерах, в СМИ, на видеоплатформах и так далее, считает Станислав Кузнецов. В случае недостаточной активности бизнеса в указанном направлении, на уровне государства возможно рассмотреть введение стимулов для рынка.

«Сбер в свою очередь разработал сервис по выявлению видео дипфейков с рабочим названием Алетея, который может работать с несколькими лицами в кадре, с разным фоном и освещением. Мы открыты к сотрудничеству со всеми — решение работает по унифицированному API, и мы готовы к интеграциям с заинтересованными компаниями. Мы также активно работаем над масштабированием решения для физических лиц, в том числе над его интеграцией на ресурсах Сбера. С помощью него граждане смогут проверять медиа-файлы на правдивость. Выявленный тренд подтверждает, что на выборах дипфейки как еще одно оружие против россиян. Мы ранее предупреждали о всплеске мошенничества в мессенджерах с фейковыми аккаунтами известных персон, когда генерируя реалистичные голосовые и визуальные подделки от медийных личностей, злоумышленники убеждают россиян перевести деньги на якобы «безопасные» счета. Число попыток такого мошенничества за полтора месяца уже выросло в 15 раз», — рассказал Станислав Кузнецов.

Наша антивредоносная система защищает клиентов в том числе и от мошенничества с использованием дипфейков. Но если со стороны государства и бизнеса не будут приняты системные меры, мы уже сейчас можем прогнозировать значительный рост такого рода scams в отношении клиентов банков с недостаточно зрелой инфраструктурой киберзащиты и не развитыми процессами антифрода.

Советы как распознать дипфейк мы разместили на беплатном портале по кибербезопасности Сбера «Кибрарий».