Роскомнадзор заинтересовался разработками по обнаружению дипфейков

Роскомнадзор заинтересовался разработками для выявления лжи в видеозаписях. Сервис «Эксперт», разработанный НИУ ИТМО на базе искусственного интеллекта, позволяет проверять видеозаписи выступлений на предмет лжи и манипуляций. В РКН считают, что такая система поможет с определением дипфейков.

Эксперт анализирует видео или аудио, оценивая достоверность, уровень согласованности вербальной и невербальной информации, сравнивает слова с научными статьями и высказываниями других специалистов.

Сейчас сервис работает только с английским языком, в ближайшее время мы планируем доработать систему анализа речи на русском языке. Исследовательская лаборатория поясняет, что в качестве наиболее распространенного языка выбран английский. Также есть мнение, что выбор языка обусловлен тем, что сейчас более 90% российских разработок ИИ строятся на основе открытых зарубежных библиотек вместе с наборами данных для их обучения.

Интерес РКН к такой разработке небезоснователен. В последнее время дипфейки становятся все более распространенными. Например, этим летом ФБР предупредило американские ИТ-компании о череде случаев, когда злоумышленники использовали дипфейки для получения работы по видеоинтервью для кражи корпоративной информации.

Распознать дипфейк невооруженным глазом непросто, но можно по движению губ. Например, при кашле и чихании звук может не соответствовать нарисованному лицу.

Отметим также, что в середине августа Сбербанк запатентовал две технологии обнаружения дипфейков. Разработку планируется использовать для борьбы с фейковыми новостями, а также для защиты от кибератак во время видеоконференций.

Источники: Коммерсант