Фейки знаменитостей и мошеннические рекламные акции с использованием обнаженных изображений несовершеннолетних. —Способность отличать контент, созданный искусственным интеллектом (AIGC), от контента, созданного человеком, никогда не была более важной.
Нанесение водяных знаков, распространенная мера по борьбе с подделкой, является одним из методов идентификации такого контента путем добавления информации, которая помогает отличить изображение, созданное ИИ, от изображения, созданного не ИИ. Но недавно В исследовательском документе сделан вывод, что простых или даже продвинутых методов нанесения водяных знаков может быть недостаточно для предотвращения рисков, связанных с публикацией контента искусственного интеллекта как созданного человеком.
Исследование провела группа ученых из Наньянского технологического университета, S-Lab, NTU, Университета Чунцина, Шеннон.Искусственный интеллект и Чжэцзянский университет.
Один из авторов, Ли Гуаньлинь, сказал Расшифроватьчто «водяной знак может помочь людям узнать, создан ли контент искусственным интеллектом или людьми». Но он добавил: «Если водяной знак на AIGC легко удалить или подделать, мы можем заставить других поверить, что произведение искусства создано искусственным интеллектом, добавив водяной знак, или что AIGC создан людьми, удалив водяной знак. ».
В статье рассмотрены различные уязвимости современных методов нанесения водяных знаков.
«Схемы водяных знаков AIGC уязвимы для злоумышленных атак, которые могут удалить водяной знак, не зная секретного ключа», — говорится в нем.
Эта уязвимость имеет реальные последствия, особенно в отношении дезинформации или злонамеренного использования контента, созданного ИИ.
«Если Некоторые злоумышленники будут распространять фальшивые изображения некоторых знаменитостей, созданные искусственным интеллектом, после удаления водяного знака. Доказать, что изображения созданы искусственным интеллектом, невозможно, поскольку у нас недостаточно доказательств», — сказал Ли. Расшифровать.
Ли и его команда провели серию экспериментов, проверяющих надежность и целостность существующих методов нанесения водяных знаков на контент, созданный ИИ. Они использовали различные методы удаления или подделки водяных знаков, оценивая простоту и эффективность каждого метода. Результаты последовательно показали, что водяные знаки можно относительно легко скомпрометировать.
В исследовании использовался процесс атаки. Изображение: Арвикс
Они также оценили потенциальное влияние этих уязвимостей на реальную жизнь, особенно в сценариях, связанных с дезинформацией или злонамеренным использованием контента, созданного ИИ. Совокупные результаты этих экспериментов и анализа привели их к выводу, что существует острая необходимость в более надежных механизмах нанесения водяных знаков.
Хотя такие компании, как OpenAI, объявили, что они разработали методы обнаружения контента, созданного ИИ, с точностью 99%, общая проблема остается. Современные методы идентификации, такие как метаданные и невидимые водяные знаки, имеют свои ограничения.
Ли предполагает, что «лучше объединить некоторые методы криптографии, такие как цифровая подпись, с существующими схемами водяных знаков для защиты AIGC», хотя точная реализация остается неясной.
Другие исследователи предложили более радикальный подход. Как недавно сообщил РасшифроватьКоманда MIT предложила превратить изображения в «яд» для моделей искусственного интеллекта. Если в качестве входных данных для набора обучающих данных используется искаженное изображение, окончательная модель даст плохие результаты, поскольку она покажет детали, которые не видны человеческому глазу, но оказывают большое влияние на процесс обучения. Это было бы похоже на смертельный водяной знак, который убивает модель, которую он обучает.
Быстрый прогресс в области искусственного интеллекта, как отметил генеральный директор OpenAI Сэм Альтманпредставляет будущее, в котором мыслительные процессы, присущие искусственному интеллекту, смогут отражать человеческую логику и интуицию. Благодаря таким достижениям необходимость в надежных мерах безопасности, таких как водяные знаки, стала еще более острой.
Ли считает, что «водяные знаки и управление контентом необходимы, потому что они не окажут реального влияния на обычных пользователей», но конфликт между создателями и противниками остается. «Это всегда будет игра в кошки-мышки… Вот почему нам необходимо постоянно обновлять наши схемы водяных знаков. «
Подборка статей по криптовалютам и технологии блокчейн. Подпишитесь на нас в социальных сетях.
Специальная подборка для Вас