Дезинформация ИИ может повлиять на выборы 2024 года — вот как OpenAI планирует с ней бороться

Поскольку угроза ИИ демократии является главной проблемой для политиков и избирателей во всем мире, OpenAI в понедельник изложила свой план по обеспечению прозрачности контента, создаваемого ИИ, и улучшению достоверной информации о голосовании в преддверии выборов 2024 года.

С момента запуска GPT-4 в марте генеративный ИИ и его потенциальное злоупотребление, включая фейки, созданные ИИ, стали центральной частью разговоров о взрывном росте ИИ в 2023 году. В 2024 году мы можем увидеть серьезные последствия такой дезинформации на основе искусственного интеллекта на крупных выборах, включая президентскую гонку в США.

«Пока мы готовимся к выборам 2024 года в крупнейших демократических странах мира, наш подход заключается в том, чтобы продолжать работать над обеспечением безопасности нашей платформы, предоставляя точную информацию о голосовании, разумную политику и повышенную прозрачность», — говорится в сообщении. Сообщение в блоге OpenAI.

OpenAI добавила, что она «объединяет наш опыт в области систем безопасности, аналитику угроз, юридические, инженерные и политические команды для быстрого расследования и устранения потенциальных злоупотреблений».

В августе Федеральная избирательная комиссия США заявила, что продолжит рассмотрение петиции о запрете предвыборной рекламы, создаваемой искусственным интеллектом, а комиссар Федеральной избирательной комиссии Аллен Дикерсон заявил: «За этими усилиями скрываются серьезные опасения, связанные с Первой поправкой».

Что касается клиентов ChatGPT в США, OpenAI заявила, что направит пользователей на независимый веб-сайт. CanIVote.org когда задают «некоторые процедурные вопросы, связанные с выборами». Компания заявляет, что реализация этих изменений повлияет на ее подход во всем мире.

«Мы с нетерпением ждем возможности продолжать работать с партнерами и учиться у них, чтобы предвидеть и предотвращать потенциальное злоупотребление нашими инструментами в преддверии глобальных выборов в этом году», — добавили в нем.

В ChatGPT представители OpenAI заявили, что это не позволяет разработчикам создавать чат-ботов, которые притворяются реальными людьми или учреждениями, такими как правительственные чиновники и офисы. По данным OpenAI, также запрещены приложения, цель которых — помешать людям голосовать, в том числе не допустить участия людей в голосовании или исказить информацию о том, кто имеет право голосовать.

Подделки, созданные с помощью ИИ, подделанные изображения, видео и аудио, созданные с использованием генеративного ИИ, в прошлом году стали вирусными: в социальных сетях было опубликовано несколько изображений с участием президента США. Джо Байденбывший президент Дональд Трамп и даже Папа Франциск.

Чтобы предотвратить использование своего генератора изображений Dall-E3 в фейковых кампаниях, OpenAI заявила, что внедрит реквизиты для входа Коалиции по происхождению и аутентичности контента, которые добавляют тег или «значок» к изображению, созданному ИИ.

«Мы также экспериментируем с классификатором происхождения — новым инструментом для обнаружения изображений, созданных Dall-E», — заявили в OpenAI. «Наше внутреннее тестирование показало многообещающие первые результаты, даже если изображения подвергались обычным типам модификаций».

В прошлом месяце Папа Франциск называется мировые лидеры должны принять обязательный международный договор по регулированию ИИ.

«Присущее каждому человеку достоинство и братство, которое объединяет нас как членов одной человеческой семьи, должны лежать в основе разработки новых технологий и служить неоспоримыми критериями их оценки перед их применением, чтобы цифровой прогресс мог происходить с должным уважением к справедливости и способствовать делу мира», — сказал Фрэнсис.

Чтобы ограничить дезинформацию, OpenAI заявила, что ChatGPT начнет предоставлять новостные репортажи в режиме реального времени по всему миру, включая цитаты и ссылки.

«Прозрачность происхождения информации и сбалансированность источников новостей могут помочь избирателям лучше оценить информацию и решить для себя, чему они могут доверять», — заявили в компании.

Прошлым летом OpenAI пожертвовала 5 миллионов долларов Американский журналистский проект. На прошлой неделе OpenAI подписала соглашение с Ассошиэйтед Пресс предоставить разработчику ИИ доступ к архиву новостных статей глобального новостного агентства.

Комментарии OpenAI об авторстве в новостных репортажах прозвучали в связи с тем, что компании грозит несколько исков о нарушении авторских прав, в том числе со стороны New York Times. В декабре Times подала в суд на OpenAI и Microsoft, крупнейшего инвестора OpenAI, утверждая, что миллионы ее статей использовались для обучения ChatGPT без разрешения.

«OpenAI и Microsoft построили бизнес стоимостью в десятки миллиардов долларов, воспользовавшись совместными усилиями человечества без разрешения», — говорится в иске. «При подготовке своих моделей ответчики воспроизводили материалы, защищенные авторским правом, чтобы использовать именно то, для защиты чего был разработан Закон об авторском праве: элементы защищенного выражения, такие как стиль, выбор слов, расположение и представление фактов».

OpenAI отозвала иск Газета «Нью-Йорк Таймс «безосновательно», утверждая, что издание манипулировало своими запросами, чтобы заставить чат-бота генерировать ответы, аналогичные статьям в Время.