OpenAI запускает новый инструмент для обнаружения текста, сгенерированного ИИ

OpenAI, создатель ChatGPT, сегодня выпустил классификатор текста AI, который может помочь вам определить, был ли текст, который вы читаете, написан искусственным интеллектом или человеком.

Но есть но.

OpenAI отмечает, что «невозможно надежно обнаружить весь текст, написанный ИИ», и «недостаточно тщательно оценила эффективность классификатора в обнаружении контента, написанного в сотрудничестве с авторами-людьми».

Почему мы заботимся. Уже существует множество детекторов контента ИИ. Если эти инструменты способны довольно эффективно идентифицировать текст, сгенерированный ИИ, можно с уверенностью предположить, что поисковые системы могут. Подумайте: система полезного контента Google.

Кроме того, если вы публикуете контент, с вашей стороны может быть разумно запускать любой контент, представленный вашим агентством или внештатными авторами, через эти инструменты. Мы вступаем в новую эру, и вы не хотите публиковать что-либо, что потенциально может привести к тому, что ваш сайт будет помечен как публикующий автоматически сгенерированный контент, что противоречит рекомендациям Google. Мы уже начали использовать подобные инструменты для всего предоставленного контента здесь, в Search Engine Land.

Что такое классификатор текста AI? OpenAI называет свой новый инструмент «точно настроенной моделью GPT, которая предсказывает, насколько вероятно, что фрагмент текста был сгенерирован ИИ из различных источников, таких как ChatGPT».

У него есть некоторые ограничения — в первую очередь результаты могут быть неточными. OpenAI в первую очередь обучал инструмент англоязычному контенту, написанному взрослыми, поэтому вполне вероятно, что будут ложные срабатывания. Кроме того, как указал OpenAI, текст, сгенерированный ИИ, легко отредактировать, чтобы он выдавался за текст, созданный человеком. Как отмечено в разделе часто задаваемых вопросов:

• «Результаты могут помочь, но не должны быть единственным доказательством при принятии решения о том, был ли документ создан с помощью ИИ. Модель обучается на написанном человеком тексте из различных источников, которые могут не отражать все виды написанного человеком текста».

Результаты классификатора. После того, как вы вставите свой текст в инструмент (Open AI говорит, что вам нужно минимум 1000 символов, что составляет примерно 150-250 слов), классификатор текста AI оценит, был ли текст сгенерирован с использованием AI. Вы увидите одну из пяти меток:

• Маловероятно.
• Вряд ли.
• Неясно, так ли это.
• Возможно.
• Вероятный.

Вот результаты, которые я вставил в текст этой статьи, которую вы читаете (написано человеком, клянусь):

И, к счастью, классификатор посчитал «очень маловероятным», что эта статья была создана ИИ.

Попробуйте инструмент на себе. Классификатор текста AI от OpenAI. Это бесплатно.

Больше охвата. Вы можете прочитать объявление OpenAI здесь: Новый классификатор AI для обозначения текста, написанного AI. Вы можете увидеть больше информации на Techmeme.