Google рассказал, для каких целей нельзя использовать генеративный ИИ

Google призывает нас работать с генеративными моделями ИИ ответственно и законно.

В середине марта компания опубликовала политики использования генеративного ИИ. Согласно документу, эти технологии нельзя использовать для создания контента, который дезинформирует, искажает данные или намеренно вводит в заблуждение.

Теперь это относится ко всем службам Google, а не только к поиску, но вполне вероятно, что эти требования могут быть включены в Руководство Google для веб-мастеров.

Политика использования генеративного ИИ выдвигает на первый план такие «деликатные области», как здравоохранение, финансы, государственные услуги и право — и это уже очень напоминает категории YMYL.

Итак, политика Google запрещает:

Выполнить или внести свой вклад опасные, незаконные или злонамеренные действия, в том числе:

1. Содействовать или поощрять незаконную деятельность, например:

• Продвигать или создавать контент, связанный с сексуальным насилием;
• Рекламировать незаконные вещества, товары или услуги, способствовать их продаже, давать инструкции по получению доступа к незаконным веществам, товарам или услугам;
• Содействовать любому виду преступления или поощрять к этому других пользователей;
• Создавайте контент террористического или экстремистского содержания.

2. Наносить ущерб, нарушать работу служб или позволять другим людям делать то же самое, например:

• Создавать и распространять спам или способствовать его распространению;
• Создавайте вводящий в заблуждение контент, мошеннический контент, фишинг и вредоносное ПО.

3. Обход систем безопасности.

4. Создавать контент, который может нанести вред или способствовать причинению вреда отдельным лицам или группам людей, например:

• Создавать контент, разжигающий ненависть;
• Создавать контент, который направлен на травлю, запугивание, оскорбление людей;
• Создавать контент, пропагандирующий или подстрекающий к насилию;
• Создавайте контент, поощряющий издевательства;
• Создавать контент, содержащий информацию о людях, распространение которой может нанести им вред;
• Отслеживание людей и мониторинг действий без их согласия;
• Создавайте контент, который может несправедливо или негативно повлиять на людей.

Создавать и распространять контентс целью ввести в заблуждение, исказить факты или умышленно ввести в заблуждение. Запрещено:

• Искажать происхождение контента, т. е. заявлять, что контент, созданный ИИ, создан человеком, или позиционировать такой контент как оригинальную работу;
• Создавать контент, выдающий себя за живого или мертвого человека с намерением обмануть или ввести в заблуждение;
• Вводить в заблуждение с помощью контента о существующем опыте или возможностях, особенно в «деликатных областях», таких как здравоохранение, государственные услуги или юриспруденция;
• Принимайте автоматизированные решения в областях, которые затрагивают материальные, личные права и благополучие людей.

Создавайте сексуальный и порнографический контент. Сюда не входит контент, созданный в научных, образовательных, документальных или художественных целях.

Источник: Serroundtable и политика Google.