OpenAI требуется DAO для запуска ChatGPT

Децентрализованная автономная организация может помочь устранить политическую предвзятость ChatGPT и возможность злоупотреблений.

ChatGPT, который может общаться с пользователями, является одной из новаторских моделей OpenAI. Хотя эта технология имеет много преимуществ, некоторые опасаются, что ее необходимо регулировать таким образом, чтобы обеспечить конфиденциальность, нейтралитет и децентрализованное знание. Децентрализованная автономная организация (DAO) могла бы стать решением этих проблем.

Во-первых, когда дело доходит до использования ChatGPT, серьезной проблемой является конфиденциальность. Чтобы улучшить свои ответы, модель собирает данные от пользователей, но эти данные могут содержать конфиденциальную информацию, которую люди не хотели бы раскрывать центральному органу. Например, если пользователь раскрывает ChatGPT свою финансовую или медицинскую историю, эта информация может быть сохранена и использована способами, которые он не ожидал или не позволял. Получение информации неуполномоченными сторонами может привести к нарушению конфиденциальности или даже к краже личных данных.

Кроме того, ChatGPT можно использовать для незаконных действий, таких как фишинговые атаки или атаки социальной инженерии. Имитируя человеческий разговор, ChatGPT может заставить пользователей раскрыть личную информацию или выполнить действия, которые они обычно не предпринимают. Крайне важно, чтобы OpenAI установил четкие политики и процедуры для управления и хранения пользовательских данных, чтобы устранить эти проблемы конфиденциальности. DAO может обеспечить децентрализованное хранение данных, собранных ChatGPT, чтобы пользователи могли лучше контролировать свою личную информацию, доступ к которой могут получить только уполномоченные лица.

Во-вторых, растет беспокойство по поводу политической предвзятости в моделях ИИ, и ChatGPT не является исключением. Некоторые опасаются, что дальнейшее развитие этих моделей может непреднамеренно усилить существующие в обществе предрассудки или, возможно, внести новые. Чат-бот с искусственным интеллектом также можно использовать для распространения пропаганды или ложной информации. Это может негативно сказаться как на отдельных людях, так и на сообществах. Предвзятые ответы могут быть результатом модели, отражающей предвзятость дизайна или данные обучения.

DAO может гарантировать, что ChatGPT обучается на объективных данных и что ответы, которые он предоставляет, тщательно изучаются широким кругом людей, таких как компании, ученые и общественные организации, которые способны обнаруживать и исправлять любую предвзятость. Это сведет к минимуму возможность предвзятости, гарантируя, что решения ChatGPT принимаются с разных точек зрения.

DAO также может внедрить систему сдержек и противовесов, чтобы гарантировать, что ChatGPT не укрепит существующие в обществе предрассудки и не создаст новые. Например, DAO может внедрить процедуру проверки ответов ChatGPT, чтобы убедиться, что они беспристрастны и справедливы. Это может потребовать от беспристрастных специалистов просмотреть комментарии ChatGPT и указать на любые случаи предвзятости.

Наконец, еще одна проблема с ChatGPT — это централизация знаний. Модель имеет доступ к огромному количеству информации, что выгодно во многих отношениях. Однако это может привести к монополии на знания, поскольку они сосредоточены в руках небольшого числа людей или организаций. Точно так же существует риск того, что обмен знаниями между человеком и машиной станет нормой, в результате чего люди будут полностью зависеть от машин в плане коллективного знания.

Например, программист, столкнувшийся с проблемой кодирования, мог ранее обратиться за помощью к Stack Overflow, опубликовав свой вопрос и получив ответы от других программистов, которые столкнулись с похожими проблемами и нашли решения. Но по мере распространения языковых моделей ИИ, таких как ChatGPT, программисты все чаще задают вопрос, а затем получают ответ, не разговаривая с другими людьми. Это может привести к меньшему взаимодействию с пользователем и меньшему обмену знаниями в Интернете — например, на таких веб-сайтах, как Stack Overflow, — а также к консолидации знаний в рамках языковых моделей ИИ. Это может значительно подорвать человеческую свободу действий и контроль над производством и распространением знаний, сделав их менее доступными для нас в будущем.

«Я вхожу в 2% лучших пользователей StackOverflow. Там мой контент посмотрели более 1,7 миллиона человек. И вряд ли я когда-нибудь напишу там что-то еще. Что может быть гораздо большей проблемой, чем кажется. Потому что это может быть канарейка в нашем коллективном руднике знаний», — написал Питер Никси (@peternixey) 26 марта 2023 года.

Нет простых ответов на сложную проблему централизации знаний. Однако очевидна необходимость более децентрализованной стратегии производства и передачи знаний. Именно здесь DAO может помочь, предложив основу для более демократичного и открытого обмена информацией. Используя технологию блокчейна и смарт-контракты, DAO может позволить людям и организациям работать вместе и вносить свой вклад в общий объем знаний, имея при этом больший контроль над доступом к этим знаниям.

В конечном счете, DAO может предложить структуру для надзора и управления операциями ChatGPT, обеспечивающую децентрализованное хранение пользовательских данных, ответы, которые тщательно проверяются на предвзятость, а также более демократичный и открытый обмен информацией.

Использование DAO могло бы стать жизнеспособным решением этих проблем, поскольку оно обеспечило бы большую подотчетность, прозрачность и контроль над использованием ChatGPT и других языковых моделей ИИ.

Поскольку технология искусственного интеллекта продолжает развиваться, крайне важно, чтобы мы уделяли первоочередное внимание этическим соображениям и предпринимали активные шаги для решения потенциальных проблем до того, как они станут реальными.

об авторе

Гунит Каур имеет степень магистра наук в области финансовых технологий Университета Стерлинга и степень магистра делового администрирования Индийского университета Гуру Нанака Дева.