Поэтому стоит задаться вопросом: могут ли ИИ и блокчейн интегрироваться таким образом, чтобы это принесло пользу человечеству?
Есть причины так думать. Еще в 2016 году Виталик Бутерин писал, что сообщества криптоэкономики и безопасности искусственного интеллекта «пытаются решить фундаментально одну и ту же проблему» — как регулировать сложные и интеллектуальные системы с «непредсказуемыми возникающими свойствами».
В конце концов, обе системы полагаются на контроль над по существу «глупыми» системами, «свойства которых после создания становятся менее гибкими». Например, после реализации смарт-контракта его нельзя изменить. Двум сообществам «нужно больше прислушиваться друг к другу», заключил он.
В прошлом году с появлением ChatGPT и других инструментов генеративного ИИ возникли опасения, что ИИ может выйти из-под контроля. В одном кошмарном сценарии люди могут потерять контроль над автономными системами вооружения.
Идея о том, что блокчейны и смарт-контракты могут каким-то образом служить ограждением, не позволяющим моделям искусственного интеллекта отклониться от курса, набирает обороты.
«Каждый, кто работает в сфере криптовалют, должен сыграть действительно важную роль в обеспечении успеха AGI», — заявила Эллисон Даттманн, президент Института прогнозирования, на недавней конференции SmartCon 2023.
Это особенно верно, учитывая прогнозы о том, что общий искусственный интеллект, или AGI, в котором машины достигают интеллекта человеческого уровня, может появиться раньше, чем позже.
Это потенциальное слияние искусственного интеллекта и технологии блокчейна также занимало умы лиц, принимающих решения в сфере ИТ, которые приняли участие в недавно опубликованном опросе, проведенном по заказу Casper Labs. Почти половина (48%) из 608 ИТ-руководителей, опрошенных в США, Европе и Китае, согласились, что «интеграция искусственного интеллекта и технологии блокчейна потенциально может произвести революцию в нашей отрасли, обеспечив повышенную безопасность, прозрачность и эффективность данных».
Дополнительные технологии набирают обороты
Основная идея заключается в том, что неизменяемые, защищенные от несанкционированного доступа реестры блокчейнов вместе со смарт-контрактами могут стать основой для внедрения ИИ, что позволит создать ответственный искусственный интеллект. Некоторые полагают, что блокчейн может даже послужить своего рода «выключателем» для вышедших из-под контроля моделей искусственного интеллекта.
В опросе Zogby Analytics, проведенном по заказу Casper Labs, 71% ИТ-руководителей заявили, что «рассматривают блокчейн и искусственный интеллект как взаимодополняющие технологии». Более того, когда их спросили, как их организации в настоящее время используют блокчейн, самым популярным ответом (51%) был «эффективная работа с ИИ».
1 ноября президент США Джо Байден издал указ, устанавливающий новые стандарты защиты ИИ. Приказ направлен на защиту населения от широкого спектра рисков, включая обман, мошенничество с использованием ИИ и опасные биологические материалы, созданные с помощью ИИ.
Этот приказ «создал большой импульс», — говорит Мринал Манохар, генеральный директор и соучредитель платформы Casper Labs, которая имеет блокчейн первого уровня, предназначенный для бизнеса. В наши дни управление ИИ занимает умы все большего числа корпоративных ИТ-специалистов, и все больше и больше компаний запускают реальные проекты в области искусственного интеллекта/блокчейна.
«Мы ожидаем, что 2024 год станет годом крупных PoC (проверок концепции) и MVP (минимально жизнеспособных продуктов). И после этого, я ожидаю, появятся реальные варианты использования», — сказал Мринал Манохар.
Но, безусловно, существуют препятствия, в том числе масштабирование. Проверка онлайн-транзакций остается проблемой в децентрализованных блокчейнах большого объема, даже несмотря на недавний прогресс.
В часто цитируемой статье 2021 года Бен Гарфинкель, директор Центра искусственного интеллекта, написал, что «блокчейны без разрешений, включая Ethereum, слишком неэффективны для запуска чего-либо, кроме довольно простых приложений». Даже приложение, «которое проверяет, кто выиграл партию в шахматы, противоречит текущим ограничениям Ethereum».
Однако Бен Гарфинкель признал, что, если смарт-контракты «когда-нибудь станут достаточно надежными», они могут быть полезны в качестве механизмов проверки международных соглашений, направленных на управление системами искусственного интеллекта.
«Casper Labs явно настроена более оптимистично. В гонке за решением проблемы «черного ящика» искусственного интеллекта блокчейн становится универсальным решением, которого мы так ждали, чтобы обеспечить столь необходимую прозрачность», — написал Манохар в отчете.
Внутренняя работа систем искусственного интеллекта в значительной степени невидима для пользователей, отсюда и аналогия с черным ящиком.
Гибридное блокчейн-решение
Однако как можно рассматривать технологию блокчейна как аналог решения проблемы «черного ящика» искусственного интеллекта, если она не может даже масштабироваться?
«Проблему масштабирования можно решить с помощью гибридных блокчейнов», — сказал Мринал Манохар. — Сегодня никто не говорит о размещении огромных объемов данных на Ethereum или на собственном блокчейне первого уровня Casper Labs. Решение Casper Labs предполагает использование как разрешенных (частных), так и общедоступных (неразрешенных) блокчейнов. Прелесть этой гибридной модели в том, что вы сами выбираете, хотите ли вы неизменности общедоступной сети или просто управляете своей инфраструктурой самостоятельно».
Пока вы правильно храните ссылку в общедоступной цепочке блоков, «вы всегда можете быть уверены, что данные не были подделаны, потому что в противном случае хеши не совпадали бы».
Кроме того, все, что вы хотите проверить, можно разместить в общедоступной цепочке блоков, поскольку она защищена от несанкционированного доступа. Итак, «каждый раз, когда я модифицирую искусственный интеллект или каждый раз, когда я использую новый набор данных, я отправляю запрос в публичный блокчейн», — говорит Мринал Манохар.
Большая проблема с ИИ в настоящее время заключается в том, что никто не знает, когда что-то может пойти не так. Но блокчейны дают возможность перемотать ленту назад, поскольку они очень сериализованы и имеют временные метки.
Так, если модель ИИ «начинает проявлять признаки галлюцинаций или присущих предубеждений, вы можете просто вернуть систему ИИ к последней итерации, на которой не было этих проблем, и впоследствии диагностировать, откуда взялись данные о проблеме». Об этом сообщает Casper Labs на своем сайте. Веб-сайт.
Но другие не убеждены, что блокчейн может решить проблему «черного ящика» искусственного интеллекта.
«Неверно описывать прозрачность блокчейна как противоядие от проблемы черного ящика ИИ», — говорит Самир Равашде, доцент и директор Исследовательского центра искусственного интеллекта Дирборна в Мичиганском университете в Дирборне. «Это не проясняет внутреннюю работу модели машинного обучения и не поясняет, как конкретный результат можно отследить до исходных данных обучения».
Что на самом деле предлагает Casper Labs, предположил Равашде, так это «система контроля версий» — хотя и с некоторыми приятными функциями — которую можно использовать «для отслеживания разработки и развертывания модели искусственного интеллекта».
Равашде добавил, что блокчейн может, однако, косвенно решить проблему черного ящика, предлагая контрольный журнал, который помогает обеспечить целостность, происхождение и прозрачность наборов данных, используемых для обучения моделей ИИ. Но это не делает сам процесс принятия решений более ясным.
Манохар, со своей стороны, утверждает, что ценность блокчейна для ИИ выходит за рамки возможности возврата к предыдущим версиям:
«Вы также можете иметь отдельные хэши, указывающие, какие источники данных были загружены и когда. Это дает возможность лучше понять поведение искусственного интеллекта и то, что приводит к конкретным результатам».
Когда машины сталкиваются с людьми
Может ли блокчейн помочь избежать сценариев дурных снов, когда модели AGI отменяют выборы или даже ведут войны?
«На самом деле это может очень помочь», — ответил Манохар. «Блокчейн станет лучшим переключателем для модели искусственного интеллекта, при условии, что его мощность будет передаваться через полностью децентрализованный блокчейн».
То есть блокчейн и его валидаторы решают, получит ли модель искусственного интеллекта силу.
«Всегда существует сигнал отключения, при котором, если все валидаторы согласны, они могут просто отключить сеть и не дать ИИ получить доступ к источнику питания», — сказал Манохар. «На самом деле, в этих кошмарных сценариях он может действовать как невероятно мощный переключатель».
Подозрения остаются
Существуют и другие потенциальные препятствия на пути интеграции блокчейна и искусственного интеллекта. Во-первых, в сообществе искусственного интеллекта существует много подозрений в отношении криптовалюты, говорит Эллисон Даттманн. Криптовалюта и блокчейн по-прежнему ассоциируются у многих с мошенничеством, включающим непригодные для использования токены и другое сомнительное поведение.
Однако на вопрос, видит ли Форсайт больше предложений по финансированию проектов с использованием искусственного интеллекта/блокчейна, Эллисон Даттманн ответила:
«Сейчас в космосе много такого же движения».
В среднем она видит пять запросов на финансирование в неделю от проектов, сочетающих технологию блокчейна и искусственный интеллект.
В своем выступлении на SmartCon 2023 она отметила, что криптоиндустрия очень хорошо разбирается в сетевой безопасности, часто используя «красную команду», когда команды ищут входные данные, которые вызывают катастрофическое поведение.
«Давайте распространим красный пул на модели машинного обучения», — предложила она.
Большее признание в Китае
Интеграция технологий искусственного интеллекта и блокчейна, похоже, особенно благосклонно воспринимается в Китае. В опросе Casper Lab 68% ИТ-респондентов в Китае согласились, что «интеграция искусственного интеллекта и технологии блокчейна может произвести революцию в нашей отрасли, обеспечив повышенную безопасность, прозрачность и эффективность данных». Для сравнения, в США эта доля составила 48%, а в Европе – всего 34%.
Почему этот показатель в Китае такой высокий? Мринал Манохар отметил, что Китай в последние годы враждебно относится к криптовалютам, но сохраняет позитивное отношение к технологии блокчейн.
Для сравнения, Манохар также утверждает, что на Западе «все думают, что блокчейн — это просто криптовалюта».
Подборка статей по криптовалютам и технологии блокчейн. Подпишитесь на нас в социальных сетях.
Специальная подборка для Вас