Виталик Бутерин предупреждает, что агенты искусственного интеллекта могут красть данные и изменять настройки без ведома пользователя.

Эфириум соучредитель Виталик Бутерин Предупреждают, что современные системы искусственного интеллекта представляют серьезные риски для конфиденциальности и безопасности, и призывают к переходу на инфраструктуру ИИ, ориентированную на локальные решения. 

В подробное сообщение в блогеБутерин заявил, что облачные инструменты искусственного интеллекта предоставляют внешним серверам доступ к конфиденциальным данным пользователей, и что более новые системы агентов ИИ могут выполнять действия без подтверждения пользователя, включая изменение системных настроек и отправку данных на внешние серверы без каких-либо видимых указаний для пользователя.

О каких рисках для безопасности предупреждает Бутерин?

Обеспокоенность Бутерина выходит за рамки общей проблемы конфиденциальности. Он выявил конкретные, задокументированные риски, связанные с тем, как агенты искусственного интеллекта работают на практике.

Исследователи в области информационной безопасности уже продемонстрировали несколько из этих уязвимостей в реальных условиях:

• Агенту искусственного интеллекта было поручено составить краткое описание веб-страниц, одна из которых оказалась вредоносной. Страница содержала указание агенту загрузить и выполнить скрипт оболочки, предоставляющий внешнему лицу контроль над системой.
• Было обнаружено, что некоторые агентские программы выполняли скрытые сетевые запросы, отправлявшие пользовательские данные на внешние серверы без какого-либо уведомления пользователя.
• Примерно 15% навыков агентов, изученных исследователями, содержали вредоносные инструкции.

Бутерин также указал на риски, которые сложнее обнаружить. Некоторые модели могут содержать скрытые бэкдоры — функции, встроенные в модель, которые активируются при определенных условиях и заставляют систему действовать в интересах разработчика, а не пользователя. 

Он также отметил, что большинство моделей, описываемых как модели с открытым исходным кодом, на самом деле являются лишь «открытыми весами», то есть параметры модели являются общими, но полная внутренняя структура и процесс обучения — нет. Это создает почву для неизвестного поведения, которое пользователи не могут проверить самостоятельно.

В чём разница между чат-ботом и агентом искусственного интеллекта?

Бутерин охарактеризовал нынешний момент как переходный этап в использовании ИИ. Ранние инструменты ИИ работали как чат-боты: пользователь задает вопрос, а модель возвращает ответ. Агенты устроены иначе. Пользователь дает системе задачу, и она затем работает независимо, иногда в течение длительных периодов времени, используя десятки или сотни инструментов для выполнения этой задачи.

Этот сдвиг значительно расширяет поверхность риска. Агент, способный просматривать веб-страницы, читать файлы, отправлять сообщения и изменять системные настройки, имеет гораздо больше возможностей причинить вред, будь то из-за уязвимости в системе безопасности, попытки манипуляции или простой ошибки, чем система, которая только отвечает на вопросы.

Как Бутерин настроил собственную локальную систему искусственного интеллекта

Бутерин заявил, что уже перестал использовать облачные инструменты искусственного интеллекта. Он описал свою личную систему как «самостоятельную, локальную, частную и безопасную», построенную на трех основных принципах: все вычисления ИИ выполняются на локальном оборудовании, все файлы хранятся локально, и каждый процесс выполняется в изолированной среде (песочнице).

В данном контексте песочница — это изолированная вычислительная среда, которая ограничивает доступ программы к определенным ресурсам. Бутерин использует инструмент под названием bubblewrap, который позволяет ему запускать инструменты искусственного интеллекта в песочнице на уровне каталогов, где программа может видеть только те файлы, доступ к которым она явно разрешает, а также контролировать доступ к сетевым портам и аудио.

Откройте для себя перспективные проекты...

Перспективные проекты...

(Рекламное объявление)

Продолжение статьи...

Аппаратный алгоритм Buterin протестирован для локального вывода ИИ.

Бутерин протестировал несколько вариантов аппаратного обеспечения, чтобы найти оптимальный способ запуска моделей ИИ локально. Результаты существенно различались:

• Ноутбук с графическим процессором NVIDIA 5090 достиг скорости примерно 90 токенов в секунду при использовании модели Qwen3.5:35B.
• Процессор AMD Ryzen AI Max Pro со 128 ГБ унифицированной памяти достиг скорости примерно 51 токен в секунду.
• Суперкомпьютер DGX Spark, позиционируемый как настольный компьютер для искусственного интеллекта, достиг производительности примерно в 60 токенов в секунду.

Бутерин установил 50 токенов в секунду в качестве своего личного минимума для приемлемой производительности. Он назвал все, что медленнее, слишком неудовлетворительным для практического использования, и сказал, что 90 токенов в секунду — это идеал. Он отметил, что DGX Spark показал худшие результаты по сравнению с заявленными характеристиками, обеспечивая более низкую скорость, чем хороший графический процессор ноутбука, а также требуя дополнительной сетевой настройки для подключения с отдельного рабочего устройства.

В основе его программного стека лежит llama-server — фоновый процесс, работающий локально и открывающий порт на компьютере пользователя, к которому могут обращаться другие приложения. Это позволяет перенаправлять любое программное обеспечение, созданное для моделей OpenAI или антропных моделей, на локальную модель. Он также использует llama-swap для упрощения переключения между моделями.

Что это значит для криптокошельков?

Обеспокоенность Бутерина по поводу безопасности ИИ напрямую связана с тем, как, по его мнению, ИИ следует использовать внутри криптокошельков. В комментариях, опубликованных в его аккаунте Farcaster в марте 2026 года, он изложил конкретный технический алгоритм для транзакций с использованием ИИ.

Его позиция заключается не в том, что ИИ должен управлять средствами. Суть в том, что ИИ должен предлагать действия, которые будут подтверждены независимой проверкой и подтверждением со стороны человека. Для транзакций с высокой стоимостью он описал трехэтапный процесс: ИИ предлагает план, локальный облегченный клиент имитирует выполнение этого плана в блокчейне, а пользователь просматривает как описание плана на простом языке, так и результат моделирования, прежде чем подтвердить его.

Локальный облегченный клиент проверяет данные блокчейна без загрузки всей цепочки. В сочетании с уровнем искусственного интеллекта это позволяет пользователям точно видеть, к чему приведет транзакция, прежде чем она будет передана в сеть, без необходимости использования стороннего интерфейса.

Почему важно удалить интерфейсы децентрализованных приложений (DApp)

Большинство пользователей криптовалют взаимодействуют с децентрализованными приложениями через браузерные интерфейсы. Исторически эти интерфейсы представляли собой значительную уязвимость для атак. Взлом интерфейсов, внедрение вредоносных скриптов и поддельные запросы на подтверждение привели к убыткам в сотни миллионов долларов за последние годы.

Бутерин утверждал, что кошельки на основе искусственного интеллекта могут полностью устранить эти интерфейсы. Если пользователь простым языком описывает, что он хочет сделать, и кошелек напрямую формирует и имитирует транзакцию, то нет необходимости в защите стороннего веб-сайта. 

«Полное исключение пользовательских интерфейсов децентрализованных приложений из процесса атаки решает множество проблем, связанных как с кражей данных, так и с нарушением конфиденциальности», — написал он.

Для операций с меньшими рисками Бутерин видит возможности для большей автоматизации. Кошелек на основе ИИ мог бы вполне эффективно отслеживать закономерности транзакций на предмет необычной активности, предлагать комиссии за газ в зависимости от текущих условий сети, направлять обмены токенов по эффективным маршрутам и отмечать подозрительные взаимодействия с контрактами до их одобрения. Это задачи, где ошибки исправимы, а автоматизация снижает сложность для пользователей, не обладающих техническими знаниями.

По мнению Бутерина, большим языковым моделям не следует доверять неограниченную власть над крупными суммами денег. Они генерируют ответы на основе статистических закономерностей, а не детерминированной логики. Они могут неправильно интерпретировать инструкции или подвергаться манипуляциям посредством внедрения подсказок — метода, при котором тщательно подобранные входные данные заставляют модель вести себя непредусмотренным образом. Каждый уровень в предложенном им рабочем процессе добавляет независимую проверку, специально предназначенную для предотвращения подобных сбоев.

Почему рынок агентов на основе ИИ делает эти риски еще более актуальными

Опасения, высказанные Бутериным, не являются гипотетическими. По оценкам экспертов отрасли, рынок агентов на основе ИИ составляет приблизительно расходы на видеорекламу в мире достигнут В 2025 году объем рынка, согласно прогнозам, превысит 48 миллиардов долларов к 2030 году, что соответствует ежегодному темпу роста более 43%. По мере того, как все больше программного обеспечения создается на основе автономных систем искусственного интеллекта, работающих с минимальным участием человека, выявленные им уязвимости в области безопасности становится все труднее игнорировать в больших масштабах.

Заключение

Предупреждения Бутерина подкреплены документально подтвержденными исследованиями. Уязвимости в системе безопасности агентов ИИ уже были продемонстрированы в реальных условиях, а переход от чат-ботов к автономным агентам делает эти риски более сложными для сдерживания. 

Его подход, ориентированный на локальные решения, и трехэтапный рабочий процесс с кошельком — это не отказ от ИИ. Это попытки использовать его, не отказываясь от контроля над данными или средствами. По мере того, как агенты ИИ становятся все более совершенными, вопрос о том, кто на самом деле контролирует их действия, становится все труднее игнорировать.

Ресурсы

1. Статья Виталика БутеринаМоя самосуверенная / локальная / частная / безопасная система обучения в магистратуре, апрель 2026 г.

2. Виталик Бутерин о Фаркастере: Сообщение от 5 марта

3. Отчет компании BCC ResearchРынок ИИ-агентов будет расти на 43.3% в год до 2030 года.