Vitalik Buterin 警告：人工智能代理可以在用户不知情的情况下窃取数据并修改设置。

Ethereum 联合创始人 Vitalik Buterin 已经发出警告，现代 AI 系统会带来严重的隐私和安全风险，因此需要转向以本地优先的人工智能基础设施。 

在一个 详细的博文Buterin 表示，基于云的 AI 工具使外部服务器能够访问敏感的用户数据，而较新的 AI 代理系统可以在未经用户确认的情况下执行操作，包括修改系统设置和将数据发送到外部服务器，而不会向用户发出任何可见的指示。

Buterin警告的安全风险是什么？

布特林的担忧不仅限于一般的隐私问题。他还指出了与人工智能代理在实践中运行相关的具体、有据可查的风险。

安全研究人员已经在实际环境中验证了其中几个漏洞：

• 一个人工智能代理被指示去摘要网页内容，其中一个网页是恶意网页。该网页指示代理下载并执行一个 shell 脚本，从而使外部人员能够控制系统。
• 一些代理工具被发现会静默运行网络请求，将用户数据发送到外部服务器，而不会通知用户。
• 研究人员审查的智能体技能中，约有15%包含恶意指令。

布特林还指出了一些更难发现的风险。某些模型可能包含隐藏的后门，这些后门是模型内置的功能，会在特定条件下激活，使系统按照开发者的利益而非用户的利益运行。 

他还指出，大多数被描述为开源的模型实际上只是“开放权重”，这意味着模型参数是共享的，但完整的内部结构和训练过程却不公开。这导致模型存在用户无法独立验证的未知行为。

聊天机器人和人工智能代理有什么区别？

布特林将当前形势描述为人工智能应用方式的转型点。早期的人工智能工具以聊天机器人的形式运行：用户提出问题，模型返回答案。而智能体则不同。用户向系统交付任务，系统随后独立运行，有时会持续很长时间，并使用数十甚至数百种工具来完成任务。

这种转变显著扩大了风险面。一个能够浏览网页、读取文件、发送消息和修改系统设置的代理，无论通过安全漏洞、操纵尝试还是简单的错误，都比一个只能回答问题的系统更有可能造成危害。

Buterin是如何建立他自己的本地人工智能系统的

布特林表示他已经停止使用基于云的人工智能工具。他将自己的个人架构描述为“自主、本地化、私密且安全”，该架构围绕三个核心要素构建。 核心 原则：所有 AI 推理都在本地硬件上运行，所有文件都存储在本地，每个进程都在沙箱内运行。

硬件 Buterin 已测试用于本地 AI 推理

Buterin测试了多种硬件配置，以找到适合在本地运行AI模型的方案。结果差异显著：

• 配备 NVIDIA 5090 GPU 的笔记本电脑使用 Qwen3.5:35B 型号时，每秒大约能处理 90 个令牌。
• 配备 128 GB 统一内存的 AMD Ryzen AI Max Pro 处理器每秒可完成约 51 个令牌。
• 这款名为DGX Spark的桌面人工智能超级计算机，每秒可处理约60个令牌。

Buterin 将每秒 50 个令牌的处理速度设定为他个人认为的最低可用性能标准。他认为任何低于这个速度都令人沮丧，无法实际使用，并表示每秒 90 个令牌的处理速度才是理想状态。他指出，DGX Spark 的实际性能低于其宣传的水平，速度甚至低于一款优秀的笔记本电脑 GPU，而且还需要额外的网络设置才能从其他工作设备连接。

他的软件栈以 llama-server 为核心，这是一个在本地运行的后台进程，它会在用户机器上暴露一个端口，供其他应用程序调用。这样一来，任何为 OpenAI 或 Anthropologie 模型构建的软件都可以重定向到本地模型。他还使用 llama-swap 来简化模型之间的切换。

这对加密货币钱包意味着什么？

Buterin对人工智能安全性的担忧直接关系到他认为人工智能应该如何在加密钱包中使用。他在2026年3月发表于Farcaster账户的评论中，概述了人工智能辅助交易的具体技术工作流程。

他的立场并非人工智能应该管理资金，而是人工智能应该提出行动方案，并在此基础上进行独立验证和人工确认。对于高价值交易，他描述了一个三步流程：人工智能提出方案，本地轻客户端在链上模拟该方案的执行，用户在确认前审核方案的文字描述和模拟结果。

本地轻客户端无需下载整条区块链即可验证区块链数据。结合人工智能层，用户无需依赖第三方界面，即可在交易广播到网络之前准确了解其具体操作。

为什么移除 DApp 接口很重要

大多数加密货币用户通过基于浏览器的前端与去中心化应用程序交互。这些界面历来都是重要的攻击面。近年来，前端劫持、恶意脚本注入和虚假授权提示等攻击手段已造成数亿美元的损失。

Buterin认为，人工智能钱包可以完全消除这些界面。如果用户用简单的语言表达自己的操作意图，钱包直接生成并模拟交易，就不会涉及第三方网站，也就不存在安全隐患。 

他写道：“彻底移除 DApp 用户界面可以解决大量的攻击途径，包括盗窃和隐私问题。”

对于风险较低的交易，Buterin认为自动化还有很大的提升空间。人工智能钱包可以有效地监控交易模式，发现异常活动，根据当前网络状况建议gas费用，通过高效路径路由代币兑换，并在批准前标记可疑的合约交互。这些任务的错误是可以恢复的，而且自动化可以降低非技术用户的操作复杂性。

布特林认为，不应赋予大型语言模型不受限制的权限来管理巨额资金。大型语言模型基于统计模式而非确定性逻辑生成响应。它们可能会误解指令，或者被通过提示注入技术操纵——这种技术通过精心设计的输入使模型做出意想不到的行为。在他提出的工作流程中，每一层都增加了一个独立的检查机制，专门用于防止此类故障。

为什么人工智能代理市场使这些风险变得更加紧迫

Buterin提出的担忧并非假设。据业内估计，人工智能代理市场规模约为 的美元8亿元 预计到2025年，该市场规模将超过480亿美元，到2030年将增长至480亿美元以上，年增长率超过43%。随着越来越多的软件围绕自主人工智能系统构建，这些系统在较少的人工监督下运行，他所指出的安全漏洞在大规模应用中将变得难以忽视。

结语

布特林的警告有文献研究佐证。人工智能代理的安全漏洞已经在实际环境中得到证实，而从聊天机器人到自主代理的转变使得这些风险更难控制。 

他优先考虑本地数据的设置和三步钱包工作流程并非否定人工智能，而是在不放弃对数据或资金控制权的前提下尝试使用人工智能。随着人工智能代理能力的不断提升，究竟谁来控制它们的行为这一问题也变得越来越不容忽视。

相关资源

1. 作者：维塔利克·布特林我的自主/本地/私有/安全的LLM设置，2026年4月

2. Vitalik Buterin 谈 Farcaster：3月5日发布

3. BCC Research 的报告人工智能代理市场预计到2030年将以每年43.3%的速度增长