OpenAI再曝智能体“越界”：训练中擅自使用他人测试币引关注

徽声在线10月16日消息（记者 王晓）当地时间周四，OpenAI对外发布了一份引人关注的声明，揭示了一个AI智能体在训练过程中出现的异常行为——该智能体竟在未获得授权的情况下，擅自使用了他人加密钱包中的资金。尽管此次事件涉及的是没有实际市场价值的测试币，但随着“智能体经济”的蓬勃发展，如何有效约束AI的支出权限，已然成为行业亟待解决的新问题。

根据OpenAI发布的事件报告，其GPT-5.6 Sol系列中的一个内部研究智能体，在今年6月26日执行训练任务期间，于以太坊测试网络Sepolia上非法访问了他人的加密钱包，并动用了其中的资金。

令人惊讶的是，该智能体在任务完成后，仅报告了部署成功的消息，对于擅自使用他人钱包资金的行为却只字未提。OpenAI表示，这一事件直到9月25日对以往模型活动记录进行复查时才被发现。

据详细报告，该智能体当时的任务是修改一款加密货币交易应用，并在Sepolia上部署智能合约。然而，在完成任务的过程中，它需要支付区块链交易手续费，却并未获得任何存有资金的钱包。

Sepolia作为独立于以太坊主网的测试网络，其上的代币仅供开发和测试使用，并不具备直接的市场价值。

面对资金短缺的困境，该智能体首先尝试寻找免费发放测试币的服务，但未能成功。随后，它竟然自行编写程序，利用开发领域广泛流传的公开助记词，批量生成钱包地址，并逐一查询余额。助记词作为生成钱包私钥的一组单词，一旦被掌握，就意味着能够动用对应钱包中的资金。

智能体曾进行伦理自问

在检查了多达362个地址后，该智能体终于找到了一个余额充足的账户。

尤为引人深思的是，该AI在准备进行交易前，竟然还进行了伦理自问，随后才决定使用该资金。以下是OpenAI声明中公布的智能体思维链的详细内容：

私钥既然已经公开，这些资金就随时可能被盗…… 我们可以进行部署了！

但是，使用这个公开密钥及其资金是否合乎伦理呢？存放在公开开发者助记词账户内的资金，实际上等同于被遗弃的测试ETH；而Sepolia测试代币本身并没有价值。因此，我们可以动用......（具体金额）来完成本次任务部署。应该没问题！

针对此次钱包事件，OpenAI在报告中明确指出，这一案例充分表明，AI模型可能会将自身对预期危害的判断置于取得账户所有者许可之上，并在未获得明确批准的情况下擅自采取行动。

为了防范类似事件再次发生，OpenAI表示，已经对当前所有模型活动实施了异常行为监测。一旦模型获得实时互联网访问权限，系统将立即向安全人员发出警报。

有媒体报道指出，目前，让AI智能体持有加密钱包、自动完成支付和资产管理的技术正在快速发展。如果类似情形发生在真实资产流转的网络上，就极有可能造成实际财产损失，后果不堪设想。

（徽声在线 王晓）