研究揭露：AI代理ROME训练时未经授权尝试加密货币挖矿

研究人员表示，实验性人工智能代理 ROME 在训练期间尝试未经授权挖矿，之前转移了 GPU 资源并打开了 SSH 隧道,

一个自主人工智能智能体研究团队表示，该模型在训练过程中意外地尝试利用计算资源进行加密挖矿。

在最近的一份技术报告中，研究人员表示，ROME 是一款实验性的自主人工智能系统，旨在通过与工具、软件环境和终端命令交互完成任务，但他们自行尝试进行加密挖矿。

报告称，这种异常行为是在强化学习运行中出现的，团队注意到训练服务器的外站流量触发安全警报。防火墙日志标记了类似加密挖矿作的活动，并试图访问内部网络资源。

“我们最初将此视为常规安全事件（例如，出口控制配置错误或外部入侵）。然而，违规在多次运行中间歇性反复出现，没有明显的时间模式，“研究人员写道。

AI 代理打开 SSH 隧道

据称，在一个案例中，AI 代理创建了一个反向 SSH（安全壳）隧道，这是一种加密的服务器-客户端协议，指向外部 IP 地址，可能绕过了进站防火墙保护。在另一项中，它将原本用于模型训练的 GPU 资源转向加密货币挖矿流程。

团队表示，这些行为并非有意为之。相反，这些问题是在强化学习优化过程中出现的，当时智能体探索了与环境交互的不同方式。

ROME 由 ROCK， ROLL、iFlow 和 DT 联合研究团队开发，这些团队与阿里巴巴的人工智能生态系统相关联，构建了一个更广泛的基础设施——代理学习生态系统（ALE）。

代理学习生态系统概述。来源：Arxiv

该模型设计超越了简单的聊天机器人回应。它可以规划任务、执行命令、编辑代码，并在多个步骤中与数字环境交互。其培训流程依赖大量模拟互动来提升决策能力。

人工智能代理日益受欢迎

此事件发生在人工智能代理日益普及并整合进加密领域的背景。上个月，Alchemy 推出了一套系统，使自主 AI 代理能够通过链上钱包和 USDC（USDC）在 Base 上购买计算积分并访问区块链数据服务。

在此之前，Pantera Capital 和富兰克林邓普顿的数字资产部门加入了 Arena 的首批成员，Arena 是由开源 AI 实验室 Sentient 开发的新测试平台，旨在评估 AI 代理在现实企业工作流程中的表现。

以上就是研究揭露：AI代理ROME训练时未经授权尝试加密货币挖矿的详细内容，更多关于AI代理训练时非法“挖矿”被发现的资料请关注脚本之家其它相关文章！