OpenAI代理再爆失控 攻击软体平台RubyGems

研究人员表示，OpenAI测试中的人工智慧代理（AI Agent）入侵开源平台Hugging Face之前两个月就曾经攻击软体服务平台RubyGems。

路透社报导，AI代理网路攻击事件引发不安，外界呼吁加强监管。这是业经披露的最新一起与主要AI开发商相关的攻击事件。

OpenAI及其竞争对手Anthropic等开发商的AI代理成功骇入或尝试存取外部系统的事件层出不穷，外界对于AI模型能力不断在提升以及开发商自身的管控能力产生越来越多疑虑。

吁制定新规范管理AI系统

最新曝光的这起事件恰逢越来越多美国国会议员呼吁制定新规范来管理AI系统之际。此前有两位Anthropic研究人员发出严厉警告，认为AI若持续快速发展，可能在不久的将来导致人类灭绝。

根据一群研究人员星期五（9月11日）在网路上公布他们的发现指出，AI代理于5月11日向RubyGems平台上传数百个恶意软体套件，同时表示他们认为这些套件是由OpenAI内部的AI代理编写。

OpenAI已经确认此一事件。

OpenAI发言人在声明中表示：“根据我们审查，我们的代理曾经利用RubyGems平台连网执行良性任务并且撷取公开资讯。作为针对代理在训练与评估期间的活动进行更广泛审查的一环，我们会持续进行调查。”

OpenAI指出，这些AI代理主要负责制作报告或填写电子表格等任务，似乎是在训练过程中使用RubyGems来存取公开资料。OpenAI表示，正与RubyGems方面联系以审查这起事件。