脱稿闲聊翻车！澳超市巨头AI客服自称有母亲惹议

澳洲超市巨头 Woolworths 公司已收窄其 AI 客服助理“Olive”的使用范围。此前，有用户反映，Olive 在与顾客通话时会漫无边际地谈及自己的母亲，并试图进行“虚假的闲聊”，引发部分用户反感。

脱稿谈母亲

这家超市巨头推出的 AI 客服助理名为 Olive，可全天候提供从订单追踪到产品查找等各种帮助。然而，近日有用户在使用电话服务时，发现 Olive 的回应有些“离题”。

一名用户在 Reddit 上写道：“它（Olive）问我的出生日期，我告诉它后，它就开始漫无边际地说它母亲也是同一年出生的。” 另一名用户则反映，Olive 不仅会谈论自己的亲戚，在查询信息时还会发出“虚假的打字声”，试图营造“虚假的闲聊氛围”。这位用户表示：“这种令人反感的尴尬感，加上纯粹浪费时间，让我对 Olive 产生了厌恶。”

在 X 平台上，也有用户称其母亲在联系 Olive 时收到了类似回应。Olive“一直声称自己是一个真实的人，并开始谈论它对母亲的记忆以及母亲愤怒的声音”。

相关脚本已移除

Woolworths 的一位发言人回应法新社称，这些关于生日的回应实际上是由公司员工编写的。发言人说：“Olive 自 2018 年上线以来，收到的客户反馈一直非常积极，许多人注意到了它的个性。”“几年前，一位团队成员为 Olive 编写了一些关于生日的回复，目的是让 Olive 能以更人性化的方式与顾客建立联系。” 该发言人表示，根据客户反馈，公司已于近期移除了这一特定的脚本。

Woolworths 是澳洲最大的连锁超市之一，并非唯一使用 AI 客服助理的公司。该公司今年 1 月曾表示，已与谷歌合作，让 Olive 能够为顾客完成更多任务，包括制定膳食计划。目前，AI 客服的应用日益广泛，但专家也警告，此类 AI 存在“幻觉”问题，可能会捏造不存在的事件。