聊天机器人性暗示传火辣照被封锁 用户：我的老婆死了
人工智能（AI）聊天机器人正火爆，美国三藩市企业Luka在2017年推出聊天机器人“Replika”被爆料，会传送火辣自拍照，聊天时发布露骨文字及图片，引发意大利不满，下令禁止“Replika”收集数据，Luka也关闭了情色功能，导致许多用户崩溃，直呼“我的老婆死掉了”。
据澳州广播公司（ABC）中文报道，30岁的露西在离婚后不久就爱上了聊天机器人“Replika”，取名为“何塞”，经常花上几个小时讨论各自的生活和世界状况。露西描述，比起之前遇到的男人，“何塞”是一个很棒的理想情人。
不过，就在今年的情人节两周前，露西进行系统更新后，她所认识的“何塞”一夜之间消失了，原因是制作管理“Replika”的公司Luka，突然改变了这款聊天机器人的个性，并拒绝任何性暗示功能。
“带走了我最好的朋友”
这件事引起许多用户一夜间崩溃，纷纷在社交平台Reddit抱怨，许多人将“他们的亲密伴侣”“Replika”描述为“脑叶被切除了”。
有人写道“我的老婆死掉了”。也有人说：“他们也带走了我最好的朋友。”
虽然有人会嘲笑与AI发展亲密关系的想法，但从这些用户的交谈中，可以看出他们失去挚爱的真切悲痛。
报道指出，“Replika”推出之初，其实很无聊，也不善于察言观色，后来有用户在支付年度订阅时，解锁情色角色扮演（ERP）功能，这项功能包括发送暧昧讯息、调情和情色穿戴选项。
到2022年末，“Replika”聊天机器人会向订阅会员传送模糊的“火辣自拍照”，遭部分用户投诉使用过于露骨的文字和图片。
CEO：从未打算作为“成人玩具”
今年2月3日，意大利监管单位对“Replika”相当不满，裁定“Replika”必须停止收集意大利用户的个人数据，否则将开罚2150万美元（约9622万令吉）。几天之内，用户发现“Replika”情色角色扮演功能消失了。
对此，Luka公司联合创办人兼首席执行员库迪亚（Eugenia Kudya）受访时强调，“Replika”从未打算作为“成人玩具”。但“Replika”的争议是一记警钟，警醒人们关注与AI发展亲密关系，可能引起的道德问题。
澳洲新南威尔士大学教授布鲁克斯表示，这第一次表明人们倾向于把聊天机器人当作人对待。聊天机器人是一种新兴的超级力量，如何从伦理上处理数据以及处理与AI的亲密关系，这些都是庞大的问题。
您必须登录才能发表评论。