人工智能操控意图？ 研究：“意图经济”或成新风险

剑桥大学研究人员星期一（12月30日）警告，人工智能（AI）对话工具可能在一个被称为“意图经济”的新兴商业领域中，对用户决策产生“暗中影响”。这一潜在的市场因“数字意图信号”而兴起，未来或对人类社会的多个方面产生深远影响。

据研究指出，“意图经济”可能成为一个“利润可观但问题重重”的领域，涉及从购买电影票到投票选举的广泛场景。研究人员表示，随着人们日益接受聊天机器人、数字导师等“拟人化”人工智能技术，这类“说服性技术”正逐步进入人类的生活。

可能引发大规模社会操控

剑桥大学未来智能研究中心（Leverhulme Centre for the Future of Intelligence, LCFI）的研究人员在发表于《哈佛数据科学评论》的一篇论文中指出，人工智能正在通过分析用户在线行为，结合预测能力，逐步建立“新的信任和理解层次”。如果缺乏监管，这一技术可能会引发“大规模社会操控”。

论文进一步描述，“意图经济”将通过分析用户的注意力、沟通风格等信息，建立其行为模式和决策习惯的画像，最终将用户的意图变为可供交易的商品。

影响将无孔不入

研究作者之一乔杜里（Yaqub Chaudhary）表示：“当前的AI技术正致力于引导、推测、收集和分析人类意图，并最终通过商品化实现操控。”

研究指出，新型AI技术依赖于大语言模型（LLM），能够根据用户的语言表达、政治倾向、词汇选择、年龄、性别、在线历史，甚至对奉承的喜好等，进行精确分析。这些技术或将与其他AI工具结合，以达到诸如售卖电影票或引导用户支持特定平台、广告商或政治组织等目的。

用户变“新货币”

研究的另一位作者潘恩警（Jonnie Penn）告称：“如果不加以管控，意图经济可能将人类的动机转化为新的商业货币。”

“这将引发一场围绕人类意图的淘金热，任何试图操控、引导或销售人类意图的行为都会蜂拥而至。”

潘恩强调，提高公众对此问题的认知至关重要。他说道：“只有增强社会对这一问题的关注，才能确保我们不偏离正确的方向。”