“意图经济”来袭：新研究称 AI 工具将操纵用户在线决策

发布时间：2024-12-31 19:10

学术研究中避免抄袭的方法：使用引用和抄袭检测工具 #生活技巧# #学习技巧# #学术研究指南#

IT之家 12 月 31 日消息，剑桥大学的研究人员指出，人工智能（AI）工具可能被用于操纵在线用户的决策，影响范围涵盖购物选择、投票对象等诸多方面。

这种操纵基于新兴的“意图经济”（intention economy），AI 助手在其中理解、预测甚至操纵人类意图，并将这些信息出售给相关企业以牟利。

剑桥莱弗休姆智能未来中心（LCFI）的研究人员认为“意图经济”将取代“注意力经济”（attention economy），个人动机将成为新的交易货币。

IT之家注：注意力经济是指在信息爆炸的时代，人类的注意力成为一种稀缺资源，从而催生出的一种经济模式。企业和平台通过各种方式争夺用户的注意力，并将其转化为商业利益。

例如，社交媒体平台、短视频应用等，通过提供引人入胜的内容和个性化推荐，吸引用户花费更多时间在其平台上，并通过广告、电商等方式获利。

而研究人员认为“意图经济”会更进一步，科技公司将用户动机，例如酒店预订计划、政治候选人观点等信息，出售给最高出价者。

以 ChatGPT 为代表的 AI 聊天机器人背后，是快速发展的大型语言模型（LLM），它将被用于基于“意图、行为和心理数据”来“预测和引导”用户。

LLM 可以实时获取用户注意力，例如询问用户是否想看某部电影，并根据用户的“个人行为痕迹”和“心理概况”动态生成建议。

广告商可以使用生成式 AI 工具创建定制在线广告，甚至可以像 Meta 开发的 AI 模型 Cicero 一样，推断和预测用户的意图。

更令人担忧的是，AI 模型可以通过日常交流推断个人信息，甚至“引导”对话以获取更多个人信息。未来，像 Meta 这样的公司可能会将用户预订餐厅、航班或酒店的意图拍卖给广告商。

研究人员警告，如果不加以监管，“意图经济”将把用户的动机作为新的交易货币，对那些瞄准、引导和出售人类意图的人来说，这将是一场“淘金热”。这种趋势可能对人类愿望产生重大影响，包括自由公正的选举、新闻自由和公平的市场竞争。