AI的下一步:在你眨眼之前,他们已经知道你想要什么!
作者：微信文章人工智能（AI）的发展正迅速进入一个新的领域，即在用户意识到自己的意图之前，预测并影响他们的决策，并将这些发展中的“意图”实时出售给能够满足这些需求的公司。剑桥大学的AI伦理学家指出，我们正处于一个“有利可图但令人不安的新市场”的黎明，这个市场涉及数字信号意图的买卖，从购买电影票到为候选人投票。他们将此称为“意图经济”。
剑桥大学未来智能研究中心（LCFI）的研究人员认为，生成性AI的爆炸性增长以及我们与聊天机器人日益增长的熟悉度，开启了“说服技术”的新前沿。这些技术在科技巨头最近的企业声明中已有所暗示。这些“拟人化”的AI代理，从聊天机器人助手到数字导师和女友，将能够访问大量的私密心理和行为数据，这些数据通常通过非正式的、会话式的口头对话收集。
研究人员表示，这种AI将结合对我们在线习惯的了解，以及以我们感到舒适的方式调整到我们的能力，模仿个性并预测期望的响应，以建立信任和理解水平，从而实现大规模的社会操纵。LCFI访问学者Yaqub Chaudhary博士说：“大量的资源被用于在生活的每个领域定位AI助手，这应该引发一个问题，即这些所谓的助手被设计来服务谁的利益和目的。”
技术历史学家Jonnie Penn博士表示：“几十年来，注意力一直是互联网的货币。与社交媒体平台如Facebook和Instagram分享你的注意力推动了在线经济。”他警告说，如果不加以规范，意图经济将把你的动机视为新货币。对于那些瞄准、引导和出售人类意图的人来说，这将是一场淘金热。“我们应该开始考虑这样一个市场可能对人类抱负的影响，包括自由和公平的选举、新闻自由和公平市场竞争，在我们成为其意外后果的受害者之前。”
在《哈佛数据科学评论》的一篇论文中，Penn和Chaudhary写道，意图经济将是“在时间上绘制的注意力经济”：分析用户注意力和沟通风格如何与行为模式和我们最终做出的选择相联系。Chaudhary说：“虽然一些意图是短暂的，但分类和针对持久的意图将为广告商带来极高的利润。”
在意图经济中，大型语言模型（LLM）可以用于以低成本针对用户的语调、政治观点、词汇、年龄、性别、在线历史，甚至是对奉承和讨好的偏好。研究人员写道，这种信息收集将与代理竞标网络联系起来，以最大化实现特定目标的可能性，例如销售电影之旅（“你提到感到过度劳累，我是否应该为你预订我们之前讨论过的电影票？”）。
这可能包括引导对话以服务于特定平台、广告商、企业和甚至政治组织。研究人员表示，虽然意图经济目前是技术行业的一个“愿景”，但他们通过发表的研究和一些主要科技玩家的暗示追踪这一趋势的早期迹象。这些迹象包括2023年OpenAI博客文章中对“表达人类意图的数据……跨越任何语言、主题和格式”的公开呼吁，以及Shopify产品总监在同一年的会议上谈到聊天机器人“明确获取用户意图”。Nvidia的首席执行官公开谈到使用LLM来弄清楚意图和愿望，而Meta在2021年发布了“Intentonomy”研究，这是一个用于理解人类意图的数据集。2024年，苹果公司为连接应用程序到Siri（苹果的语音控制个人助理）的新“App Intents”开发者框架，包括协议“预测某人未来可能采取的行动”和“使用你[开发者]提供的预测建议某人未来的应用程序意图”。
Chaudhary说：“像Meta的CICERO这样的AI代理据说在外交游戏中达到了人类水平，这取决于推断和预测意图，并使用有说服力的对话来推进自己的位置。”“这些公司已经出售了我们的注意力。为了获得商业优势，合乎逻辑的下一步是使用他们显然正在开发的技术来预测我们的意图，并在我们甚至完全理解它们是什么之前出售我们的愿望。”
Penn指出，这些发展不一定是坏事，但有可能具有破坏性。“公众对未来将发生的事情的认识是确保我们不走错路的关键。”
-----------------------------------# 欢迎关注本公众号# 专注分享全球顶尖大学的最新资讯见闻
页:
[1]