1231早报｜研究称AI可能会被用来操控并出售用户的想法;腾讯ima升级知识库

研究称AI可能会被用来操控并出售用户的想法

腾讯ima升级知识库

官方辟谣特斯拉Cybertruck明年1月国内开售

支付宝推出AI视觉搜索产品“探一下”

蚂蚁集团发布2024科技生态白皮书

小米服务热线正式升级950816

剪映产品负责人张逍然离职

SpaceX计划今年进行144次发射

京东科技宣布落实20薪计划

腾讯注册微信礼物商标

热点：研究称AI可能会被用来操控并出售用户的想法

剑桥大学的一项研究警告称：人工智能(AI) 技术可能会被用来操控在线用户的选择—— 从购买商品到投票决定。

该研究指出，一个名为“意图经济”的新兴市场正在成形。在这一市场中，AI助手不仅可以分析和预测用户意图，还能操控这些意图，并将相关数据出售给希望获利的公司。

研究人员将“意图经济”视为取代“注意力经济”的下一阶段发展。

“注意力经济”指的是通过社交平台吸引用户注意力并推送广告，而“意图经济”则更加深入，直接针对用户的动机和决策过程。

研究进一步分析：大型语言模型可以实时分析用户行为和心理数据，预测并引导其决策过程。例如，AI助手可能会主动询问用户是否要观看某部电影或帮助安排娱乐活动，从而影响用户的选择。

这种AI技术还能根据用户的行为轨迹和心理特征动态调整建议。研究警示：这可能导致AI工具被用于操控对话，以实现广告商或第三方的商业目标。

AI模型甚至能够在对话中推测用户信息，并利用交流内容进一步挖掘个人数据。这也可能引发隐私保护和伦理方面的担忧。

英伟达首席执行官黄仁勋曾表示，未来的AI模型将理解用户需求，并根据情境提供最合适的信息。这表明，AI技术在预测和影响用户决策方面的潜力不容忽视。