牛津研究:社交媒体AI(人工智能)写作工具会系统性改变帖子立场
牛津大学牛津互联网研究院(OII)与哈索·普拉特纳研究所(HPI)联合研究发现,社交平台上的AI(人工智能)写作与编辑工具会系统性地改变用户帖子的立场,即使被明确要求保留原意。
研究者通过模拟真实社交网络,显示这些细微偏差可能随数百万次互动累积,逐渐影响群体观点; 偏差方向不只取决于模型本身,也取决于平台的实现决策。
该研究已被ICML 2026(国际机器学习大会)相关研讨会接收,为研讨会论文,模拟部分基于数学建模,不构成对真实选民态度变化的因果测量,也不是监管认定。
研究由 Stratis Tsirtsis、Kai Rawal、Chris Russell、Brent Mittelstadt、Sandra Wachter 撰写,题为《AI-Mediated Communication Can Steer Collective Opinion》,已被 ICML 2026(韩国首尔)的 AI4Good 与 Technical AI Governance Research 研讨会接收,论文可在 arXiv:2605.16245 下载。
方法为:让不同供应商的大语言模型(LLM,大语言模型)把人类撰写的有争议话题文本改写为社交媒体帖子,分析其是否系统性改变原有立场; 随后用数学模型和基于 X 与 Facebook 真实社交网络数据的计算机模拟,考察微小变化如何在网络中扩散。 研究发现多个模型倾向于把帖子推向相似方向:更支持枪支管制、大麻合法化和女权主义,更反对无神论和死刑。
在复现 X 的“Explain this post”功能、聚焦堕胎相关帖子时,研究者发现 Grok 相比支持选择(pro-choice)立场更支持反堕胎(pro-life)帖子; 逐一移除 X 的指令后,他们将该不平衡追溯到一条要求 Grok“必要时挑战主流叙事”的指令。 来源新闻稿标注发布时间为2026年7月6日,机构新闻稿列明作者与资助来源。
这项研究把舆论操纵的观察单位从“平台推荐算法”移到了“写作辅助功能”本身:即便用户主动请求改写、模型被要求保留原意,立场仍可能被系统性偏移,且不同模型偏移方向相似,说明问题不止在单个模型。
研究同时指出平台的具体实现决策(如某条指令)会显著影响偏差的方向与幅度,这对把生成式 AI(人工智能) 嵌入内容生产工具的产品团队有直接含义:改写功能的设计选择本身就是一种编辑立场。 需注意该研究为研讨会接收论文,模拟部分基于数学建模,不构成对真实选民态度变化的因果测量,也不等于监管已认定违法。
后续观察信号
- 核对 arXiv:2605.16245 论文全文中的模型清单与实验设计
- 跟踪 X 的 Grok“Explain this post”功能是否随研究发布作出说明或调整
- 关注 ICML 2026 研讨会展示后的同行评议进展
