MIT(美国麻省理工学院)传播专家Deb Roy撰文呼吁:AI(人工智能)生成文字须有人“站台”负责
MIT(美国麻省理工学院)媒体艺术与科学教授Deb Roy在《原子科学家公报》发表文章,提出在AI(人工智能)大量参与公共评论与对话时,需要重建“署名与可问责”机制:AI可以做起草、总结和发现规律的工作,但每个公开表述最终要有一个能为其作答的人。
这一主张为理解AI教育产品中“谁为生成内容负责”提供了设计框架,但文章讨论的是公民对话场景,不是学习效果的验证。
MIT(美国麻省理工学院)新闻刊发对Deb Roy的问答。 Roy是MIT媒体艺术与科学教授、MIT建设性传播中心(CCC)主任,其文章《谁站在文字背后? 》发表于《原子科学家公报》。 他在文中举出:2017年美国联邦通信委员会(FCC)就废除网络中立规则收到逾2200万条公众评论,纽约州总检察长后来认定其中近1800万条为虚假;
当时依靠模板化文本和重复措辞识别,而大语言模型(LLM)能消除这类痕迹。 CCC与Roy联合创办的非营利机构Cortico在公民会议、学校、审议式会议和私营机构中协助小组讨论,并用包括AI(人工智能)在内的工具归纳意见,但在每个关键步骤保留参与者核查和否决技术输出的环节。
CCC博士生Cassandra Overney开发的原型VoiceTrace把每一条输出陈述——如倾听过程摘要或审议建议——链接到其背后的具体发言。 Roy团队还与纽约市一所高中合作,让学生、教师和管理者共同就手机政策提出建议。
这条内容的价值不在教学法,而在问责结构:当AI(人工智能)被用于课堂讨论记录、学生反馈汇总或作业评语生成时,同样存在“输出找不到责任人”的问题。 Roy的四项原则可作为评估教育类AI工具是否保留人工复核点的观察清单。 但需注意,文章讨论的是公共评论与审议场景,未提供任何学习成效数据,不能推断采用这些原则会提升学习结果。
后续观察信号
- 《原子科学家公报》原文四项原则的具体表述与适用范围
- VoiceTrace在高中审议场景中的实际使用方式与局限
