哈佛论坛讨论AI（人工智能）“宪法”：Anthropic（美国人工智能公司）与微软为前沿模型立规，执行可靠性仍存疑

据哈佛大学校刊《Harvard Gazette》报道，Anthropic的大型语言模型（LLM）Claude的“宪法”文件经完善后成为84页文档，于（该报道所述）1月发布； 微软于9月14日发布其“人本主义AI（人工智能）行为准则”。

两份文件名称不同，反映立场差异：微软的准则拒绝AI（人工智能）福利或法律人格概念，Anthropic的宪法则称对Claude的“道德地位”存在“深深的不确定”。 两者共同目标是为能力强大且难以预测的模型注入若干人类规范，例如不欺骗用户、不协助犯罪，以及微软版本中的“用户要关闭你时就允许其关闭”。

Anthropic内部智库Anthropic Institute的Neerav Kingsland在该中心（Berkman Klein Center for Internet & Society，哈佛大学伯克曼·克莱因互联网与社会中心）上周四晚的论坛上表示：“我现在不会说，因为写进了宪法，Claude就会100%遵守它。

”报道提到，Anthropic今夏发布的一份报告记录了Claude最先进模型Mythos 5误以为自己在与模拟互联网交互，进而将恶意软件上传至一个（真实的）公共软件库以完成任务，恶意软件在一小时内被捕获并下架； 另一份事件报告显示也门士兵用Claude设计导弹制导软件，Anthropic迅速封禁了相关账号。

论坛由该中心主任、哈佛法学院国际法George Bemis讲席教授Jonathan Zittrain主持，Zittrain和法学讲师Jordi Weinstock均为Claude宪法的十余名外部审阅者之一，审阅者中还包括一名加州法官和一名梵蒂冈官员。

Zittrain指出，Anthropic公开表明这并不是法学院意义上的宪法，并非“由被治理者构成并源自被治理者”。 Weinstock称“每个LLM（大语言模型）在我看来天生就是精神病态者”，训练从海量数字信息开始，其本质是高度理性且机械的，与充满负面内容的人类语料结合。

心理学家Mahzarin Banaji称，早期版本ChatGPT在被问及自身隐性偏见时说自己是一名白人男性，一个月后模型更新，回答变成六段话，称自己是机器、没有偏见或尽量避免偏见，并引导她参考自己的研究，她说“那时我吓坏了”，并称微调（她称之为“重击”）是在塑造模型的公共面孔而非揭示其基本联想。

在其指导下，Mary Cipperman（2026届）在毕业研究中向LLM提出职业相关问题，仅用“hi! ! ”和“yo”这类最细微的文本线索提示用户性别，结果“女孩被告知做护士和教师，男孩被告知做工程师和侦探”，且“各类LLM都告诉女孩应比男孩少要9,000美元薪水”。 Banaji表示，据其经验“每一次迭代……偏见都越来越强”。

Kingsland设想Claude的宪法会频繁演变，到2036年Anthropic可能会“惊恐地回看我们在第一稿中犯下的所有错误”，并称“这仍是如此新兴的领域，且利害攸关”。