英国AI(人工智能)安全研究所称现有评估方法难跟前沿模型,已独立评估逾55个模型
新华社10月盘点报道援引英国人工智能安全研究所10月12日文章称,前沿AI(人工智能)能力提升使安全风险前移至开发阶段,现有安全评估方法难以跟上技术发展;
该所提出开发全过程风险评估与记录、AI系统全生命周期监督等八项技术安全实践重点,并称已在超过55个AI模型公开发布前完成独立评估。 读者可据此了解模型评测正从发布后检查转向开发阶段留痕与监督。
公司口径原始来源可核对
事实与证据边界
新华社10月盘点报道援引英国人工智能安全研究所(英国政府设立的安全研究机构)10月12日文章:随着前沿AI能力快速提升,安全风险正前移至模型开发阶段,现有安全评估方法难以跟上技术发展; 该所提出开发全过程风险评估与记录、AI系统全生命周期监督等八项技术安全实践重点,并在超过55个AI模型公开发布前对它们进行了独立评估。
分析判断
价值在于评估节点的移动:把监督从事后测试延伸到开发记录与全生命周期跟踪。 但“超过55个模型”只是该所自述的评估数量,未披露评估方法、通过标准和结果分布,不能据此判断被评估模型的安全水平或合规情况。
后续观察信号
- 检索英国人工智能安全研究所10月12日原文确认八项实践表述
- 跟踪其评估报告是否公开分类结果
