智源研究院联合北京大学等多所高校发布大模型安全平台。

近日，北京智源人工智能研究院联合北京大学、北京邮电大学、北京航空航天大学、上海交通大学、中国科学院信息工程研究所、中国科学院计算技术研究所等国内知名机构，正式发布 FlagSafe 大模型安全平台。平台首批汇聚多个前沿大模型安全研究项目，围绕红队演练、蓝队防御、白盒透视三个核心方向，凝聚国内优势科研力量，共同打造覆盖风险发现、防御治理与机理解释的高标准安全平台。