计算所主站中国科学院
  • 首 页
  • 实验室概况
    • 实验室简介
    • 实验室定位
    • 研究布局
    • 实验室领导
    • 学术委员会
    • 研究团队
  • 通知公告
    • 项目征集
    • 人员招聘
  • 新闻动态
    • 科研动态
    • 学术活动
    • 实验室新闻
  • 科学研究
    • 研究进展
  • 研究队伍
    • 院士专家
    • 研究员/正高级工程师
    • 副研究员/副高级工程师
  • 论文发表
    • 2025
    • 2024
    • 2023
    • 2022
    • 2021
  • 研究生培养
    • 招生信息
    • 导师
    • 荣誉及奖励
  • 首 页
  • 实验室概况
    • 实验室简介
    • 实验室定位
    • 研究布局
    • 实验室领导
    • 学术委员会
    • 研究团队
  • 新闻动态
    • 科研动态
    • 学术活动
    • 实验室新闻
  • 科学研究
    • 研究进展
  • 研究队伍
    • 院士专家
    • 研究员/正高级工程师
    • 副研究员/副高级工程师
  • 论文发表
    • 2025
    • 2024
    • 2023
    • 2022
    • 2021
  • 研究生培养
    • 招生信息
    • 导师
      • 博导
      • 硕导
    • 荣誉及奖励
  • 研究成果专题
  • 快速链接
  • 所主站中国科学院English
  • 当前位置:首页新闻动态实验室新闻
  • 实验室新闻

    智能算法安全学科发展高端论坛在京举行

    发布时间:2026-08-26【字体: 大  中  小 】

    2026年8月22日,作为中国科学院计算技术研究所(以下简称“计算所”)主办的“计算所创新发展会议”的重要组成部分,智能算法安全学科发展高端论坛在北京举行。论坛由智能算法安全全国重点实验室(以下简称“实验室”)承办,设置“人工智能安全机理”、“智能算法安全评估”和“AI社会心智能力”三个递进议题,旨在从基础理论、工程治理和未来智能形态三个维度,系统讨论智能算法安全学科的研究边界与发展方向。中国工程院院士李国杰、费爱国,中国科学院院士马志明、胡事民等60余位专家学者参加论坛。

    活动现场


    论坛引导发言环节,实验室学术委员会主任费爱国院士在致辞中表示,本次论坛既是对实验室建设成果的阶段性总结,更是凝练布局智能算法安全学科方向的一次重要研讨。当前,智能算法模型全面融入经济社会场景,规模化应用加速落地,安全、可信、可控问题愈发突出。他指出,智能算法安全是一项交叉综合性研究领域,兼具基础科学属性与工程治理价值,涵盖基础理论、关键技术、政策规制与社会发展多个层面,直接决定人工智能技术落地应用的安全性与可靠性,是产业健康发展的重要保障。同时,费爱国院士肯定了本次论坛的思辨研讨模式,认为议题聚焦前沿、跨界交流充分,能够有效激荡学术思想、凝练核心科学问题。

    实验室主任程学旗研究员介绍了智能算法安全全国重点实验室建设背景与论坛设计思路。他指出,实验室立足“人工智能 + 安全”交叉前沿开展算法安全治理研究,该领域既是前沿技术方向,也是服务国家发展与产业升级的战略性领域,统筹发展和安全、平衡创新与治理是学科的核心命题。论坛设置的三大议题层层递进,分别围绕安全机理、安全评估、AI社会心智能力,探究风险本质与可控性、算法精准治理、多空间智能融合带来的新型安全发展问题。本次论坛是实验室常态化体系化研讨的新起点,后续将凝练算法安全治理关键问题,产出面向国家治理、行业监管及学术共同体的政策建议与研究方向,通过系列专题研讨推动学科体系建设。

    专题报告环节,北京大学杨耀东研究员、计算所曹婍副研究员聚焦人工智能安全机理,剖析算法风险本质与可判定性难题;浦江实验室胡侠教授、计算所尹芷仪高级工程师围绕智能算法安全评估与工程治理,分享智能体安全防控体系与算法治理实践成果;清华大学李勇教授、计算所郭瑞杰正高级工程师立足AI社会心智前沿,介绍社会模拟体系与社会心智大模型建设的创新探索,全方位展现了智能算法安全领域最新的理论研究与技术实践进展。

    与会专家在每个议题报告环节结束后开展充分研讨,形成了系列共识:智能算法安全不能简单等同于模型输出合规,亦无法依靠一次性测试实现管控;治理对象需从单一模型延伸至完整智能系统,针对智能体介入真实社会与物理环境带来的复杂风险,应当构建全生命周期安全评估体系,推动内生安全技术与外部制度治理协同发力,兼顾技术标准、政策法规与社会治理,实施分级分类监管,在严守安全底线的同时避免“一刀切”制约创新。

    实验室名誉主任李国杰院士强调,面对开放场景下难以预判的风险,需依靠持续监测与闭环管理予以应对,安全验证能力将成为人工智能领域重要基础设施,AI社会心智相关研究必须以坚持人类最终控制权为前提,持续开展跨学科研讨对学科建设至关重要。





    本次论坛不仅为智能算法安全学科发展凝聚了重要共识,也为未来人工智能安全治理提供了清晰的行动方向。






    附件下载:

    上一篇:智能算法安全全国重点实验室郭嘉丰研究员入选ACM SIGIR Academy
    下一篇:智能算法安全全国重点实验室2026年暑期学校暨首届算法安全挑战赛决赛成功举办
    版权所有 © 中国科学院计算技术研究所京ICP备05002829号-1京公网安备1101080060号
    地址: 北京市海淀区中关村科学院南路6号
    电话:86-10-62601166邮箱:ictoffice@ict.ac.cn