计算所主站中国科学院
  • 首 页
  • 实验室概况
    • 实验室简介
    • 实验室定位
    • 研究布局
    • 实验室领导
    • 学术委员会
    • 研究团队
  • 通知公告
    • 项目征集
    • 人员招聘
  • 新闻动态
    • 科研动态
    • 学术活动
    • 实验室新闻
  • 科学研究
    • 研究进展
  • 研究队伍
    • 院士专家
    • 研究员/正高级工程师
    • 副研究员/副高级工程师
  • 论文发表
    • 2025
    • 2024
    • 2023
    • 2022
    • 2021
  • 研究生培养
    • 招生信息
    • 导师
    • 荣誉及奖励
  • 首 页
  • 实验室概况
    • 实验室简介
    • 实验室定位
    • 研究布局
    • 实验室领导
    • 学术委员会
    • 研究团队
  • 新闻动态
    • 科研动态
    • 学术活动
    • 实验室新闻
  • 科学研究
    • 研究进展
  • 研究队伍
    • 院士专家
    • 研究员/正高级工程师
    • 副研究员/副高级工程师
  • 论文发表
    • 2025
    • 2024
    • 2023
    • 2022
    • 2021
  • 研究生培养
    • 招生信息
    • 导师
      • 博导
      • 硕导
    • 荣誉及奖励
  • 研究成果专题
  • 快速链接
  • 所主站中国科学院English
  • 当前位置:首页新闻动态科研动态
  • 科研动态

    知境:让AI理解心智,融入社会

    发布时间:2026-07-28【字体: 大  中  小 】

    知境:让AI理解心智,融入社会


    导读

    当大模型从问答工具走进真实社会场景,参与教育、医疗、照护、协同决策乃至实现“人机共生共治”,它面对的不再只是“答案是否正确”。在真实的社会交互中,它还需要判断是否合情合理、是否合乎规范、是否值得信任。针对这些挑战,中国科学院计算技术研究所智能算法安全全国重点实验室知境团队近日发布了 “知境”社会智能技术体系,构建了一条贯通社会心智能力评测、模型高效内化训练和智能体应用的技术链路。知境希望解决的核心问题是让AI在真实世界复杂、动态且信息不完整的开放环境中,稳定地理解人的信念、意图、情绪、关系与社会规范,并据此做出更加合宜的判断、决策和行动。


    知境体系当前包括评测基准 SoMBench、不同参数规模的社会心智模型Zing,以及智能体框架Actio三部分。其中,SoMBench负责“度量”个体“情商”与社会心智能力,Zing将社会心智能力“内化”到模型里面,Actio则通过组织技能、知识与记忆,将心智能力转化为真实场景中的交互“行动”。


    为什么要研发社会智能技术?




    现有大模型擅长知识压缩、内容生成和过程推理,但一旦进入开放社会环境,就显得笨拙机械、幻觉频发、乃至产生低级决策错误。社会交往中的难题往往并不在于知识本身,而在于理解人与人之间的关系和语境。一句“你好啊”,可能是礼貌问候,也可能是讽刺嘲笑;相同一句“没关系”,可能是真正释然,也可能是终止合作的信号;同样的事实陈述,在不同文化中可能有截然相反的解读。

    这类开放交互的社会环境具有四个典型特征:

    1)信息是局部可观测的,模型无法获得所有参与者的状态;

    2)意图与规范往往是隐含的,需要结合语境进行推断;

    3)多主体关系持续演化,不同角色的信息、目标和关系会不断变化;

    4)合理决策通常不存在唯一答案,需要在多种可行方案之间进行权衡。

    面对这些挑战,模型不仅要理解语境、角色和关系,还要推断不同参与者的信念、情绪与心理状态,进一步综合社会规范和行为后果,生成符合场景的协商、劝阻或修复策略,并在长期交互中保持人物画像、关系状态与表达风格的一致性。

    随着大模型技术的快速发展,近年来对大模型心智和社会交互能力的研究开始兴起。评测方面,围绕发展心理学中的心智理论,出现了ToMBench、SocialEval、NICE 等评测基准。社会交互方面,SOTOPIA、Generative Agents、AgentSociety、OASIS、OneSim 等探索了多智能体交互与社会仿真,CICERO、Melting Pot 等则展示了协作、博弈与策略习得的价值。不过,现有工作仍然处于碎片化探索阶段,评测、训练与应用割裂,理论技术与标准体系不完整。

    知境在国际上首次尝试构建社会智能技术体系,以“开放世界复杂交互”为目标,贯通社会心智评测、模型训练和智能体应用。





    全面度量:一份覆盖71类任务的社会心智能力“体检报告”

    为刻画当前大模型的能力边界,知道模型究竟“不会什么”,团队首先构建了评测基准“知境·SoMBench”。 SoMBench以构建认知域的世界模型为目标,覆盖心智表征、心智交互和社会约束三大能力层级,17个细分维度、71项任务,共包含3481个专家验证实例。评测范围从基础的信念和视角推断,延伸至情绪理解、意图识别、社会规范、关系建模以及复杂社会决策。

     知境·SoMBench评测维度指标分类体系图

    与大多数Benchmark只关注度量不同,SoMBench在度量的同时更关注“诊断”:SoMBench在共享情境上设置单选、多选、判断和开放题等不同题型,同时控制上下文长度、叙事视角和证据边界,并通过受控改写、选项扰动和捷径检测,尽可能解耦真实社会心智能力与表面模式匹配,精确定位错误模式和错误原因,为数据构建和训练重点进行“导航定位”。它更像是一份能力体检报告,而不仅仅是一张成绩单。





    高效内化:Zing的“绝招儿”让训练目标随能力状态演化

    在发布的技术报告中,共公布了四个不同参数尺寸的“知境·Zing”模型。在5项社会心智能力评测任务中,多模态模型Zing-27B的平均得分为79.80,超越78.44的GPT-5.5;分项来看,Zing-27B在HiToM、EmoBench和FANToM三项上领先,在ToMBench和SoMBench两项上略低于GPT-5.5。文本模型Zing-32B的平均得分为76.32,与DeepSeek-V4-Pro的75.90处于相近水平。报告同时显示,轻量级模型Zing-8B/14B在高阶信念推理基准HiToM上的性能超过参数量为其50倍的对照模型。SoMBench作为知境自研的最难社会心智基准,当前模型仍有较大提升空间——这也正是下一步训练迭代的重点方向。

    知境·Zing在5项社会心智能力评测中的性能对比表

    (一)FLARE:让评测重新进入训练

    为了让训练真正围绕能力短板展开,Zing首先建立了FLARE数据飞轮。模型在评测中的错误不会直接结束,而是重新转化为能力缺口,再驱动数据合成、样本筛选和下一轮训练,形成“评测—诊断—合成—过滤—训练—再评测”的持续循环。

    为保证训练数据质量,所有候选样本还会经过难度评估、可回答性验证、捷径检测等多轮筛选,只保留真正能够提升模型能力的中高难样本。

    (二)两阶段训练:先形成通用社会心智,再强化专项能力

    在数据飞轮的基础上,Zing采用两阶段训练策略。

    第一阶段聚焦通用社会心智能力。模型首先利用多教师蒸馏构建高质量冷启动数据,并通过答案门控、推理深度过滤等策略保留有效推理轨迹;随后,采用 Mixed-Reward GRPO 强化学习框架,根据任务类型、训练阶段和推理过程质量动态组合过程奖励、可验证奖励和拒绝采样等不同监督信号,使奖励目标能够随模型能力变化持续调整。

    第二阶段则进一步针对情绪理解、意图推断、社会规范、视角择等专项能力进行强化。模型先通过两轮监督微调注入领域知识,再利用困难样本持续校准薄弱能力,在增强专项能力的同时尽可能保持已有的通用社会推理能力。

    (三)OPD:在线轨迹上引入教师约束,稳定推理过程

    如果说 FLARE 决定了模型“学什么”,两阶段训练决定了模型“什么时候学”,那么 OPD(On-Policy Distillation)解决的则是另一个问题:模型在学习新能力时,如何不把已经学会的忘掉。

    OPD在强化学习过程中引入教师模型的token级分布约束,使学生模型在探索更优推理路径的同时,不偏离已验证的有效推理模式。它与GRPO形成互补:GRPO通过奖励差异驱动模型探索更优解,OPD则通过教师分布约束防止模型跑偏。两者作用于同一批采样轨迹,既鼓励探索,也守住边界。

    从FLARE数据飞轮,到两阶段训练,再到OPD在线蒸馏,Zing 构建了一套能够随着模型能力状态持续调整训练目标的自适应训练体系。换句话说,它优化的不只是如何训练,更是在训练过程中持续决定模型下一步应该学什么、什么时候学,以及向谁学习。





    按需行动:Actio按问题决定要调用哪种支持

    如果说 SoMBench 回答了“模型缺什么”,Zing回答了“模型如何学习”,那么Actio回答的则是另一个现实问题:模型在真实任务中,如何把已经学会的社会心智能力真正发挥出来。

    开放社会环境中的任务往往并不缺少信息,而是缺少恰当的信息。如果把所有知识、技能和记忆一次性塞进上下文,不仅推理成本高,也容易引入无关信息,降低模型判断质量。为此,“知境·Actio”以Harness为统一编排核心,动态调度四类支撑模块:PRISM提供分层次的心理与社交推理技能指引,Starling维护多智能体视角下的信念与意图状态,SAGE按需调用跨任务可复用的推理经验,RAG补充社会规范与文化背景知识。系统根据任务的心智变量和推理需求,选择性激活相应模块。

    一次典型推理通常经历四个阶段:首先理解用户任务,并识别涉及的技能类型、社会场景和推理需求;随后并行检索相关技能、知识和记忆;再根据相关性进行排序、裁剪和组合,引导模型完成推理,并通过解析器和校验器保证输出质量;最后,在允许的离线阶段,将验证有效的新经验写入长期记忆,保留完整调用轨迹,为后续任务持续积累经验。

    知境·Actio整体架构概述图:其Harness系统调用四个模块,包括Prism、Starling Memory、SAGE以及门控RAG





    从大语言模型走向社会智能:人工智能的阶段性跃迁

    知境真正试图回答的,并不只是如何在某个社会认知榜单上再提高几个百分点,而是一个更基础的问题:社会智能能否像语言理解、代码生成和工具调用一样,被定义为一种可以持续测量、训练和改进的工程能力。

    从这一视角看,知境·SoMBench建立能力坐标系,把笼统的“懂不懂人”分解为可定位的认知缺口;知境·Zing依据诊断结果组织数据和训练,使社会推理从提示词诱导的临时行为逐步转化为模型参数中的稳定能力;知境·Actio则进一步推进,在模型参数之外,如何通过技能、心智状态、经验和社会知识,为部署阶段的推理提供可选择、可检查的支持。

    三者共同指向了一条更加长期的技术路线:社会智能不再只是模型表现出来的一种模糊“情商”,而开始成为具有能力定义、诊断工具、训练方法和运行接口的工程对象。

    当然,构建技术路线只是实现社会智能的第一步。当AI从回答问题走向参与真实社会生产生活,它需要的不只是更强的知识或生成能力,而是在开放环境中理解和执行社会交互。社会智能能否由一种难以捉摸的模型表现,转变为可测量、可训练、可部署并最终可信任的基础能力,可能将决定人工智能是否能进入开放世界,走向人机共生的新时代。






    “知境”访问与开放信息


    项目Github

    https://github.com/Zhijing-AI/Zing 

    (评测基准、模型权重等后续将陆续开源)



    项目技术报告

    https://arxiv.org/abs/2607.23740

    编后记



    “知境”社会心智大模型技术体系的构建,是实验室坚决贯彻落实组织青年科研骨干开展建制化攻关的一次重要实践。自2025年年中起,实验室主任程学旗研究员着手谋划社会心智大模型研究,持续组织科研骨干开展深入研讨。经过数月的反复论证,逐步明确了社会心智大模型技术体系方向的战略定位和建设目标,程学旗主任亲自参与总体技术方案的设计。2026年春节前夕,实验室明确了整体工作路径,组建以青年科研骨干和优秀研究生为主体的工作专班开始协同攻关。

    在程学旗研究员的统筹谋划和指导推动下,郭瑞杰、敖翔、张语轩、庞亮、朱胜宇、姚迪、高金华、范意兴、张杰等实验室科研骨干带领60余名研究生勠力同心、紧密协作,各司其职、协同推进。经过近半年的集体攻关,团队顺利支撑“知境”社会心智大模型技术体系建设取得阶段性突破。






    END



    了解实验室更多科研动态

    敬请关注


    附件下载:

    下一篇:【喜报】智能算法安全全国重点实验室团队获ICCV 2025高效视觉持续学习挑战赛冠军
    版权所有 © 中国科学院计算技术研究所京ICP备05002829号-1京公网安备1101080060号
    地址: 北京市海淀区中关村科学院南路6号
    电话:86-10-62601166邮箱:ictoffice@ict.ac.cn