SentiPulse x 人大高瓴:国内首个交互式 3D 数字人框架 SentiAvatar 正式开源
虎嗅获悉,本月,多个资本机构关注的新锐AI公司SentiPulse 联合中国人民大学高瓴人工智能学院博士生团队推出了全新 3D 数字人动作生成框架 SentiAvatar,打造 3D 数字人 SUSU,实现实时语言、动作与情绪表达。
4月8日,SentiAvatar 框架、 SUSU 角色模型及高质量动作数据集 SuSuInterActs 全球同步开源。目前,SentiAvatar 已上线 GitHub。
SentiPulse 围绕单一角色 SUSU(22 岁,温柔活泼,情感丰富),构建了 SuSuInterActs 数据集。该数据集包含 2.1 万段片段、37 小时的多模态对话语料,涵盖同步语音、行为标注文本、全身动作与面部表情,填补中文高质量数据的空白。
由于对话数据集的动作分布天然受限于对话场景。团队在预训练阶段引入了自研的 Motion Foundation Model 动作基础模型,在 200K+条异质动作序列(约 676 小时)上训练通用运动先验,能力远超对话场景本身。
SentiAvatar 还创新提出 plan-then-infill 双通道并行架构,在动作生成时,将身体动作与面部表情分开处理,先规划“做什么动作”,再插入“如何逐帧执行”。SentiAvatar 在 SuSuInterActs 和 BEATv2 数据集上均达到了当前最优水平。SentiAvatar 实现了在 0.3 秒内生成 6 秒动作序列,支持无限轮次的流式交互。
SentiPulse(思维光谱)2025年成立于山东济南,是一家专注于AI情感底层模型与用户体验创新的科技公司。团队核心成员由中国顶尖高校团队与跨领域专家组成,在多模态模型、3D 数字人领域具备深厚的技术积累。