研究方向
在京东 AI 研究院实习期间,主要研究常识知识图谱补全与面向知识表示的归纳式学习方法,并与 斯坦福大学 展开合作。
指导教师:Dr. Jing Huang 与 Dr. Guangtao Wang。
项目概述
该研究针对常识知识图谱 (CKG) 中的关键挑战:如何对训练阶段未见过的实体进行知识图谱补全(即归纳式学习)。传统方法在新增实体时需要重新训练模型,难以应对大规模常识知识图谱的实际需求。
为此,我们提出了 InductivE —— 面向归纳式知识图谱补全的新型学习框架。该框架包含三个核心模块:用于处理实体描述的自由文本编码器、用于捕获结构信息的图编码器,以及用于预测缺失关系的知识图谱补全解码器。
技术工作
- 设计并实现了面向常识知识图谱归纳式补全的 InductivE 框架
- 基于预训练语言模型构建自由文本编码器,用于实体描述的编码
- 构建图神经网络编码器以捕获知识图谱的结构信息
- 实现用于关系预测的知识图谱补全解码器
- 在 ATOMIC 与 ConceptNet 基准上开展系统性实验
成果
- 在归纳式场景下较已有方法实现超过 48% 的性能提升
- 在 ATOMIC 与 ConceptNet 基准上取得当时的最佳结果
- 相关研究论文发表于 IJCNN 2021(国际神经网络联合会议)
- 所提框架可在不重新训练模型的情况下处理未见实体
发表论文
- Inductive Learning on Commonsense Knowledge Graph Completion — Bin Wang, Guangtao Wang, Jing Huang, Jiaxuan You, Jure Leskovec, C.-C. Jay Kuo. IJCNN (International Joint Conference on Neural Networks), 2021.