2020 年 5 月 - 2020 年 8 月

研究实习生

京东 AI 研究院 (美国山景城) · 导师: Dr. Jing Huang 与 Dr. Guangtao Wang · 美国山景城

研究方向

在京东 AI 研究院实习期间,主要研究常识知识图谱补全与面向知识表示的归纳式学习方法,并与 斯坦福大学 展开合作。

指导教师:Dr. Jing HuangDr. Guangtao Wang

项目概述

该研究针对常识知识图谱 (CKG) 中的关键挑战:如何对训练阶段未见过的实体进行知识图谱补全(即归纳式学习)。传统方法在新增实体时需要重新训练模型,难以应对大规模常识知识图谱的实际需求。

为此,我们提出了 InductivE —— 面向归纳式知识图谱补全的新型学习框架。该框架包含三个核心模块:用于处理实体描述的自由文本编码器、用于捕获结构信息的图编码器,以及用于预测缺失关系的知识图谱补全解码器。

技术工作

  • 设计并实现了面向常识知识图谱归纳式补全的 InductivE 框架
  • 基于预训练语言模型构建自由文本编码器,用于实体描述的编码
  • 构建图神经网络编码器以捕获知识图谱的结构信息
  • 实现用于关系预测的知识图谱补全解码器
  • 在 ATOMIC 与 ConceptNet 基准上开展系统性实验

成果

  • 在归纳式场景下较已有方法实现超过 48% 的性能提升
  • 在 ATOMIC 与 ConceptNet 基准上取得当时的最佳结果
  • 相关研究论文发表于 IJCNN 2021(国际神经网络联合会议)
  • 所提框架可在不重新训练模型的情况下处理未见实体

发表论文