摘 要:篇章关系(Discourse Relation)是篇章语义分析的重要内容,本文在英文篇章关系研究的基础上分析了中英文间的差异,总结了中文篇章语义分析的特点,并在此基础上提出面向中文的层次化篇章关系体系,对其关系类型进行详细描述。在其基础上,研究构建包含1 096篇语料的中文篇章关系语料库,为进一步的篇章语义分析工作奠定基础。
关键词:语义分析;篇章关系;中文篇章关系体系;语料标注;
中图分类号:TP391 文献标识号:A 文章编号:2095-2163(2015)06-
Chinese discourse relation analysis and data annotation
ZHANG Muyu, QIN Bing1, LIU Ting1
( School of Computer Science and Technology, Harbin Institute of Technology, Harbin 150001, China)
Abstract: Discourse Relation is an important part of discourse semantic analysis. This paper analyses the differences between Chinese and English, then presents the first Chinese discourse relation hierarchy based on the English discourse relation researches with explanation in details. Based on the analysis, the paper further construct a large-scale Chinese Discourse Relation corpus, which consists of 1 096 documents. The corpus together with the related analysis during the data annotation lays a foundation for the future discourse semantic analysis.
本文来自文库分享网www.wkfxw.com
Keywords: semantic analysis; discourse relation; Chinese discourse relation system; data annotation
0 引言
随着词汇语义、句子语义研究的逐渐成熟,篇章语义逐渐成为学界热点,作为篇章语义分析的重要内容,篇章关系研究(Discourse Relation)也开始受到越来越多的关注。本文选择篇章关系分析作为篇章分析研究的切入点,原因在于:文档内的各部分内容并不是孤立存在的,而是通过某种关系与其上下文构成联系,从而更好地被读者接受与理解[1]。因此,篇章分析领域中的焦点问题之一就是识别两个文本块之间的篇章关系。在前期的工作中,研究人员已经证明篇章关系的有效识别可以显著改善很多自然语言处理任务的性能,对自动文摘[2]、自动问答[3]、倾向性分析[4]以及文本质量评价[5]、文本连贯性评价[6]等许多NLP任务均将起到重大的帮助补益作用。
近几年来,这一任务引起了很多研究人员的兴趣,一个重要的原因就是大规模篇章关系树库的发布,其中最具代表性的则是宾州篇章树库(Penn Discourse Treebank,PDTB)[7]和修辞结构理论树库(Rhetorical Structure Theory Treebank,RST-DT)[8]。总地来说,RST-DT采用了基于修辞结构理论的方法,将待分析文档转化为一棵完整的篇章修辞结构树。这种设置理论完善,表现力很强。但是无论是树库构建过程,还是自动分析过程,都面临明显的歧义问题,操作难度较大。为了求解以上问题,提高理论的可操作性,PDTB随即采用了一种基于词汇的方法,以篇章关联词(例如:但是)为核心标注篇章关系。这种设置使得篇章关系的标注歧义减小,一致性提高,结果比较可靠。虽然不可避免地会丢失一部分信息,但相比于篇章完全结构标注过程中存在的歧义和困难,这种基于词汇的设置不失为一个良好的选择和有效的突破。
目前已有的PDTB相关研究大部分都集中在英文上,虽然也有一些讨论中文篇章关系语料的研究陆续涌现,但迄今尚无大规模的中文篇章关系语料的成果问世,这也已然成为了限制中文相关研究发展的关键问题。目前,中文篇章关系语料的构建尝试大多聚焦于标注显式篇章关系方向,对隐式篇章关系也并未给予足够关注。唯一的例外是Zhou和Xue在2012年开展的工作,尝试进行了中文篇章关系的标注,其中包括相邻句子之间的隐式篇章关系标注。随后,Zhou和Xue在前述分析的基础上标注了164篇文档,包括显式关系和隐式关系两类。然而,这些工作在分析隐式关系时都仅局限在相邻单元之间进行,实际上隐式关系却大量分布于不相邻的文本单元之间。根据统计,不相邻单元之间的隐式关系占到了所有隐式关系的46.66%,而这部分信息在已有的研究中都发生了丢失。另一方面,由于缺乏中文篇章关系语料库,加之篇章分析问题本身的复杂性,使得中文篇章关系分析模型的相关研究仅是取得了缓慢进展。
本文首次提出面向中文的篇章关系体系,将基于篇章关系的语义分析方法应用在中文,通过分析中英文的差异指出中文体系的必要性,详细介绍面向中文的关系体系并通过语料标注证明了中文体系的一致性和完备性。余下内容组织如下:第二部分论证了中英文的差异,说明中文体系的必要性;第三部分介绍本文提出的中文篇章关系体系;第四部分研究了中文篇章关系语料标注及问题分析;第五部分给出结论。 1 中英文差异分析
PDTB已经出现并获得了发展,但研究发现中英文间存在一些明显差异,使得英文体系平移到中文时会出现一些偏差,主要论述内容如下。
1.1 中英文元素结构差异分析
本文首先讨论中文隐式关系。在PDTB中,隐式关系被限定在同一段落内的相邻复句中。Zhou和Xue向前推进一步,将隐式关系推广到相邻分句间。然而,这些研究却都忽略了不相邻文本单元之间的语义关系。实际上,这些不相邻的隐式关系一直存在,并在RST中被标注出来。本文不仅考虑了相邻文本块之间的隐式关系,同时还考虑了不相邻文本单元之间的语义关系。如图1所示,该例子中的3个隐式关系实例分布于不相邻的分句、不相邻的复句,以及句群之间。如果完全按照之前的工作进行标注,则将丢失这部分信息,而这种情况并非个例。据统计,不相邻复句之间的隐式关系占到所有隐式关系的21.56%,不相邻分句和句群占比分别为10.11%和14.99%。本文在已有工作的基础上,将隐式关系扩展到不相邻的分句、复句,以及句群之间。总地说来,这3类隐式关系占到了全部隐式关系的46.66%,占到全部关系的21.45%,非常值得研究获取。
接下来,本文将讨论中文显式关系。在PDTB中,显式关系的标注依赖于固定的篇章关联词词表,所有超出词表外的信息一律不予标注。这样做的好处即表现在易于操作,减小歧义。由于多名标注人员之间共享词表,因此很容易控制标注质量。因此在哈工大中文篇章关系语料研究的过程中,本文也参考了这种方法。但是通过研究却发现,很多超出词表之外的名词或者动词也可以作为指示词出现,如图2所示。
如图2 a)所示,动词导致明显地指示了一个因果关系(CONTINGENCY)实例。如果将该句子用英文进行表达,那么会非常自然地表达为如下句子:
E1. The political situation of the Middle East continues to be chaotic, so the growth
of the car market is slowing down in this area.
其中,关联词so 扮演了篇章关系指示词的角色。同样的句子,英文中有关联词出现,而中文中没有。很明显,动词导致的存在起到了与关联词so同样的作用。直觉上来说,动词导致的出现通常指示了因果关系的存在,那么应该允许其作为指示词标记。图2 b)中所示的情况与上例类似,名词原因起到了指示词的作用,应该允许其作为关系标记。本文允许标注人员将上面讨论的动词和名词作为篇章指示词进行标注。
1.2 中英文语义关系类型差异分析
如前文所述,PDTB将其标注的语义类型组织为一个层次化体系。尽管该体系非常完善,但在用于中文篇章关系研究时,仍然需要进行适当调整。本文主要研究了2类调整:首先,添加部分中文中比较常见,但未被PDTB体系单独标注的关系类型;其次,移除一些适合英文,但在中文中很难应用的关系类型。图3给出了PDTB原始语义类型体系,以及调整后面向中文的语义类型体系。语料分析显示,本文添加的语义类型覆盖了31.66%的关系实例。
1.2.1 添加的语义关系类型
由于中文和英文在使用习惯上存在差别,因此很多中文里常见的语义关系并没有得到PDTB的重视,而是被划分到其他关系类型中。为了更加符合中文的使用习惯,捕捉更为丰富的信息,本文向PDTB体系中补充了部分关系类型,实行了进一步的细化。
E2. 他的文章被会议接受了 还 被评为最佳论文。
E3. 小明出生在一个小城市 还 未满十八岁。
在英文PDTB中,E2和E3会被标注为同样的语义关系类型Conjunction。实际上二者存在很明显的区别:E2中“最佳论文”明显比“接受”更加困难,因此属于递进性质的表述;相反地,E3中的2部分元素则没有这种区别,因此将二者标为同一类型关系并不合理。类似E2这种存在语义递进的实例在中文中并不少见。因此,本文提出的中文体系对二者进行了区分:对于类似E2的关系类型,本文命名为“递进关系(Amplification)”;对于类似E3的关系类型,本文命名为“并列关系(Coordination)”。
定义1 递进关系 该关系类型描述如下情况:当Arg1描述了一种情况,而Arg2描述的内容不仅仅与Arg1语义相关,而且提供了更进一步或更高一级别的信息,具体如例E2所示。
如图3 a)所示,其中的粗体关系类型不适合中文,因此被删除;图b)中的下划线关系类型没有被PDTB覆盖,因此被补充进来就比较常见,在本文的哈工大中文篇章关系语料中,共有16.14%的关系被标注为此类型。
定义2 并列关系 该关系类型描述如下情况:当Arg1、Arg2描述的语义信息存在相似的重要性,不存在主从关系或者语义重要性的差异,如例E3所示。通常情况下,该关系类型应用于同一问题的不同方面,或同一事物的不同属性。在本文的哈工大中文篇章关系语料中,共有11.65%的关系被标注为此类型。
定义3 目的关系 该关系类型描述如下情况: 当Arg1或Arg2描述一个待实现的目标,另一个元素描述为实现该目标所需要的条件或行动,如例E4所示。在PDTB中,此类关系会被分入“Cause(原因关系)”中。但我们认为治疗感冒是吃药要实现的目标,而非原因,因此在中文类型体系中对其单独定义。在本文的哈工大中文篇章关系语料中,共有2.66%的关系被标注为此类型。
E4. 为了治疗感冒, 他吃了好多药。
1.2.2 删除的语义关系类型
在PDTB体系中存在一些比较适合英文,但很难在中文上应用的关系类型。例如,英文中的时态信息蕴含在动词的时态形式中;相应地,PDTB定义了部分时态敏感的语义关系类型。虽然这些关系在理论上也适合中文,但是考虑到中文上的时态信息很难获取,区分这些关系类型的意义不大,因此本文从PDTB体系中移除了这些关系。 定义4 Unreal present 该类型描述如下情况:当Arg2描述一种当前不为真,将来也不会为真的情景;而Arg1描述当Arg2描述情景为真时的对应情况,参照下例。
E5. Of course, if the film contained dialogue, Mr. Lane’s artist would be called a homeless Person. (CONTINGENCY: unreal present)
定义5 Unreal past 该关系类型描述如下情况:当Arg2描述一种过去没有发生的情景;而Arg1介绍当Arg2描述的情景发生时的对应状况,参照下例。
E6. If I had come into Friday on margin or with very little cash in the portfolios, I would not do any buying. (CONTINGENCY: unreal past)
定义6 Factual present 该关系类型描述如下情况:当Arg2描述一种已经被前文证实或被除作者以外其他人所相信的事实,参照下例。
E7. If that story is true, Orange Country has to be at least 10% of that. (CONTINGENCY: factual present)
定义7 Factual past 该关系类似于上一个关系,区别在于本关系Arg2描述的事实发生于过去,参照下例。
E8. If they had this much trouble with Chicago, they are going to have an awful time with the rest. (CONTINGENCY: factual past)
2 中文篇章关系语料构建
在这一部分,本文介绍哈工大中文篇章关系树库(HIT-CDTB)的标注过程。该语料包括1 096篇文档,981 565个词汇,共标注21 505个关系实例。完整的标注流程包括前期训练、语料标注、后处理三个阶段。在前期训练过程中,研究对标注人员进行了专门训练以提高标注能力。在语料标注阶段,本文提出一种三级标注流程和相应的质量控制措施。在后处理阶段,研究则将处理可能存在的标注错误和不一致的情况。
2.1 前期训练
本文训练2个标注人员进行哈工大中文篇章关系语料构建工作。为保证质量,本文按照如下流程对标注人员进行训练:首先要求标注人员认真学习标注手册;随后,手工选择部分覆盖实例较多的文档,交予标注人员进行标注训练,并通过计算多名标注人员结果之间的Kappa ? value来评估标注一致性;最后,在新数据集上重复“标注训练-结果讨论”的过程,直至4个顶层类别上的Kappa ? value > 0.9时停止。
2.2 语料构建
完成标注人员训练之后,本文从OntoNotes语料中选出1 096篇文章进行正式标注。两名标注人员分别工作,并通过一些方法进行质量控制。完成初始标注之后,本文在后处理之前计算Kappa ? value,以此评估语料标注质量。本文提出一种三级标注流程来实施标注。在该流程下,所有的篇章关系根据构成关系的物理单位被分成3类:句群关系、复句关系、复句关系。不同的类别分别处理,以求降低单一任务的标注难度。虽然本文将篇章关系分为3类分别处理,但每一类内部的显式关系、隐式关系是统一处理的,这与PDTB的设置不同。
1)句群级 句群是指多个主题相关的句子的集合。只要篇章关系的2个元素中有一个涉及到句群,就会在这一步中进行标注。
2)复句级 复句是指以句号、感叹号、问号结尾的文本单元。在这一级别中,则需要标注由2个复句作为元素的篇章关系。
3)分句级 分句是指以逗号结尾的文本单元。研究将在这一级别处理所有其他篇章关系,包括复句-分句、分句-分句,以及分句群之间的关系。
另外一个问题是如何进行语料标注质量控制。考虑到篇章关系标注的复杂性,本文采用了以下3种措施来保证标注的一致性和可靠性。
1) 标注过程中。标注人员与专家对复杂实例的实时讨论;
2) 标注完成后。每天检查标注人员的标注结果;
3) 后处理。检查语料,处理标注错误和不一致问题在标注过程中,专家与标注人员同步工作。遇到比较复杂的实例,标注人员会将其发给专家与其余标注人员。这些实例会由大家实时讨论,直至大家取得一致意见或承认歧义性。注意,本文力求高质量的语料,但同时尊重语义本身的歧义性,因此允许多标注的存在。
2.3 后处理
完成初标注之后,关系类型和元素结构会由专家检查。本文通过计算Kappa ? value来评估多名标注人员之间的标注一致性。对于关系类型标注,本文最终在4个顶层类别上取得Kappa?value为0.78,证明了较好的标注一致性。如果单独评估显式关系,本文在4个类别上取得的Kappa ? value为0.91,一致性更佳。当两个标注人员选择的类别标签来自不同的顶层类别时,研究认定该标注为不一致。对于元素结构标注,本文在部分匹配的标准下取得Kappa ? value为0.77,这也是一个相当有竞争力的结果。虽然与PDTB所报结果略有差距,主要原因在于本文将隐式关系扩展到不相邻的文本单元之间,而这些隐式关系在PDTB中是不会标注出来的。这些关系确实比较难以标注,一致性相对较低,这也是PDTB没有标注此类关系的原因。
当两名标注人员的结果在4大类上都不能匹配时,需要由专家来检查决定。大部分情况下,相应地都会被标为统一的标签;但对于某些歧义较大的实例,本文允许多标签的情况出现。对于在4大类上标签一致,但是在二级或三级列别上标签不一致的情况,本文参考PDTB的做法,使用两个标注结果的最近公共父节点作为最终标签。例如,当某实例被两名标注人员标为Concession和Contrast 时,本文选择两类别对应的最近公共父节点COMPARISON作为最终标签。 3 结束语
本文分析了中文英文在篇章关系任务上的差异,包括元素结构、语义类型。文中首次提出了面向中文的篇章关系体系,对中文篇章关系研究进行了初步尝试。随后,又进一步开展了中文篇章关系语料的标注工作,分析了标注过程中遇到的问题并给出解决办法,对中文篇章关系分析进行了初步尝试。本文提出的语料和相关分析为以后的工作奠定了基础。
参考文献:
[1] LIN Z, KANMY, NG H T. Recognizing implicit discourse relations in the Penn Discourse Treebank[C]//Proceedings of the 2009 Conference on Empirical Methods in Natural Language Processing: Volume 1-Volume 1. Singapore: ACL , 2009:343?C351.
[2] MARCU D. The theory and practice of discourse parsing and summarization[M]. Massachusetts: MIT Press, 2000.
[3] GIRJU R. Automatic detection of causal relations for questions answering[C]// Proc. of the ACL 2003 Workshop on Multilingual Summarisation and Question Answering. Stroudsburg, PA, USA:ACM, 2003:76?C83.
[4] SOMASUNDARAN S, WIEBE J, RUPPENHOFER J. Discourse-level opinion interpretation[C]//COLING '08 Proceedings of the 22nd International Conference on Computational Linguistics - Volume 1. Stroudsburg, PA, USA:ACM,2008, 1:801-808.
[5] PLTLER E, NENKOVA A. Revisiting readability: A unified framework for predicting text quality[C]// EMNLP '08 Proceedings of the Conference on Empirical Methods in Natural Language Processing. Stroudsburg, PA, USA:ACM,2008:186?C195.
[6] LIN Ziheng, NG H T, KAN Minyen Kan. Automatically evaluating text coherence using discourse relations[C]// HLT '11 Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics: Human Language Technologies - Volume 1. Stroudsburg, PA, USA:ACM, 2011: 997?C1006.
[7] PRASAD R, DINESH N, LEE A, et al. The Penn Discourse TreeBank 2.0[C]//The 6th international conference on Language Resources and Evaluation. Marrakech, Morocco: DBLP, 2008, 24(1):2961-2968.
[8] Carlson L, Marcu D, Okurowski M E. Building a Discourse-tagged Corpus in the Framework of Rhetorical Structure Theory[M]//Jan van Kuppevelt, Ronnie W. Smith:Current and New Directions in Discourse and Dialogue.Springer Netherlands:Kluwer Academic Publishers, 2003, 22:85-112.