结合句子级别检索的信息检索模型

左家莉，王明文，吴水秀，万剑怡

(江西师范大学 计算机信息工程学院，江西 南昌 330022)

结合句子级别检索的信息检索模型

左家莉，王明文，吴水秀，万剑怡

(江西师范大学 计算机信息工程学院，江西 南昌 330022)

查询词之间的距离较为接近的文档，相关的可能性更大，将这种距离信息用于信息检索模型的构造可有效提高检索的性能。然而直接估计查询词在文档中的距离需要大量的训练文本，且计算复杂度高。该文提出了一种结合句子级别检索的信息检索模型，将文档分为若干个窗口，通过计算句子和查询的相关度考察查询词在给定窗口中的共现性，该方法可增大那些查询词彼此靠近的文档的相关度，从而使得检索模型可返回更为相关的文档。标准数据集上的实验结果表明所提出的模型可以取得较好的性能。

信息检索模型；句子级别检索，句子相关度

1 引言

随着因特网的快速发展和全球化进程的加快，互联网信息资源呈爆炸式的增长。信息检索也因此成为应对海量信息挑战的关键技术，为人们有效利用网络信息起着至关重要的作用，在最近几十年里得到了众多关注和长足的发展。信息检索模型作为信息检索领域的核心问题，直接决定信息检索的性能，也是研究者们关注的焦点。近年来，很多经典的信息检索模型，诸如布尔模型[1]、向量空间模型[2-5]、经典概率模型[6-10]、统计语言模型[11-13]等，已有成熟的研究和应用。尽管如此，若想要提高用户满意度，仍需改进检索模型，以获得更好的检索结果。

本质而言，信息检索的目标在于尽可能将相关文档返回给用户，并使得相关度大的文档排序靠前。现有的模型大多基于索引项词频tf与逆文档频率idf[13-14]，并结合文档长度等信息[14]，通过计算文档和查询之间的匹配程度，获得计算文档和查询之间的相关度，并按照相关度大小对文档进行排序。在实际的应用中，常常会出现类似这样的状况：一些文档由于包含相同数量的查询词，且文档长度接近，检索模型计算文档的相关度大小相同，然而这些文档真实的相似度往往差别很大。原因在于，为描述信息需求，用户会使用多个查询词构造查询，由于大多数词往往含有多个语义，某个查询词在文档中的语义和其在查询中的语义可能并不一致，而传统的检索模型会因为文档包含了查询词而将其判为相关，这使得一些不相关文档被判为相关返回给用户，降低了检索的精度。若要直接分析词的语义，将语义信息加入至检索模型，会增加检索模型的复杂度，且语义信息并不易于处理，反而有可能影响检索的性能。

正如一些研究者所言：相关文档是那些包含所有查询项，且查询项彼此紧密相连的文档[14]。也即，查询词出现更为紧密的文档，换而言之，查询词之间距离更为接近的文档，其与查询相关的可能性更大。实际上，基于语言学的角度，我们知道词语会因为彼此之间的特殊相连而影响其各自的语义，若两个或多个查询词在某篇文档中出现较为紧密，则这些查询词在文档中的语义也应较为相关，并且，与其在查询中的语义一致的可能性会加大，那么文档与查询相关的可能性也就更大。因而，查询词在文档中的位置信息有助于检索模型获得更为准确的相关性判断。

已有一些研究将查询词之间的位置关系应用到统计语言模型中，其主要的处理方法是在建模时估计查询词之间的位置关系。上述检索模型由于考虑了查询词在文档中的位置关系，检索的性能得到了提升[15-16]。然而，其需要估计的参数太多，往往需要大量的训练文档集，且计算复杂度高。

本文提出了一种结合句子级别检索的信息检索模型，该模型不直接估计查询词之间的位置关系。而是采用另一种方式，将文档分为若干个窗口，考察查询词在给定窗口中的共现性，来加权文档与查询的相关度。本文将窗口的大小设定为句子，计算每个句子和查询的相关度，并将其加入至检索模型中，文档中查询词彼此靠近，则其句子和查询非常相关，模型可使得该文档的相关度更大。这种方式计算简单且易于实现。

论文按以下几个部分展开，第二部分介绍论文的主要思想；第三部分是句子的相关度计算方法；第四部分介绍本文提出的结合句子级别检索的信息检索模型；第五部分是实验和结果分析；第六部分进行总结和展望。

2 相关研究

信息检索模型的目的是根据用户的查询从文档集合中检索出相关文档返回给用户。检索模型需计算查询和文档的相关度，尽可能返回相关文档。为提高检索性能，文献[15]中提出了位置语言模型，将查询词之间位置信息加入至语言模型中。其具体思路是估计文档D中的位置i出现词w的概率p(w|D,i)。最为简单的p(w|D,i)估计方法是使用频率方法：将词w在位置i出现的次数记为c(w,i)除以位置i上所有词w出现的总次数。

最为关键是获得c(w,i)，若c(w,i)仅取0和1用于表示词w在位置i出现与否，则过于简单和粗糙，为获得更好的检索结果，文献[15]修正了对c(w,i)的计算，具体的计算基于：(1)若词w文档D中位置j也出现，则词w在位置i的出现次数要小于1； (2)文档D中与位置i最为越近的位置j，其对位置i的“贡献次数”应该越大，权重函数k(i,j)被用来度量位置j对于位置i的贡献，若位置j与位置i越接近，k(i,j)取值就越大。由于k(i,j)的计算是基于词与词的位置关系计算，未考虑词与词之间的语义关系。基于此，文献[16]提出了一种结合语义的位置语言模型，利用互信息来度量词与词的语义关系。上述模型由于考虑了词之间的位置关系，取得了较好的结果，但是均需要大量的训练文档，计算复杂度较高。

3 句子相关度模型

3.1 本文思想

给定某个查询，相关文档中查询词应靠近彼此，也即这些查询词在相关文档中应集中出现，若将文档分为若干个窗口，则查询词应在这些特定窗口中同时出现。基于上述思想，考察查询词之间的位置关系，可转化为考察查询词在给定窗口中的共现性。若某篇文档中存在多个查询词在给定窗口中同时出现，则查询词在该文档中的位置彼此靠近，其为相关文档的可能性就会增大。

由于句子可表达完整的意思，同一个句子中出现的词存在着较强的语义关系。前期工作中，我们发现查询词在句子中的共现性可有助于提高检索的性能[17,18]，因而本文选取句子作为窗口，构造结合句子级别检索的检索模型。首先构建句子相关度模型计算句子与查询之间的相关度，以度量查询词在文档中的共现度。进一步结合传统的文档相关度模型，构建基于句子的文档相关度模型。

3.2 句子相关度模型

首先需要构造句子相关度模型Score(Q,S)，以度量查询词在句子中的共现度。句子中包含查询词，则句子与查询相关，句子中包含的查询词的数量越多，该文档与查询的相关性就越大。我们通过式(1)来计算句子与查询的相关度：

(1)

其中：

(2)

3.3 基于句子的文档相关度模型

获得句子相关度Score(Q,S)之后，就可构造基于句子的文档相关度模型Scoresen(Q,D)，本文构造了以下三种模型。

3.3.1 模型1

(3)

模型1将文档中每个句子的Score(Q,S)进行累加获得Scoresen(Q,D)，可加强那些包含多个查询词的文档的相关度。

3.3.2 模型2

Scoresen(Q,D)=

(4)

Scoresen(Q,D)=

(5)

模型1可能会使得某些长文档获得较高的相关度，为消除文档长度的影响，本文构造了模型2，分别将文档的句子个数和相关句子的个数作为长度因子加入至模型中。

3.3.3 模型3

(6)

模型3取一篇文档中的最大Score(Q,S)作为Scoresen(Q,D)，即我们希望在相关文档中，查询词尽可能集中出现在某些句子中。

上述模型中，模型2将文档的句子个数作为长度因子，可以避免一些长文档获得较高的相关度；而将相关句子的个数作为长度因子，会使得查询词集中出现的文档的相关度更大。而模型3只在文档中存在某个句子包含了多个查询词的情况下，才会使得该文档具有较大的Scoresen(Q,D)值。

4 结合句子级别检索的信息检索模型

考虑到传统的文档级别的检索模型已取得了较好的性能，且仅使用Scoresen(Q,D)度量文档的相关度不一定能确保相关文档被检出，因而本文构造的基于句子级别检索的信息检索模型，是在传统的检索模型的基础上，加入了句子相关度Scoresen(Q,D)。

本文的文档相关度模型Score(Q,D)将包含两部分：经典的文档级别的相关度Scoredoc(Q,D)和句子级别的文档相关度Scoresen(Q,D)。

(7)

式(7)中λ1+λ2=1。公式表明，若在某篇文档中，查询词在句子中的共现度较大，则模型会给予这些文档更大的相关度。实验部分我们将考察Scoresen(Q,D)和Scoredoc(Q,D)对检索结果的影响。

5 实验

5.1 数据集及评价指标

本文在标准数据集Med、Cran和Cisi上进行实验。其中，Med为医学数据集，包含1 033篇文档、8 567个词和30个查询，Cran为航空数据集，包含1 398篇文档、4 873个词和223个查询，Cisi为图书馆科学数据集，包含1 460篇文档，5 254个索引项和76个查询。我们对数据集进行了预处理，提取每篇文档中的