基于70年报刊语料的现代汉语历时稳态词抽取与考察

饶高琦，李宇明

(1. 北京语言大学 对外汉语研究中心，北京 100083；2. 北京语言大学 语言政策与标准研究所，北京 100083)

基于70年报刊语料的现代汉语历时稳态词抽取与考察

饶高琦1，李宇明2

(1. 北京语言大学 对外汉语研究中心，北京 100083；2. 北京语言大学 语言政策与标准研究所，北京 100083)

该文基于70年跨度的历时报刊语料库，使用九种统计方法计算了词语历年的使用情况，并通过对稳定性、覆盖度和时间区分性能的考察筛选获得了规模为3 013词的历时稳态词候选词集。该词集中动词与名词各占约三分之一(其余为形容词、副词与虚词)，平均词长约1.7字，前密后疏地分布于历时语料库总频序表的前7 609位，覆盖了总语料的近九成。该部分词语中包含大量构造句子结构的核心词语。它们塑造了稳态词在词长和词类上的特性。稳态词的提取可以加深对语言生活底层与基础词汇的认识，对汉语教学、中文信息处理和语言规划都具有重要意义。

稳态词;历时语料库;语言监测

1 引言

汉语演变的历程中，词语使用受时间影响的程度不一，表现为词语在时间维度上的分布不同。词汇系统中很多词语使用稳定、受时间影响小、更新和变异缓慢，构成了现代汉语词汇系统的底层，起到基础和主干的作用。张普[1]先生的研究中将这部分词语被称作稳态词。

稳态词在自然语言处理中的直接相关研究较少。Fumiyo等[2]使用卡方检验从30年的MedLine英文文档集中筛选具有时间显著性的名词。Degaetano-Ortlieb[3]等在SciTex中挖掘了与时间相关的词类串和用词特征，并使用相关分析辅助选择。谢晓燕[4]则使用词语生命度方法计算了词在各时间点上的活跃程度，辅之以问卷调查从30年的《深圳特区报》中获得稳态词表。

本文从大时间跨度的历时语料中抽取稳态词候选集，以描述当代汉语报刊语言使用的底层，进而观察整个语言社团语言生活的基础。历时语料库可以被视作不同时期产生的文本集。抽取没有时间区分度的稳态词语等效于找出其中没有文本区分力的词。这恰好是文本分类任务的反面，因而可以借鉴其计算方法抽取在历时语料库中没有时间特征的词语。

本文使用了文本分类任务和停用词抽取任务中比较成熟的几种特征统计方法。语言监测中常用的“共用词”提取也是重要的方法。本文使用的语料为BCC历时检索系统*http://bcc.blcu.edu.cn/hc[5-6]中1946年到2015年的《人民日报》语料*由于种种原因，本文实验过程中没有获得2003年到2008年的《人民日报》语料，该部分由实验室积累的相应年份的《贵州日报》替补。，时间跨度70年，规模12亿字，词种数约220万。

本文的组织架构如下： 第二节介绍了九种词语使用情况的计量方法；第三节为本任务中各方法获得稳态词候选集的情况；第四节中通过覆盖度、重叠程度和文本分类精度评价了诸方法的性能，并获得了最优候选集；第五节分析了稳态词的基本性质；第六节为小节与展望。

2 稳态词的抽取方法

2.1 词频逆文档频

Sparck-Jones[7]和Robertson[8]在信息检索中使用包含特定词的文档频率对单纯词频统计进行平衡，从而发展出词频逆文档频，后文简称TF·IDF。本任务中，TF·IDF值较小的词更倾向于成为没有时间区分度的稳态词。

由于不同时期的语料规模不一，总语料规模和总文档数量可以用来对词频与逆文档频值进行归一化。本文使用式(1)—式(3)对历时语料库中所有词的TF·IDF值进行了计算。

其中Fw和Dw分别表示词w在整个语料库中出现的次数和整个语料库中包含词w的文档数。F和D则是整个语料库的全部词次数与文档数。注意到文档数D的大小取决于历时语料库划分的颗粒度。如一年的语料视作一篇文档(年颗粒度)，一个月的语料视作一篇文档(月颗粒度)，或使用其他颗粒度，对D和Dw值会产生巨大影响。

2.2 互信息

在文本计算中互信息(Mutual Information)越大，特征w和类别C共同出现的可能性就越大，由此可以推断w和C的关联性越强[9-10]。在这一部分中w即为语料库中的词，类别C则是包含w的语料所属的时间。本节在计算中采用Y. XU[11]在文本分类任务中推导的词与分类的互信息计算公式，如式(4)、式(5)所示。

上式中w为词，ci是分类，即特定时间点的语料。这里使用最大似然估计来计算词w在c中的概率。countci(w)是词w在语料ci中的频次。N为整个语料库的总词数，m为语料库在一定时间颗粒度下的文本数。如年颗粒度下，m=70。

2.3 联合熵

相较于互信息，联合熵(Union Entropy, UE)在计算中同时体现了包含特定词的句子在文本中出现的概率和词语在该句子中出现的概率。在少数民族语言和现代汉语的语料库中，联合熵在获取停用词，过滤噪音词方面取得了较好的效果[12-13]。联合熵的计算方法如式(6)—式(10)所示。

这组公式中一个词wi在语料库中的联合熵UE(wi)由其在句子中分布的熵值(式(8))和包含wi的句子在特定时间的语料中分布的熵值(式(7))构成。其中式(9)为wi在某一句子中出现的概率，用最大似然估计计算。countl(wi)是wi在该句子中出现的次数，n为句子数。countl(s|wi)是包含wi的句子s在文本l中出现的次数，m为文本总数。

2.4 词项随机采样

词项随机采样(Term Based Random Sampling, TBRS)方法由Lo T W[14]提出，用于在网页上自动探测停用词。该方法随机选取若干词，在包含这些词的文档中计算所有词的KL距离，并归一化。对每个词在其出现的每个文档中的KL距离值取平均，排序后选取得分较小的为停用词。本部分使用的KL计算公式如式(11)所示，TBRS的计算公式如式(12)所示。

其中c为特定时间的语料，KL(wi)为在语料c中wi分布和整个语料中wi分布的KL距离，p(wi)为wi在c中出现的概率，p(wi)为wi在整个语料库中出现的概率，m为有wi出现的语料的份数，max函数则在各份语料中取KL距离的最大值。

2.5 修正频率

修正频率(Korregierte Frequenz,KF)又称为调整频率(Adjusted Frequency)。KF统计可以避免单纯统计频次时，集中于某些文档的某些高频词被误认为是整个语料的高频词。本文使用的KF计算公式[15-16]如式(13)所示。

其中wi的KF值为它在特定时间语料c中出现概率与语料概率的根平均数。p(c)为语料c在整个语料库中出现的概率，用最大似然估计计算，Nc除为语料c的词数，整个语料库词数为N，m为按特定时间颗粒度划分整个语料的份数。

2.6 均根匀度

Huarui Zhang[17]研究了词汇使用的分布程度，提出了均根匀度(Square-mean-root Evenness, SE)用以获得特定文档的核心词表。其计算方法如式(14)所示。

其中c为特定时间的语料，m为整个语料划分的份数，其余符号含义与前文相同。

2.7 变异系数

如果一个词是稳态词，那么它的使用情况随时间变化小，在统计上应表现为离散程度较小。但语料库中不同词语标准差的测量尺度相差很大，直接比较并不合适。变异系数(Coefficient of Variation, CV)是常用于这种场景的统计量。它是变量标准差与平均数的比，如式(15)所示。

对于词wi，离散程度低(标准差小)，频率高(频率均值大)就更倾向于成为稳态词。因此选取变异系数较小的词作为候选词。

2.8 共用词

共用词是在一组文本中都出现的词。在《中国语言生活状况报告数据篇》[18]中使用共用词描述不同领域中词汇的重合程度，并间接显示领域间的词汇差异。借鉴到本任务中，年共用词是在各年语料中都出现的词语。该性质使得这部分词语可能成为较好的候选稳态词语。

对于本文中的历时语料，年度共用词即为文档频率DF=70时产生的词表。月、周、日共用词即为DF为相应数量时产生的词表。

2.9 累计频率

从整个语料库中抽取出的分词单元按频率高低进行排序，并计算其累计频率。由于词汇使用分布的不均衡性，少数超高频与高频词占据了语料库的大部分篇幅。累积频率达到一定阈值时的高频词更容易成为整个语料库中更具有通用性的词。该方法只能获取词语的全局频率，因而局限性明显，本文以其作为对照组。

3 稳态词候选词集的获取

3.1 通过拐点确定候选集

词语的TF·IDF值计算取决于文本的颗粒度，即IDF的大小。随着时间颗粒度的变化，词语的TF·IDF值和词汇的TF·IDF排序都会出现显著不同，如图1左所示。

从图1右中可以发现各颗粒度曲线的在拐点之后TF·IDF值的斜率趋于平缓。可以通过观察词TF·IDF值曲线的拐点来确定稳态词的数量。在以日为时间颗粒度的情况下拐点大致出现在600词的位置，在以周为时间颗粒度的情况下拐点大致出现在2 000词的位置(如图1右)，在以月为时间颗粒度的情况下拐点大致出现在3 000词的位置，在以年为时间颗粒度的情况下拐点大致出现在12 452词的位置。

图1 年、月、周、日四种颗粒度下词的TF·IDF(升序前15 000个)

以年为颗粒度的TF·IDF值的拐点取得是零跳变点，即在此排序中前12 452个词的TF·IDF值均为0。原因在于这些词在每一年的语料中都出现，造成IDF=0。此时，依TF·IDF值选取出的候选词退化为了年共用词。各颗粒度的共用词将在3.2节中详细讨论。

大体上，四种时间颗粒度下的候选词表从大到小依次包含。各词表的交集为599词。

类似地，我们通过观察拐点的方式确定了基于互信息、联合熵、词项随机采样、修正频率、均根匀度、变异系数和对照组累计频率方法的候选词集的大小。由于数值的分布较差异较大，为了便于绘图和观察拐点，本部分对互信息、联合熵、修正频率值取以10为底数的对数。

3.2 基于共用词方法的候选集

本部分计算了历时语料库中年、月、周、日四种颗粒度下的共用词。年共用词有12 452个，月共用词1 821个，周共用词409个，而日共用词仅有15个其同类分布如表1和图2所示。

表1 年、月、周、日共用词数量及词类分布

日共用词按频率从高到低排分别是： 的、了、在、和、是、一、个、中、上、为、地、到、人、大、下。它们都是单音节词。唯一的动词为“是”。“为”和“到”也有做动词的情况，但总体较少。唯一的名词是“人”，但“人”在数量结构中也可以做量词。唯一可以做形容词的是“大”。

构筑日常语用生活底层最稳定的部分是虚词。当“日常语言”细分到“每日必用”的程度时，名词、动词和形容词所占寡少。虚词所负载的主要是语法意义，是组织语言所必须的骨骼。而构成句子内容的实词则有很强的流动性甚至是偶然性。形容词在年、月、周、日共用词中的比例十分稳定，在7%上下波动，是总量较少但不可或缺的一部分词汇。

由共用词的定义可知，年、月、周和日共用词表是逐层包含的。

图2 年、月、周、日共用词的虚词实词分布

4 选择一种稳态词表

由齐普夫定律，容易推知，前文综述了多种稳态词表的选取方法。本章采用以下办法对其进行评价： 1.不同时间颗粒度下的重叠程度和时间敏感程度；2.对语料的覆盖程度；3.对历时文本分类的贡献。

4.1 重叠程度和时间颗粒度敏感程度

不同时间颗粒度下候选词表的重叠程度可以评价该方法的稳定性，重叠程度越高越好。

稳态词和非稳态词不会是泾渭分明的两个集合，而是渐变的连续统。前文使用了“年、月、周、日”四种时间颗粒度，获得了不同的稳态词候选词集。如果使用更大的时间颗粒度如“世纪”，则整个历时语料库都处在一个时间单元内。那么所有词都应该进入该颗粒度下的稳态词候选集，并包含其他颗粒度下的候选集。类似的，如果某方法在诸颗粒度下产生候选词集互相包含的程度高，它所筛选出的候选词集就更符合其作为连续统一部分的特性。

本节将重叠程度划分为四个等级*这一划分方法是针对本任务诸方法进行的，因而没有完备划分所有可能情况： 完全重叠，即年、月、周、日四种时间颗粒度下产生的词表存在一者包含其他三者的关系；大部分重叠，即存在两者部分占各自很大比例(>80%)；部分重叠，即存两者重叠部分占各自较大比例(>30%)；较少重叠，即四者中任意两者重叠部分占各自比例较少(<30%)。表2为各种方法的重叠程度。累计频率法获得的结果和时间颗粒度无关，故不在本部分进行评价。

表2 各方法产生的候选词集的重叠程度

对于抽取稳态词集，本文倾向于选用对时间颗粒度的敏感性高的方法。这里使用由不同时间颗粒度下词表规模的大小差异来衡量不同方法对时间颗粒度的敏感程度。这里将年、月、周、日四种时间颗粒度下任意两候选词表间的词数之比取平均，来衡量这种差异。形式化描述如式(16)所示。

其中sent为某方法的时间敏感性，Sj与Si为两个不同时间颗粒度下获得的候选词表的规模，且有Sj>Si，aver( )为取算术平均值。

如图3所示，从时间敏感性和重叠度上来看，共用词和TF·IDF方法都是表现最好的稳态词获得方法。

图3 各方法的时间颗粒度敏感度

4.2 在语料中的覆盖程度

如果一种方法获得的词表，其中词项在语料中的覆盖程度过小，说明它们充当语言生活底层的可能性不大，则其作为稳态词的可信度较低。各候选词表的语料覆盖程度如表3所示。TF·IDF、共用词、变异系数和修正频率在该项评价中表现较好，其中TF·IDF表现最佳。

表3 各方法在总词汇中的覆盖度

4.3 对文本分类的贡献

根据稳态词的特性，在历时语料库中去除候选词集后剩下的词汇应是与文本时间特性较为相关的词汇。如果以这些词为特征对不同时间的文本进行以时间为类的文本分类，应有较好的分类效果。候选的稳态词集的质量越高，则去除该词集后语料库中保留下的具有较好时间敏感性的词越多，则最终文本分类的精确度越高。本节以此检验候选词集的质量。

本部分实验选取了文本分类任务中最经常用做基线实验的的朴素贝叶斯分类器*本文使用weka数据挖掘平台[19]实现的朴素贝叶斯分类算法，版本3.6.13对测试数据集进行文本分类。

在历时语料库中均匀选取五分之一的年份(共14年)，每年选取2 000词的文本片段20篇，共280篇，56万词作为文本分类任务的测试数据集。实验中去除频次为1的超低频词。再从测试集中去除第三章中各方法生成的候选词集，以剩余的词为特征，频次为特征值，进行分类实验。

同时，设置一组对照实验。设测试数据集中包含各候选词集的词种为m。作为对照，从测试数据集中随机去除m种词，以观察各方法生成的候选词集的质量。候选词集的质量越高，去除候选词集后的分类精度相较对照组提升的越大。

实验中，以年份为分类标准(14类)，10%交叉验证。实验结果如表4所示。

从表4中容易看出，TF·IDF方法在月颗粒度时形成的候选词集(后简称为TF·IDF.m)帮助分类器获得了最好的分类精度，且该组实验相比于对照组也有最大的精度提升。相较于对照组，个别组的分类精度不增返降，说明这些词表中包含了具有较好时间敏感性的词。

经过比较，TF·IDF.m完全包含了文本分类实验中分类精度第三名的月共用词词集，并且TF·IDF.m与精度第二的TF·IDF方法周颗粒度形成的候选词集(TF·IDF.w)仅有12个词的差异。也正因为这12个词，在 重 叠程度评价中TF·IDF方法没有成为完全重叠关系的方法。在覆盖度评价中，TF·IDF方法形成的候选词集在年、月颗粒度中都优于其他方法。在时间颗粒度的敏感程度上，虽与共用词有较大差异，TF·IDF方法也超过其余诸方法。

表4 各方法在各颗粒度下产生的稳态词候选词集在文本分类任务中的表现

TF·IDF方法本质上是对单纯词频统计法的修正，其修正方式在于通过逆文档频IDF值描述了词分布的广泛程度。显然频率相同或相近的词中，分布更广泛的词所包含的信息量少，更有可能是构筑语言生活的底层的语言单位。而分布更窄的词对于了解其所在文档的特征具有更大价值。但IDF值的大小很大程度上取决于对整个语料库划分的粗细程度，亦即每份语料的规模。语料库默认以年为主要的时间计量单位。但每年语料的篇幅很大，词汇中不同词的词频波动范围很大。年颗粒度下的IDF取值(1到70)，对中高频段的调节作用非常有限。实验表明以月为颗粒度进行划分对IDF值发挥调节作用较为合适。

月共用词的性能仅次于TF·IDF.m。共用词的提取方法是选择每部分语料中都出现的词，而不考虑该词在各部分语料中出现频次的多寡。这实际上是IDF=0(即文档频率DF取最大值)时TF·IDF的计算方法。因此共用词的取词方法是TF·IDF的一种极端情况。月共用词对语料的划分与月颗粒度TF·IDF的划分方法完全一致。这可以部分解释为何月共用词的性能仅次于月颗粒度TF·IDF方法。语料颗粒度主要确定词语在语料库中的分布程度，也就是历时的分布程度。颗粒度对候选词集的抽取有较大影响，说明词语是否进入时间分布层次的底层，分布广度较之频率高低更加重要。

类似的，在语言生活状况研究中常用的独用词是TF·IDF方法中DF=1，IDF取极小值时的另一种特殊情况。它所提取的恰恰是时间敏感性较强的词。

综合重叠性质、时间颗粒度敏感性、覆盖程度和文本分类性能三种情况，本文选择TF·IDF方法在月和周为颗粒度下形成的候选词集的并集(词与标点共3 015个)为最优稳态词候选集(后文中简称为“词集”)。该词集完全包含月、周、日颗粒度下的共用词。

5 最优稳态词候选词集的性质

5.1 词类分布

词集中在大量兼类词如“组织”、“限制”、“希望”等都是兼类词。表5前两行是以词在语料库中出现频次最多的词类为被统计词类。如果用兼类词在语料库中不同词类的出现概率对相应的词次数进行修正(如式(17)和(18))则可以得到修正词数和修正比例。

式中pi(w)为词w为词类i时的概率，通过最大似然估计获得。W为整个词集，Nwi为w以词类i在出现的次数，Nw为w的总次数Nw为词类i修正后的词数。

表5 词集词类分布

词集中，动词略多于名词，且各占三分之一左右。形容词的比例和共用词方法中获得的相似，约占8%。表6统计了词集中频次最高的无词类兼类现象的名词、动词和形容词。

表6 词集中非兼类的高频名词、动词、形容词前十与频序

表6的频序分布呈现“名词<动词<形容词”的趋势，且差异明显。这主要是由于动词和形容词的兼类现象十分严重。总得来讲前十名的名词和形容词体现了很强的报刊语体特性。

5.2 词长分析

词集的词长分布可以按照词种和词项分别进行计算。前者不考虑该词在语料库中出现的频次，仅由词表计算生成；后者则用词集所覆盖的语料长度除以词数获得。

表7所示为按照两种方法计算所得的词长分布。平均词种词长为1.69字。双音词占据了词集的近七成，三音节、四音节的词占比不足3%。仅有的两个超过四音节的词是“中国共产党”和“中华人民共和国”。双音词已成为构成报刊语言生活底层的主力。长词进入稳态词集需要强大而持续的社会外力。

表7 词集词长分布

按照词项计算的平均词长为1.52字。与词种数分布产生巨大差异的地方在于单音节词和双音节词的对比发生了反转。单音节词的种数虽少，但平均词频很大，因而在词频比例上超过双音节词。如将标点符号也算入其中，则所占比例更大： 单音节57.85%，双音节40.69%。

汉语的词汇变化总体而言是从单音向双音/多音演化。稳态词是随时间变化很小的词汇部分，因而保留了较多的单音节词。而在当代汉语中得以保存的这些单音节词多为基本构词语素或功能词，在组织语言的过程中不可或缺，因而频次很高，分布很广。

5.3 频位分布

对词集在语料库总词表中的频位分布进行统计可以发现3 013个词前密后疏地分布在频序1到 7 608 之间，如图4所示。前64位和总词表频序完全相同。整个词集相对于总词频表的平均分布密度为3011/7608=0.396。这一较低的平均分布密度表明了文档频率对纯粹词频的巨大修正作用。频序最低的稳态词频序位7 607，总词表在这里的累计频率为0.889。

图4 词集在总词表中的频序分布(左坐标轴)和对应的累积频率(右坐标轴)

90%累积频率是对语料分布进行考察的常用阈值。它与稳态词集中最低频序词所对应的累计频率很接近。累计频率90%的高频词基本可以包含质量较好的稳态词集。

将频序前7 609位的词均分为十组，每组中稳态词出现的词数和密度如表8所示，频序越低越稀疏。

表8 词集在总词表诸频序段的分布密度

汉语水平词汇等级大纲[20]甲级词(1 035个)中的70%出现在词集中。谢晓燕[4]从《深圳特区报》中使用流通度理论提取了26年间使用较为稳定的稳态词，其中各时期稳态词交集的高频3 000词与本文候选词集重合2 177个，占73%。由于其研究中的分词颗粒度和本文不同，加之《深圳特区报》作为地方报纸对广东省外事务报导有限，造成中国和世界范围内的一些重要常用命名实体(如地名“山东省”、“河北省”)没能进入其词表。排除这一部分(63词)，则与本文词集重合率为75%。其余差异多由本文语料库更大的时间跨度和更广的新闻覆盖面造成。如“领袖”、“耕地”、“拥护”等词语是谢晓燕稳态词表中所不具备的。由于语料时间跨度差异巨大，计算方法并不完全相同，造成一些词语选择的差异并不奇怪。较高的重合率也从另一个角度验证了本文词集的性能。

6 结论与展望

本文在基于70年跨度的历时语料库，借鉴文本分类、停用词抽取等技术中的算法对各年度语料进行分析，获得稳态词的候选集。通过历时文本分类性能、时间敏感性、重叠性质和语料覆盖程度的考察遴选出了最优的算法和时间颗粒度设定： TF·IDF方法和月颗粒度。

TF·IDF方法统一了常用程度和时间分布两种重要的语言属性。历时语料中的逆文档频是对时间分布的刻画，对词频进行了时间的修正，从而在共时常用之外展现了时间维度上的“常用性”。

最优候选集共包含3 011个词，其中动词略多于名词，各占约三分之一，平均词长不足1.7字，前密后疏得分布于历时语料库总频序表的前7 609位，覆盖了全部语料的近九成。稳态词中包含大量构造句子结构的核心词语。它们塑造了稳态词在词长和词类上的特性。稳态词的提取可以加深对语言生活底层与基础词汇的认识。稳态词的提取对于汉语教学、中文信息处理、语言规划和词典编纂都具有重要意义。

[1] 张普．论语言的稳态[J]．郑州大学学报(哲学社会科学版)，2008(02)：105-109．

[2] Fukumoto F, Suzuki Y, Takasu A. Timeline adaptation for text classification[C]//Proceedings of ACM International Conference on Information & Knowledge Management. 2013： 1517-1520.

[3] Degaetanoortlieb S. Feature Discovery for Diachronic Register Analysis: a Semi-Automatic Approach[C]//Proceedings of International Conference on Language Resources and Evaluation (LREC′12). 2012: 2786-2790.

[4] 谢晓燕. 基于26年《深圳特区报》的稳态词语提取与考察研究[D]. 北京语言大学博士学位论文，2010.

[5] 荀恩东，饶高琦，肖晓悦，等. 大数据背景下BCC语料库的研制[J]. 语料库语言学，2016，3(1)： 93-118.

[6] 荀恩东，饶高琦，谢佳莉，等. 现代汉语词汇历时检索系统与应用研究[J]，中文信息学报，2015(3): 169-176.

[7] K Sparck-Jones. A statistical interpretation of term specificity and its application in retrieval[J]. Journal of documentation, 1972，28(1)： 11-21.

[8] S E Robertson, K S Jones. Relevance weighting of search terms[J]. Journal of American Society of Information Science, 27(3)： 129-146.

[9] C E Shannon, A mathematical theory of communication[J]. Bell System Technical Journal, 1948，27： 379-423，623-656.

[10] T M Cover，J A Thomas, Elements of Information Theory[M]. John Wiley & Sons, New Jersey.1991: 96-99.

[11] Xu Y, Jones G J F, Li J T, et al. A study on mutual information-based feature selection for text categorization[J]. Journal of Computational Information Systems, 2007, 3(3): 1007-1012.

[12] 顾益军, 樊孝忠, 王建华,等. 中文停用词表的自动选取[J]. 北京理工大学学报, 2005, 25(4)： 337-340.

[13] 关高娃. 蒙古文停用词和英文停用词比较研究[J]. 中文信息学报, 2011, 25(4)： 35-38.

[14] Lo T W, He B, Ounis I. Automatically Building a Stopword List for an Information Retrieval System.[J]. Journal of Digital Information Management, 2005, 3(1): 3-8.

[15] 冯志伟, 胡凤国. 数理语言学[M]. 北京： 商务印书馆, 2012: 255.

[16] I Rosengren. The quantitive concept of language and its relation to the structure of frequency dictionaries[J]. Etudes de Linguistiques Applique, 1971(1)： 103-127.

[17] Huarui Zhang, Churen Huang, Shiwen Y. Distributional Consistency: A general method for defining a core lexicon[C]//Proceedings of International Conference on Language Resources and Evaluation (LREC′04),2004.

[18] 教育部语言文字信息管理司. 中国语言生活状况报告[M]，北京： 商务印书馆，2015.

[19] Ian H Witten, Eibe Frank, Mark A Hall. Data Mining: Practical Machine Learning Tools and Techniques (3rd Edition)[M]. Burlington, Massachusetts: Press Morgan Kaufmann.2005: 151-162.

[20] 国家汉语水平考试委员会《汉语水平词汇等级大纲》[M]，北京： 经济科学出版社，2001.

Extraction and Investigation of State Steady Words from 70 Years Newspapers

RAO Gaoqi1，LI Yuming2

(1. Center for Studies of Chinese as a Second Language，Beijing Language and Culture University, Beijing 100083, China;2. Institute for Chinese Language Policies and Standards, Beijing Language and Culture University, Beijing 100083, China)

Based on the diachronic corpus of modern Chinese newspaper across 70 years, statistical measures are applied to detect the state-steady words. Altogether, 3 013 words are decided as the candidates according to their corpus coverage, time sensitivity and diachronic classification. Among them, verbs and nouns cover one third, respectively, and the rest consists of adjectives and function words. The average word length is 1.7 characters, distributed within top 7 609 in frequency list, and covering 90% of corpus. Basic morphemes and core words shape the features of the set in POS and length.

steady-state word; diachronic corpus; language monitoring

饶高琦(1987—),博士,主要研究领域为计算语言学、语言政策与语言规划。E-mail:raogaoqi-fj@163.com李宇明(1955—),通信作者,教授,主要研究领域为语言学理论、语法学、儿童语言学与语言规划。E-mail:liyum@263.net

1003-0077(2016)06-0049-10

2016-09-27 定稿日期： 2016-10-26

国家社科基金(12&ZD173)；国家语委科研项目(YB125-42、ZDI135-3)；863计划重点项目(SQ2015AA0100074)；国家社科基金(16AYY007)；教育部人文社科重点研究基地重大项目(16JJD740004)

TP391

A