深度学习—-NLP结巴分词基础

文章目录

首先，我们来看两张图

最新的方法结构

• jieba中文分词简介

• 中文分词的原理

• 1 基于规则

  • 2 基于统计
  • 3 jieba的原理

• 安装结巴jieba

• jieba三种分词模式以及其应用

• jieba增强功能-加载自定义词典

• 1 载入新自定义词典

  • 2 载入停用词表

• jieba分词的其他应用

• 1 关键词提取

  • 2 词性标注

• 用jieba分词实战含文件的读取与存储

1 jieba中文分词简介

中文分词是中文NLP的第一步，一个优秀的分词系统取决于足够的语料和完善的模型，很多机构和公司也都会开发和维护自己的分词系统。

这里推荐的是一款完全开源、简单易用的分词工具，jieba中文分词。官网在这里，https://github.com/fxsjy/jieba 里面提供了详细的说明文档。虽然jieba分词的性能并不是最优秀的，但它开源免费、使用简单、功能丰富，并且支持多种编程语言实现。

2 中文分词的原理

中文分词的模型实现主要分类两大类：基于规则和基于统计。

2.1 基于规则

基于规则是指根据一个已有的词典，采用前向最大匹配、后向最大匹配、双向最大匹配等人工设定的规则来进行分词。

例如对于“上海自来水来自海上”这句话，使用前向最大匹配，即从前向后扫描，使分出来的词存在于词典中并且尽可能长，则可以得到“上海/自来水/来自/海上”。这类方法思想简单且易于实现，对数据量的要求也不高。

当然，分词所使用的规则可以设计得更复杂，从而使分词效果更理想。但是由于中文博大精深、语法千变万化，很难设计足够全面而通用的规则，并且具体的上下文语境、词语之间的搭配组合也都会影响到最终的分词结果，这些挑战都使得基于规则的分词模型愈发力不从心。

2.2 基于统计

基于统计是从大量人工标注语料中总结词的概率分布以及词之间的常用搭配，使用有监督学习训练分词模型。

对于“上海自来水来自海上”这句话，一个最简单的统计分词想法是，尝试所有可能的分词方案，因为任何两个字之间，要么需要切分，要么无需切分。

对于全部可能的分词方案，根据语料统计每种方案出现的概率，然后保留概率最大的一种。很显然，“上海/自来水/来自/海上”的出现概率比“上海自/来水/来自/海上”更高，因为“上海”和“自来水”在标注语料中出现的次数比“上海自”和“来水”更多。

2.3 jieba的原理

jieba分词结合了基于规则和基于统计两类方法。

首先基于前缀词典进行词图扫描，前缀词典是指词典中的词按照前缀包含的顺序排列，例如词典中出现了“上”，之后以“上”开头的词都会出现在这一块，例如“上海”，进而会出现“上海市”，从而形成一种层级包含结构。

如果将词看作节点，词和词之间的分词符看作边，那么一种分词方案则对应着从第一个字到最后一个字的一条分词路径。因此，基于前缀词典可以快速构建包含全部可能分词结果的有向无环图，这个图中包含多条分词路径，有向是指全部的路径都始于第一个字、止于最后一个字，无环是指节点之间不构成闭环。

基于标注语料，使用动态规划的方法可以找出最大概率路径，并将其作为最终的分词结果。

3 安装结巴jieba

以下我们使用Python中的jieba分词完成一些基础NLP任务，如果对jieba分词感兴趣，希望了解更多内容，可以参考官方使用文档。首先没有jieba分词的话需要安装，使用pip即可。

1
2
3
1pip install jieba

2

3

jieba提供了三种分词模式：

• 精确模式：试图将句子最精确地切开，适合文本分析；cut_all=True
• 全模式：把句子中所有可以成词的词语都扫描出来, 速度非常快，但是不能解决歧义；cut_all=False
• 搜索引擎模式：在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。jieba.cut_for_search()

$~~~~~~$以下代码使用jieba实现中文分词，使用jieba.cut()函数并传入待分词的文本字符串即可，使用cut_all参数控制选择使用全模式还是精确模式，默认为精确模式。如果需要使用搜索引擎模式，使用jieba.cut_for_search()函数即可。运行以下代码之后，jieba首先会加载自带的前缀词典，然后完成相应的分词任务。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
1import jieba

2seg_list = jieba.cut("我来到北京清华大学", cut_all=True)

3# join是split的逆操作

4# 即使用一个拼接符将一个列表拼成字符串

5print("/ ".join(seg_list))  # 全模式

6

7seg_list = jieba.cut("我来到北京清华大学", cut_all=False)

8print("/ ".join(seg_list))  # 精确模式

9

10seg_list = jieba.cut("他来到了网易杭研大厦")  # 默认是精确模式

11print("/ ".join(seg_list))

12

13seg_list = jieba.cut_for_search("小明硕士毕业于中国科学院计算所，后在日本京都大学深造")  # 搜索引擎模式

14print("/ ".join(seg_list))

15

16