Python NLP入门教程

目录[-]html

本文简要介绍Python天然语言处理(NLP)，使用Python的NLTK库。NLTK是Python的天然语言处理工具包，在NLP领域中，最常使用的一个Python库。html5

什么是NLP？

简单来讲，天然语言处理(NLP)就是开发可以理解人类语言的应用程序或服务。python

这里讨论一些天然语言处理(NLP)的实际应用例子，如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词，以及生成语法正确完整句子和段落。git

这并非NLP能作的全部事情。github

NLP实现

搜索引擎: 好比谷歌，Yahoo等。谷歌搜索引擎知道你是一个技术人员，因此它显示与技术相关的结果；web

社交网站推送:好比Facebook News Feed。若是News Feed算法知道你的兴趣是天然语言处理，就会显示相关的广告和帖子。正则表达式

语音引擎:好比Apple的Siri。算法

垃圾邮件过滤:如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不一样，它经过了解邮件内容里面的的深层意义，来判断是否是垃圾邮件。shell

NLP库

下面是一些开源的天然语言处理库(NLP)：

Natural language toolkit (NLTK);
Apache OpenNLP;
Stanford NLP suite;
Gate NLP library

其中天然语言工具包(NLTK)是最受欢迎的天然语言处理库(NLP)，它是用Python编写的，并且背后有很是强大的社区支持。

NLTK也很容易上手，实际上，它是最简单的天然语言处理(NLP)库。

在这个NLP教程中，咱们将使用Python NLTK库。

安装 NLTK

若是您使用的是Windows/Linux/Mac，您可使用pip安装NLTK:

pip install nltk

打开python终端导入NLTK检查NLTK是否正确安装：

import nltk

若是一切顺利，这意味着您已经成功地安装了NLTK库。首次安装了NLTK，须要经过运行如下代码来安装NLTK扩展包:

import nltk nltk.download()

这将弹出NLTK 下载窗口来选择须要安装哪些包:

您能够安装全部的包，由于它们的大小都很小，因此没有什么问题。

使用Python Tokenize文本

首先，咱们将抓取一个web页面内容，而后分析文本了解页面的内容。

咱们将使用urllib模块来抓取web页面:

import urllib.request response = urllib.request.urlopen('http://php.net/') html = response.read() print (html)

从打印结果中能够看到，结果包含许多须要清理的HTML标签。而后BeautifulSoup模块来清洗这样的文字:

from bs4 import BeautifulSoup import urllib.request response = urllib.request.urlopen('http://php.net/') html = response.read() soup = BeautifulSoup(html,"html5lib") # 这须要安装html5lib模块 text = soup.get_text(strip=True) print (text)

如今咱们从抓取的网页中获得了一个干净的文本。下一步，将文本转换为tokens,像这样:

from bs4 import BeautifulSoup import urllib.request response = urllib.request.urlopen('http://php.net/') html = response.read() soup = BeautifulSoup(html,"html5lib") text = soup.get_text(strip=True) tokens = text.split() print (tokens)

统计词频

text已经处理完毕了，如今使用Python NLTK统计token的频率分布。

能够经过调用NLTK中的FreqDist()方法实现:

from bs4 import BeautifulSoup import urllib.request import nltk response = urllib.request.urlopen('http://php.net/') html = response.read() soup = BeautifulSoup(html,"html5lib") text = soup.get_text(strip=True) tokens = text.split() freq = nltk.FreqDist(tokens) for key,val in freq.items(): print (str(key) + ':' + str(val))

若是搜索输出结果，能够发现最多见的token是PHP。您能够调用plot函数作出频率分布图:

freq.plot(20, cumulative=False) # 须要安装matplotlib库

这上面这些单词。好比of,a,an等等，这些词都属于停用词。

通常来讲，停用词应该删除，防止它们影响分析结果。

处理停用词

NLTK自带了许多种语言的停用词列表，若是你获取英文停用词:

from nltk.corpus import stopwords stopwords.words('english')

如今，修改下代码,在绘图以前清除一些无效的token:

clean_tokens = list() sr = stopwords.words('english') for token in tokens: if token not in sr: clean_tokens.append(token)

最终的代码应该是这样的:

from bs4 import BeautifulSoup import urllib.request import nltk from nltk.corpus import stopwords response = urllib.request.urlopen('http://php.net/') html = response.read() soup = BeautifulSoup(html,"html5lib") text = soup.get_text(strip=True) tokens = text.split() clean_tokens = list() sr = stopwords.words('english') for token in tokens: if not token in sr: clean_tokens.append(token) freq = nltk.FreqDist(clean_tokens) for key,val in freq.items(): print (str(key) + ':' + str(val))

如今再作一次词频统计图，效果会比以前好些，由于剔除了停用词:

freq.plot(20,cumulative=False)

使用NLTK Tokenize文本

在以前咱们用split方法将文本分割成tokens，如今咱们使用NLTK来Tokenize文本。

文本没有Tokenize以前是没法处理的，因此对文本进行Tokenize很是重要的。token化过程意味着将大的部件分割为小部件。

你能够将段落tokenize成句子，将句子tokenize成单个词，NLTK分别提供了句子tokenizer和单词tokenizer。

假若有这样这段文本:

Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude.

使用句子tokenizer将文本tokenize成句子:

from nltk.tokenize import sent_tokenize mytext = "Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude." print(sent_tokenize(mytext))

输出以下:

['Hello Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']

这是你可能会想，这也太简单了，不须要使用NLTK的tokenizer均可以，直接使用正则表达式来拆分句子就行，由于每一个句子都有标点和空格。

那么再来看下面的文本:

Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude.

这样若是使用标点符号拆分,Hello Mr将会被认为是一个句子，若是使用NLTK:

from nltk.tokenize import sent_tokenize mytext = "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude." print(sent_tokenize(mytext))

输出以下:

['Hello Mr. Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']

这才是正确的拆分。

接下来试试单词tokenizer:

from nltk.tokenize import word_tokenize mytext = "Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude." print(word_tokenize(mytext))

输出以下:

['Hello', 'Mr.', 'Adam', ',', 'how', 'are', 'you', '?', 'I', 'hope', 'everything', 'is', 'going', 'well', '.', 'Today', 'is', 'a', 'good', 'day', ',', 'see', 'you', 'dude', '.']

Mr.这个词也没有被分开。NLTK使用的是punkt模块的PunktSentenceTokenizer，它是NLTK.tokenize的一部分。并且这个tokenizer通过训练，能够适用于多种语言。

非英文Tokenize

Tokenize时能够指定语言:

from nltk.tokenize import sent_tokenize mytext = "Bonjour M. Adam, comment allez-vous? J'espère que tout va bien. Aujourd'hui est un bon jour." print(sent_tokenize(mytext,"french"))

输出结果以下:

['Bonjour M. Adam, comment allez-vous?', "J'espère que tout va bien.", "Aujourd'hui est un bon jour."]

同义词处理

使用nltk.download()安装界面，其中一个包是WordNet。

WordNet是一个为天然语言处理而创建的数据库。它包括一些同义词组和一些简短的定义。

您能够这样获取某个给定单词的定义和示例:

from nltk.corpus import wordnet syn = wordnet.synsets("pain") print(syn[0].definition()) print(syn[0].examples())

输出结果是:

a symptom of some physical hurt or disorder ['the patient developed severe pain and distension']

WordNet包含了不少定义：

from nltk.corpus import wordnet syn = wordnet.synsets("NLP") print(syn[0].definition()) syn = wordnet.synsets("Python") print(syn[0].definition())

结果以下:

the branch of information science that deals with natural language information large Old World boas

能够像这样使用WordNet来获取同义词:

from nltk.corpus import wordnet synonyms = [] for syn in wordnet.synsets('Computer'): for lemma in syn.lemmas(): synonyms.append(lemma.name()) print(synonyms)

输出:

['computer', 'computing_machine', 'computing_device', 'data_processor', 'electronic_computer', 'information_processing_system', 'calculator', 'reckoner', 'figurer', 'estimator', 'computer']

反义词处理

也能够用一样的方法获得反义词：

from nltk.corpus import wordnet antonyms = [] for syn in wordnet.synsets("small"): for l in syn.lemmas(): if l.antonyms(): antonyms.append(l.antonyms()[0].name()) print(antonyms)

输出:

['large', 'big', 'big']

词干提取

语言形态学和信息检索里，词干提取是去除词缀获得词根的过程，例如working的词干为work。

搜索引擎在索引页面时就会使用这种技术，因此不少人为相同的单词写出不一样的版本。

有不少种算法能够避免这种状况，最多见的是波特词干算法。NLTK有一个名为PorterStemmer的类，就是这个算法的实现:

from nltk.stem import PorterStemmer stemmer = PorterStemmer() print(stemmer.stem('working')) print(stemmer.stem('worked'))

输出结果是:

work
work

还有其余的一些词干提取算法，好比 Lancaster词干算法。

非英文词干提取

除了英文以外，SnowballStemmer还支持13种语言。

支持的语言:

from nltk.stem import SnowballStemmer print(SnowballStemmer.languages)

'danish', 'dutch', 'english', 'finnish', 'french', 'german', 'hungarian', 'italian', 'norwegian', 'porter', 'portuguese', 'romanian', 'russian', 'spanish', 'swedish'

你可使用SnowballStemmer类的stem函数来提取像这样的非英文单词：

from nltk.stem import SnowballStemmer french_stemmer = SnowballStemmer('french') print(french_stemmer.stem("French word"))

单词变体还原

单词变体还原相似于词干，但不一样的是，变体还原的结果是一个真实的单词。不一样于词干，当你试图提取某些词时，它会产生相似的词:

from nltk.stem import PorterStemmer stemmer = PorterStemmer() print(stemmer.stem('increases'))

结果:

increas

如今，若是用NLTK的WordNet来对同一个单词进行变体还原，才是正确的结果:

from nltk.stem import WordNetLemmatizer lemmatizer = WordNetLemmatizer() print(lemmatizer.lemmatize('increases'))

结果:

increase

结果可能会是一个同义词或同一个意思的不一样单词。

有时候将一个单词作变体还原时，老是获得相同的词。

这是由于语言的默认部分是名词。要获得动词，能够这样指定：

from nltk.stem import WordNetLemmatizer lemmatizer = WordNetLemmatizer() print(lemmatizer.lemmatize('playing', pos="v"))

结果:

play

实际上，这也是一种很好的文本压缩方式，最终获得文本只有原先的50%到60%。

结果还能够是动词(v)、名词(n)、形容词(a)或副词(r)：

from nltk.stem import WordNetLemmatizer lemmatizer = WordNetLemmatizer() print(lemmatizer.lemmatize('playing', pos="v")) print(lemmatizer.lemmatize('playing', pos="n")) print(lemmatizer.lemmatize('playing', pos="a")) print(lemmatizer.lemmatize('playing', pos="r"))

输出:

play
playing
playing
playing

词干和变体的区别

经过下面例子来观察:

from nltk.stem import WordNetLemmatizer from nltk.stem import PorterStemmer stemmer = PorterStemmer() lemmatizer = WordNetLemmatizer() print(stemmer.stem('stones')) print(stemmer.stem('speaking')) print(stemmer.stem('bedroom')) print(stemmer.stem('jokes')) print(stemmer.stem('lisa')) print(stemmer.stem('purple')) print('----------------------') print(lemmatizer.lemmatize('stones')) print(lemmatizer.lemmatize('speaking')) print(lemmatizer.lemmatize('bedroom')) print(lemmatizer.lemmatize('jokes')) print(lemmatizer.lemmatize('lisa')) print(lemmatizer.lemmatize('purple'))

输出:

stone
speak
bedroom
joke
lisa
purpl
--------------------- stone speaking bedroom joke lisa purple

词干提取不会考虑语境，这也是为何词干提取比变体还原快且准确度低的缘由。

我的认为，变体还原比词干提取更好。单词变体还原返回一个真实的单词，即便它不是同一个单词，也是同义词，但至少它是一个真实存在的单词。

若是你只关心速度，不在乎准确度，这时你能够选用词干提取。

在此NLP教程中讨论的全部步骤都只是文本预处理。在之后的文章中，将会使用Python NLTK来实现文本分析。

我已经尽可能使文章通俗易懂。但愿能对你有所帮助。

Python NLP入门教程