1 Python 的幾個自然語言處理工具
- NLTK:NLTK 在用 Python 處理自然語言的工具中處于領(lǐng)先的地位。它提供了 WordNet 這種方便處理詞匯資源的借口,還有分類、分詞、除莖、標(biāo)注、語法分析、語義推理等類庫。
- Pattern:Pattern 的自然語言處理工具有詞性標(biāo)注工具(Part-Of-Speech Tagger),N元搜索(n-gram search),情感分析(sentiment analysis),WordNet。支持機器學(xué)習(xí)的向量空間模型,聚類,向量機。
-
TextBlob:TextBlob 是一個處理文本數(shù)據(jù)的 Python 庫。提供了一些簡單的api解決一些自然語言處理的任務(wù),例如詞性標(biāo)注、名詞短語抽取、情感分析、分類、翻譯等等。
- Gensim:Gensim 提供了對大型語料庫的主題建模、文件索引、相似度檢索的功能。它可以處理大于RAM內(nèi)存的數(shù)據(jù)。作者說它是“實現(xiàn)無干預(yù)從純文本語義建模的最強大、最高效、最無障礙的軟件。
- PyNLPI:它的全稱是:Python自然語言處理庫(Python Natural Language Processing Library,音發(fā)作: pineapple) 這是一個各種自然語言處理任務(wù)的集合,PyNLPI可以用來處理N元搜索,計算頻率表和分布,建立語言模型。他還可以處理向優(yōu)先隊列這種更加復(fù)雜的數(shù)據(jù)結(jié)構(gòu),或者像 Beam 搜索這種更加復(fù)雜的算法。
- spaCy:這是一個商業(yè)的開源軟件。結(jié)合Python和Cython,它的自然語言處理能力達(dá)到了工業(yè)強度。是速度最快,領(lǐng)域內(nèi)最先進(jìn)的自然語言處理工具。
- Polyglot:Polyglot 支持對海量文本和多語言的處理。它支持對165種語言的分詞,對196中語言的辨識,40種語言的專有名詞識別,16種語言的詞性標(biāo)注,136種語言的情感分析,137種語言的嵌入,135種語言的形態(tài)分析,以及69中語言的翻譯。
- MontyLingua:MontyLingua 是一個自由的、訓(xùn)練有素的、端到端的英文處理工具。輸入原始英文文本到 MontyLingua ,就會得到這段文本的語義解釋。適合用來進(jìn)行信息檢索和提取,問題處理,回答問題等任務(wù)。從英文文本中,它能提取出主動賓元組,形容詞、名詞和動詞短語,人名、地名、事件,日期和時間,等語義信息。
- BLLIP Parser:BLLIP Parser(也叫做Charniak-Johnson parser)是一個集成了產(chǎn)生成分分析和最大熵排序的統(tǒng)計自然語言工具。包括 命令行 和 python接口 。
- Quep