Newsgroups数据集介绍

源自如http://qwone.com/~jason/20Newsgroups/。

20newsgroups数据集是用于文本分类、文本挖据和信息检索研究的国际标准数据集之一。数据集收集了大约20,000左右的新闻组文档，均匀分为20个不一样主题的新闻组集合。一些新闻组的主题特别类似(e.g. comp.sys.ibm.pc.hardware/ comp.sys.mac.hardware)，还有一些却彻底不相关 (e.g misc.forsale /soc.religion.christian)。

comp.graphics comp.os.ms-windows.misc comp.sys.ibm.pc.hardware comp.sys.mac.hardware comp.windows.x	rec.autos rec.motorcycles rec.sport.baseball rec.sport.hockey	sci.crypt sci.electronics sci.med sci.space
misc.forsale	talk.politics.misc talk.politics.guns talk.politics.mideast	talk.religion.misc alt.atheism soc.religion.christian

 

20newsgroups数据集有三个版本。第一个版本19997是原始的并无修改过的版本。第二个版本bydate是按时间顺序分为训练(60%)和测试(40%)两部分数据集，不包含重复文档和新闻组名（新闻组，路径，隶属于，日期）。第三个版本18828不包含重复文档，只有来源和主题。

• 20news-19997.tar.gz –原始20 Newsgroups数据集
• 20news-bydate.tar.gz –按时间分类; 不包含重复文档和新闻组名(18846 个文档)
• 20news-18828.tar.gz–  不包含重复文档，只有来源和主题 (18828 个文档)

在sklearn中，该模型有两种装载方式，第一种是sklearn.datasets.fetch_20newsgroups，返回一个能够被文本特征提取器（如sklearn.feature_extraction.text.CountVectorizer）自定义参数提取特征的原始文本序列；第二种是sklearn.datasets.fetch_20newsgroups_vectorized，返回一个已提取特征的文本序列，即不须要使用特征提取器。