用TensorFlow中内置的vocabulary processor处理单词

一般我们在进行文本处理时,需要写方法建立词汇表和word到idx,以及idx到word的映射关系,这就需要统计词汇表中的所有单词并建立相应的词典。 在建立文档到idx的映射关系时,我们也可以用tensorflow内置的preprocessing.VocabularyProcessor来建立word到idx的映射关系。 VocabularyProcessor:Maps documents to se
相关文章
相关标签/搜索