我使用 R 中的对象和字典 documentTermMatrix 创建了一个用于记录文档中单词频率的脚本。该脚本适用于单个单词,而不适用于复合词
es. “富”“酒吧”“富酒吧”
这是代码
require(tm)
my.docs <- c("foo bar word1 word2")
myCorpus <- Corpus(VectorSource(my.docs))
inspect(DocumentTermMatrix(myCorpus,list(dictionary = c("foo","bar","foo bar"))))
但结果是
Terms
Docs bar foo foo bar
1 1 1 0
我必须找到一个“foo bar”= 1
我怎样才能解决这个问题?
问题是DocummentTermMatrix(...)
默认情况下在分词处进行标记。你至少需要二元组。
归功于这个帖子 https://stackoverflow.com/questions/16836022/findassocs-for-multiple-terms-in-r为基本方法。
library(tm)
library(RWeka)
my.docs <- c("foo bar word1 word2")
myCorpus <- Corpus(VectorSource(my.docs))
myDict <- c("foo","bar","foo bar")
BigramTokenizer <- function(x) NGramTokenizer(x, Weka_control(min = 1, max = 2))
inspect(DocumentTermMatrix(myCorpus, control=list(tokenize=BigramTokenizer,
dictionary=myDict)))
# <<DocumentTermMatrix (documents: 1, terms: 3)>>
# ...
# Terms
# Docs bar foo foo bar
# 1 1 1 1
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)