本文整理汇总了Python中utils.Vocab.add_word方法的典型用法代码示例。如果您正苦于以下问题:Python Vocab.add_word方法的具体用法?Python Vocab.add_word怎么用?Python Vocab.add_word使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类utils.Vocab
的用法示例。
在下文中一共展示了Vocab.add_word方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Python代码示例。
示例1: set
# 需要导入模块: from utils import Vocab [as 别名]
# 或者: from utils.Vocab import add_word [as 别名]
if __name__ == "__main__":
#Create a set of all words
all_words = set()
vocab = Vocab()
count_files = 0
for name in ['test', 'train', 'val']:
filename = name + '_tokens.txt'
f = open(filename, 'r')
for line in f:
sp_line = line.strip().split()
for token in sp_line:
all_words.add(token)
vocab.add_word(token)
f.close()
glove_dir = '/media/sf_kickstarter/CS224D/Project/glove.840B.300d'
glove_f = open(os.path.join(glove_dir, 'glove.840B.300d.txt'), 'r')
embedding_matrix = np.zeros((len(vocab.word_to_index),300))
count = 0
for line in glove_f:
line_sp = line.strip().split()
word = line_sp[0]
line_sp_vec = [float(line_num) for line_num in line_sp[1:]]
if word in vocab.word_to_index:
line_sp_vec = [float(line_num) for line_num in line_sp[1:]]
index = vocab.word_to_index[word]