本文整理匯總了Python中jieba.Tokenizer方法的典型用法代碼示例。如果您正苦於以下問題:Python jieba.Tokenizer方法的具體用法?Python jieba.Tokenizer怎麽用?Python jieba.Tokenizer使用的例子?那麽, 這裏精選的方法代碼示例或許可以為您提供幫助。您也可以進一步了解該方法所在類jieba
的用法示例。
在下文中一共展示了jieba.Tokenizer方法的3個代碼示例,這些例子默認根據受歡迎程度排序。您可以為喜歡或者感覺有用的代碼點讚,您的評價將有助於係統推薦出更棒的Python代碼示例。
示例1: __init__
# 需要導入模塊: import jieba [as 別名]
# 或者: from jieba import Tokenizer [as 別名]
def __init__(self, tokenizer=None):
self.tokenizer = tokenizer or jieba.Tokenizer()
self.load_word_tag(self.tokenizer.get_dict_file())
示例2: lcut
# 需要導入模塊: import jieba [as 別名]
# 或者: from jieba import Tokenizer [as 別名]
def lcut(self, *args, **kwargs):
return list(self.cut(*args, **kwargs))
# default Tokenizer instance
示例3: __init__
# 需要導入模塊: import jieba [as 別名]
# 或者: from jieba import Tokenizer [as 別名]
def __init__(self, tokenizer=None):
self.tokenizer = tokenizer or jieba.Tokenizer()
self.load_word_tag(self.tokenizer.get_abs_path_dict())