Python nltk.WhitespaceTokenizer用法及代码示例

借助nltk.tokenize.WhitespaceTokenizer()方法，我们可以通过使用以下命令从单词或句子的字符串中提取标记，而无需空格，换行和制表符tokenize.WhitespaceTokenizer()方法。

用法： tokenize.WhitespaceTokenizer()

返回： Return the tokens from a string

范例1：
在这个例子中，我们可以通过使用tokenize.WhitespaceTokenizer()方法，我们能够从单词流中提取标记。

# import WhitespaceTokenizer() method from nltk 
from nltk.tokenize import WhitespaceTokenizer 
     
# Create a reference variable for Class WhitespaceTokenizer 
tk = WhitespaceTokenizer() 
     
# Create a string input 
gfg = "GeeksforGeeks \nis\t for geeks"
     
# Use tokenize method 
geek = tk.tokenize(gfg) 
     
print(geek)

输出：

[‘GeeksforGeeks’, ‘is’, ‘for’, ‘geeks’]

范例2：

# import WhitespaceTokenizer() method from nltk 
from nltk.tokenize import WhitespaceTokenizer 
     
# Create a reference variable for Class WhitespaceTokenizer 
tk = WhitespaceTokenizer() 
     
# Create a string input 
gfg = "The price\t of burger \nin BurgerKing is Rs.36.\n"
     
# Use tokenize method 
geek = tk.tokenize(gfg) 
     
print(geek)

输出：

[‘The’, ‘price’, ‘of’, ‘burger’, ‘in’, ‘BurgerKing’, ‘is’, ‘Rs.36.’]

相关用法

注：本文由纯净天空筛选整理自Jitender_1998大神的英文原创作品 Python NLTK | nltk.WhitespaceTokenizer。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。