借助NLTK nltk.TweetTokenizer()
方法,我們能夠將單詞流轉換成小的小標記,以便我們可以借助nltk.TweetTokenizer()
方法。
用法:nltk.TweetTokenizer()
返回: Return the stream of token
範例1:
在此示例中,當我們以字符串形式傳遞音頻流時,它將借助以下命令將長字符串轉換為小標記nltk.TweetTokenizer()
方法。
# import TweetTokenizer() method from nltk
from nltk.tokenize import TweetTokenizer
# Create a reference variable for Class TweetTokenizer
tk = TweetTokenizer()
# Create a string input
gfg = "Geeks for Geeks"
# Use tokenize method
geek = tk.tokenize(gfg)
print(geek)
輸出:
[‘Geeks’, ‘for’, ‘Geeks’]
範例2:
# import TweetTokenizer() method from nltk
from nltk.tokenize import TweetTokenizer
# Create a reference variable for Class TweetTokenizer
tk = TweetTokenizer()
# Create a string input
gfg = ":-) <> () {} []:-p"
# Use tokenize method
geek = tk.tokenize(gfg)
print(geek)
輸出:
[‘:-)’, ”, ‘(‘, ‘)’, ‘{‘, ‘}’, ‘[‘, ‘]’, ‘:-p’]
相關用法
- Python nltk.tokenize.SExprTokenizer()用法及代碼示例
- Python nltk.tokenize.LineTokenizer用法及代碼示例
- Python NLTK nltk.tokenize.ConditionalFreqDist()用法及代碼示例
- Python nltk.tokenize.SpaceTokenizer()用法及代碼示例
- Python nltk.tokenize.TabTokenizer()用法及代碼示例
- Python nltk.tokenize.StanfordTokenizer()用法及代碼示例
- Python nltk.tokenizer.word_tokenize()用法及代碼示例
- Python nltk.tokenize.mwe()用法及代碼示例
- Python nltk.WhitespaceTokenizer用法及代碼示例
- Python NLTK tokenize.regexp()用法及代碼示例
- Python NLTK tokenize.WordPunctTokenizer()用法及代碼示例
注:本文由純淨天空篩選整理自Jitender_1998大神的英文原創作品 Python NLTK | nltk.TweetTokenizer()。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。