本文整理匯總了Python中transformers.tokenization_bert.BasicTokenizer方法的典型用法代碼示例。如果您正苦於以下問題：Python tokenization_bert.BasicTokenizer方法的具體用法？Python tokenization_bert.BasicTokenizer怎麽用？Python tokenization_bert.BasicTokenizer使用的例子？那麽, 這裏精選的方法代碼示例或許可以為您提供幫助。您也可以進一步了解該方法所在類transformers.tokenization_bert的用法示例。
在下文中一共展示了tokenization_bert.BasicTokenizer方法的1個代碼示例，這些例子默認根據受歡迎程度排序。您可以為喜歡或者感覺有用的代碼點讚，您的評價將有助於係統推薦出更棒的Python代碼示例。
示例1: __init__
# 需要導入模塊: from transformers import tokenization_bert [as 別名]
# 或者: from transformers.tokenization_bert import BasicTokenizer [as 別名]
def __init__(self) -> None:
os.environ['CORENLP_HOME'] = '{}/stanford-corenlp-full-2018-10-05'.format(os.environ['HOME'])
self.client: CoreNLPClient = CoreNLPClient()
self.client.ensure_alive()
self.do_lower_case = '-cased' not in config.bert_model
self.basic_tokenizer: BasicTokenizer \
= BertTokenizer.from_pretrained(config.bert_model, do_lower_case=self.do_lower_case).basic_tokenizer