本文整理汇总了C#中IToken.GetTokenizerId方法的典型用法代码示例。如果您正苦于以下问题:C# IToken.GetTokenizerId方法的具体用法?C# IToken.GetTokenizerId怎么用?C# IToken.GetTokenizerId使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类IToken
的用法示例。
在下文中一共展示了IToken.GetTokenizerId方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的C#代码示例。
示例1: TouchToken
public IToken<char> TouchToken(IToken<char> token)
{
Condition.Requires(token).IsNotNull();
IToken<char> rv = token;
if (!(token is IFaceted))
return rv;
var tokenizerId = token.GetTokenizerId();
switch (tokenizerId)
{
case CommandLineLexer.ARG:
break;
case CommandLineLexer.CLOSEPAREN:
break;
case CommandLineLexer.COMMA:
break;
case CommandLineLexer.NESS:
break;
case CommandLineLexer.OP:
break;
case CommandLineLexer.OPENPAREN:
break;
case CommandLineLexer.STORE:
}
return rv;
}