本文整理汇总了C#中TextSource.Prefetch方法的典型用法代码示例。如果您正苦于以下问题：C# TextSource.Prefetch方法的具体用法？C# TextSource.Prefetch怎么用？C# TextSource.Prefetch使用的例子？那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类TextSource的用法示例。
在下文中一共展示了TextSource.Prefetch方法的1个代码示例，这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞，您的评价将有助于系统推荐出更棒的C#代码示例。
示例1: TokenizationChangeEncodingWithMultibyteCharacter
public async Task TokenizationChangeEncodingWithMultibyteCharacter()
{
var phrase = "ＡＢＣＤＥＦＧＨＩＪＫＬＭＮＯＰＱＲＳＴＵＶＷＸＹＺ"; // 78 bytes
var content = String.Concat(Enumerable.Repeat(phrase, 53)); // x53 => 4134 bytes
var encoding = new UTF8Encoding(false);
using (var contentStm = new MemoryStream(encoding.GetBytes(content)))
{
var s = new TextSource(contentStm, encoding);
var t = CreateTokenizer(s);
// Read 4096 bytes to buffer
await s.Prefetch(100, CancellationToken.None);
// Change encoding utf-8 to utf-8. (Same, but different instance)
s.CurrentEncoding = TextEncoding.Utf8;
var token = t.Get();
Assert.IsTrue(s.CurrentEncoding == TextEncoding.Utf8);
Assert.IsTrue(s.CurrentEncoding != encoding);
Assert.AreEqual(content, token.Data);
}
}