本文整理汇总了Java中org.apache.spark.api.java.JavaPairRDD.mapPartitions方法的典型用法代码示例。如果您正苦于以下问题：Java JavaPairRDD.mapPartitions方法的具体用法？Java JavaPairRDD.mapPartitions怎么用？Java JavaPairRDD.mapPartitions使用的例子？那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类org.apache.spark.api.java.JavaPairRDD的用法示例。
在下文中一共展示了JavaPairRDD.mapPartitions方法的1个代码示例，这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞，您的评价将有助于系统推荐出更棒的Java代码示例。
示例1: getUniqueKmers
import org.apache.spark.api.java.JavaPairRDD; //导入方法依赖的package包/类
private static JavaRDD<String> getUniqueKmers(JavaPairRDD<Text, SequencedFragment> fastqRDD, int k) {
JavaRDD<String> rdd = fastqRDD.mapPartitions(records -> {
HashSet<String> umer_set = new HashSet<String>();
while (records.hasNext()) {
Tuple2<Text, SequencedFragment> fastq = records.next();
String seq = fastq._2.getSequence().toString();
//HashSet<String> umer_in_seq = new HashSet<String>();
for (int i = 0; i < seq.length() - k - 1; i++) {
String kmer = seq.substring(i, i + k);
umer_set.add(kmer);
}
}
return umer_set.iterator();
});
JavaRDD<String> umersRDD = rdd.distinct();
//umersRDD.sortBy(s -> s, true, 4);
return umersRDD;
}