本文整理汇总了Java中org.apache.spark.api.java.JavaRDD.foreachPartition方法的典型用法代码示例。如果您正苦于以下问题:Java JavaRDD.foreachPartition方法的具体用法?Java JavaRDD.foreachPartition怎么用?Java JavaRDD.foreachPartition使用的例子?那么, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类org.apache.spark.api.java.JavaRDD
的用法示例。
在下文中一共展示了JavaRDD.foreachPartition方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Java代码示例。
示例1: combineShortSessionsInParallel
import org.apache.spark.api.java.JavaRDD; //导入方法依赖的package包/类
public void combineShortSessionsInParallel(int timeThres) throws InterruptedException, IOException {
JavaRDD<String> userRDD = getUserRDD(this.cleanupType);
userRDD.foreachPartition(new VoidFunction<Iterator<String>>() {
/**
*
*/
private static final long serialVersionUID = 1L;
@Override
public void call(Iterator<String> arg0) throws Exception {
ESDriver tmpES = new ESDriver(props);
tmpES.createBulkProcessor();
while (arg0.hasNext()) {
String s = arg0.next();
combineShortSessions(tmpES, s, timeThres);
}
tmpES.destroyBulkProcessor();
tmpES.close();
}
});
}