当前位置: 首页>>代码示例>>Java>>正文


Java GenSplit类代码示例

本文整理汇总了Java中org.apache.hadoop.mapred.gridmix.GenerateData.GenSplit的典型用法代码示例。如果您正苦于以下问题:Java GenSplit类的具体用法?Java GenSplit怎么用?Java GenSplit使用的例子?那么, 这里精选的类代码示例或许可以为您提供帮助。


GenSplit类属于org.apache.hadoop.mapred.gridmix.GenerateData包,在下文中一共展示了GenSplit类的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Java代码示例。

示例1: getSplits

import org.apache.hadoop.mapred.gridmix.GenerateData.GenSplit; //导入依赖的package包/类
@Override
public List<InputSplit> getSplits(JobContext jobCtxt) throws IOException {
  // get the total data to be generated
  long toGen =
    jobCtxt.getConfiguration().getLong(GenerateData.GRIDMIX_GEN_BYTES, -1);
  if (toGen < 0) {
    throw new IOException("Invalid/missing generation bytes: " + toGen);
  }
  // get the total number of mappers configured
  int totalMappersConfigured =
    jobCtxt.getConfiguration().getInt(MRJobConfig.NUM_MAPS, -1);
  if (totalMappersConfigured < 0) {
    throw new IOException("Invalid/missing num mappers: " 
                          + totalMappersConfigured);
  }
  
  final long bytesPerTracker = toGen / totalMappersConfigured;
  final ArrayList<InputSplit> splits = 
    new ArrayList<InputSplit>(totalMappersConfigured);
  for (int i = 0; i < totalMappersConfigured; ++i) {
    splits.add(new GenSplit(bytesPerTracker, 
               new String[] { "tracker_local" }));
  }
  return splits;
}
 
开发者ID:naver,项目名称:hadoop,代码行数:26,代码来源:TestCompressionEmulationUtils.java


注:本文中的org.apache.hadoop.mapred.gridmix.GenerateData.GenSplit类示例由纯净天空整理自Github/MSDocs等开源代码及文档管理平台,相关代码片段筛选自各路编程大神贡献的开源项目,源码版权归原作者所有,传播和使用请参考对应项目的License;未经允许,请勿转载。