當前位置: 首頁>>代碼示例>>Java>>正文


Java TextInputFormat.setMaxInputSplitSize方法代碼示例

本文整理匯總了Java中org.apache.hadoop.mapreduce.lib.input.TextInputFormat.setMaxInputSplitSize方法的典型用法代碼示例。如果您正苦於以下問題:Java TextInputFormat.setMaxInputSplitSize方法的具體用法?Java TextInputFormat.setMaxInputSplitSize怎麽用?Java TextInputFormat.setMaxInputSplitSize使用的例子?那麽, 這裏精選的方法代碼示例或許可以為您提供幫助。您也可以進一步了解該方法所在org.apache.hadoop.mapreduce.lib.input.TextInputFormat的用法示例。


在下文中一共展示了TextInputFormat.setMaxInputSplitSize方法的1個代碼示例,這些例子默認根據受歡迎程度排序。您可以為喜歡或者感覺有用的代碼點讚,您的評價將有助於係統推薦出更棒的Java代碼示例。

示例1: configs

import org.apache.hadoop.mapreduce.lib.input.TextInputFormat; //導入方法依賴的package包/類
@Parameters
public static Collection<Object[]> configs() throws IOException {
    Configuration conf = HdpBootstrap.hadoopConfig();
    HadoopCfgUtils.setGenericOptions(conf);

    Job job = new Job(conf);
    job.setInputFormatClass(TextInputFormat.class);
    job.setOutputFormatClass(EsOutputFormat.class);
    job.setMapOutputValueClass(LinkedMapWritable.class);
    job.setMapperClass(TabMapper.class);
    job.setNumReduceTasks(0);


    Job standard = new Job(job.getConfiguration());
    File fl = new File(TestUtils.sampleArtistsDat());
    long splitSize = fl.length() / 3;
    TextInputFormat.setMaxInputSplitSize(standard, splitSize);
    TextInputFormat.setMinInputSplitSize(standard, 50);

    standard.setMapperClass(TabMapper.class);
    standard.setMapOutputValueClass(LinkedMapWritable.class);
    TextInputFormat.addInputPath(standard, new Path(TestUtils.sampleArtistsDat(conf)));

    Job json = new Job(job.getConfiguration());
    json.setMapperClass(Mapper.class);
    json.setMapOutputValueClass(Text.class);
    json.getConfiguration().set(ConfigurationOptions.ES_INPUT_JSON, "true");
    TextInputFormat.addInputPath(json, new Path(TestUtils.sampleArtistsJson(conf)));

    return Arrays.asList(new Object[][] {
            { standard, "" },
            { json, "json-" } });
}
 
開發者ID:xushjie1987,項目名稱:es-hadoop-v2.2.0,代碼行數:34,代碼來源:AbstractMRNewApiSaveTest.java


注:本文中的org.apache.hadoop.mapreduce.lib.input.TextInputFormat.setMaxInputSplitSize方法示例由純淨天空整理自Github/MSDocs等開源代碼及文檔管理平台,相關代碼片段篩選自各路編程大神貢獻的開源項目,源碼版權歸原作者所有,傳播和使用請參考對應項目的License;未經允許,請勿轉載。