Apache Pig PigStorage()用法及代碼示例

這個PigStorage()函數將數據加載和存儲為結構化文本文件。它需要一個分隔符，使用它分隔元組的每個實體作為參數。默認情況下，需要‘\t’作為參數。

用法

下麵給出的是PigStorage()函數。

grunt> PigStorage(field_delimiter)

示例

假設我們有一個名為的文件student_data.txt在名為的 HDFS 目錄中/data/有以下內容。

001,Rajiv,Reddy,9848022337,Hyderabad
002,siddarth,Battacharya,9848022338,Kolkata 
003,Rajesh,Khanna,9848022339,Delhi  
004,Preethi,Agarwal,9848022330,Pune 
005,Trupthi,Mohanthy,9848022336,Bhuwaneshwar
006,Archana,Mishra,9848022335,Chennai.

我們可以使用 PigStorage 函數加載數據，如下所示。

grunt> student = LOAD 'hdfs://localhost:9000/pig_data/student_data.txt' USING PigStorage(',')
   as ( id:int, firstname:chararray, lastname:chararray, phone:chararray, city:chararray );

在上麵的例子中，我們已經看到我們使用了逗號(‘,’)分隔符。因此，我們使用分隔記錄的值(,)。

同理，我們可以使用PigStorage()函數將數據存儲到 HDFS 目錄中，如下所示。

grunt> STORE student INTO ' hdfs://localhost:9000/pig_Output/ ' USING PigStorage (',');

這會將數據存儲到給定的目錄中。您可以驗證數據，如下所示。

確認

您可以驗證存儲的數據，如下所示。首先列出目錄下的文件pig_output使用ls命令如下圖。

$ hdfs dfs -ls 'hdfs://localhost:9000/pig_Output/'
 
Found 2 items 
rw-r--r- 1 Hadoop supergroup 0 2015-10-05 13:03 hdfs://localhost:9000/pig_Output/_SUCCESS
 
rw-r--r- 1 Hadoop supergroup 224 2015-10-05 13:03 hdfs://localhost:9000/pig_Output/part-m-00000

可以觀察到執行後創建了兩個文件Store陳述。

然後，使用cat命令，列出名為的文件的內容part-m-00000如下所示。

$ hdfs dfs -cat 'hdfs://localhost:9000/pig_Output/part-m-00000'
  
1,Rajiv,Reddy,9848022337,Hyderabad  
2,siddarth,Battacharya,9848022338,Kolkata  
3,Rajesh,Khanna,9848022339,Delhi  
4,Preethi,Agarwal,9848022330,Pune  
5,Trupthi,Mohanthy,9848022336,Bhuwaneshwar 
6,Archana,Mishra,9848022335,Chennai