當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Apache Pig PluckTuple()用法及代碼示例



在執行 join 等操作區分兩個模式的列後,我們使用函數PluckTuple().要使用這個函數,首先,我們必須定義一個字符串前綴,我們必須過濾以該前綴開頭的關係中的列。

用法

下麵給出的是PluckTuple()函數。

DEFINE pluck PluckTuple(expression1) 
DEFINE pluck PluckTuple(expression1,expression3) 
pluck(expression2)

示例

假設我們有兩個文件,即emp_sales.txtemp_bonus.txt在 HDFS 目錄中/pig_data/。這emp_sales.txt包含銷售部門員工的詳細信息和emp_bonus.txt包含獲得獎金的員工詳細信息。

emp_sales.txt

1,Robin,22,25000,sales 
2,BOB,23,30000,sales 
3,Maya,23,25000,sales 
4,Sara,25,40000,sales 
5,David,23,45000,sales 
6,Maggy,22,35000,sales

emp_bonus.txt

1,Robin,22,25000,sales 
2,Jaya,23,20000,admin 
3,Maya,23,25000,sales 
4,Alia,25,50000,admin 
5,David,23,45000,sales
6,Omar,30,30000,admin

我們已經將這些文件加載​​到 Pig 中,並帶有關係名稱emp_salesemp_bonus分別。

grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
	
grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);

使用join操作符如下圖。

grunt> join_data = join emp_sales by sno, emp_bonus by sno;

驗證關係join_data使用Dump操作員。

grunt> Dump join_data;
 
(1,Robin,22,25000,sales,1,Robin,22,25000,sales)
(2,BOB,23,30000,sales,2,Jaya,23,20000,admin)
(3,Maya,23,25000,sales,3,Maya,23,25000,sales)
(4,Sara,25,40000,sales,4,Alia,25,50000,admin) 
(5,David,23,45000,sales,5,David,23,45000,sales) 
(6,Maggy,22,35000,sales,6,Omar,30,30000,admin)

使用 PluckTuple() 函數

現在,定義您想要使用的區分列的所需表達式PluckTupe()函數。

grunt> DEFINE pluck PluckTuple('a::');

過濾列中的join_data關係如下圖。

grunt> data = foreach join_data generate FLATTEN(pluck(*));

描述名為的關係data如下所示。

grunt> Describe data;
 
data:{emp_sales::sno:int, emp_sales::name:chararray, emp_sales::age:int,
   emp_sales::salary:int, emp_sales::dept:chararray, emp_bonus::sno:int,
   emp_bonus::name:chararray, emp_bonus::age:int, emp_bonus::salary:int,
   emp_bonus::dept:chararray}

由於我們已經將表達式定義為“a::”, 的列emp_sales模式被提取為emp_sales::column name和列emp_bonus模式被提取為emp_bonus::column name

相關用法


注:本文由純淨天空篩選整理自 Apache Pig - PluckTuple()。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。