Apache Pig DIFF()用法及代碼示例

這個DIFF()Pig Latin 的函數用於比較元組中的兩個包(字段)。它需要一個元組的兩個字段作為輸入並匹配它們。如果它們匹配，則返回一個空包。如果它們不匹配，它會查找在一個字段(包)中存在但在另一個字段中找不到的元素，並通過將它們包裝在一個包中來返回這些元素。

用法

下麵給出的是DIFF()函數。

grunt> DIFF (expression, expression)

示例

一般情況下DIFF()函數比較元組中的兩個包。下麵給出它的例子，這裏我們創建兩個關係，將它們組合在一起，並計算它們之間的差異。

假設我們有兩個文件，即emp_sales.txt和emp_bonus.txt在 HDFS 目錄中/pig_data/如下所示。這emp_sales.txt包含銷售部門員工的詳細信息和emp_bonus.txt包含獲得獎金的員工詳細信息。

emp_sales.txt

1,Robin,22,25000,sales 
2,BOB,23,30000,sales 
3,Maya,23,25000,sales 
4,Sara,25,40000,sales 
5,David,23,45000,sales 
6,Maggy,22,35000,sales

emp_bonus.txt

1,Robin,22,25000,sales 
2,Jaya,23,20000,admin 
3,Maya,23,25000,sales 
4,Alia,25,50000,admin 
5,David,23,45000,sales 
6,Omar,30,30000,admin

我們已經將這些文件加載​​到 Pig 中，並帶有關係名稱emp_sales和emp_bonus分別。

grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
	
grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);

對關係的記錄/元組進行分組emp_sales和emp_bonus用鑰匙sno,使用 COGROUP 運算符，如下所示。

grunt> cogroup_data = COGROUP emp_sales by sno, emp_bonus by sno;

驗證關係cogroup_data使用DUMP操作符如下圖。

grunt> Dump cogroup_data;
  
(1,{(1,Robin,22,25000,sales)},{(1,Robin,22,25000,sales)}) 
(2,{(2,BOB,23,30000,sales)},{(2,Jaya,23,20000,admin)}) 
(3,{(3,Maya,23,25000,sales)},{(3,Maya,23,25000,sales)}) 
(4,{(4,Sara,25,40000,sales)},{(4,Alia,25,50000,admin)}) 
(5,{(5,David,23,45000,sales)},{(5,David,23,45000,sales)}) 
(6,{(6,Maggy,22,35000,sales)},{(6,Omar,30,30000,admin)})

計算兩種關係之間的差異

現在讓我們計算兩個關係之間的差異DIFF()函數並將其存儲在關係中diff_data如下所示。

grunt> diff_data = FOREACH cogroup_data GENERATE DIFF(emp_sales,emp_bonus);

確認

驗證關係diff_data使用 DUMP 運算符，如下所示。

grunt> Dump diff_data;
   
({}) 
({(2,BOB,23,30000,sales),(2,Jaya,23,20000,admin)}) 
({}) 
({(4,Sara,25,40000,sales),(4,Alia,25,50000,admin)}) 
({}) 
({(6,Maggy,22,35000,sales),(6,Omar,30,30000,admin)})

這個diff_data如果記錄中的記錄，關係將有一個空元組emp_bonus和emp_sales比賽。在其他情況下，它將保存來自兩個關係的元組(不同的元組)。

例如，如果您認為記錄具有sno如1，那麽您會發現它們在兩個關係中都相同 ((1,Robin,22,25000,sales), (1,Robin,22,25000,sales))。因此，在diff_data關係，這是結果DIFF()函數，你會得到一個空元組sno 1。