Apache Pig DIFF()用法及代码示例

这个DIFF()Pig Latin 的函数用于比较元组中的两个包(字段)。它需要一个元组的两个字段作为输入并匹配它们。如果它们匹配，则返回一个空包。如果它们不匹配，它会查找在一个字段(包)中存在但在另一个字段中找不到的元素，并通过将它们包装在一个包中来返回这些元素。

用法

下面给出的是DIFF()函数。

grunt> DIFF (expression, expression)

示例

一般情况下DIFF()函数比较元组中的两个包。下面给出它的例子，这里我们创建两个关系，将它们组合在一起，并计算它们之间的差异。

假设我们有两个文件，即emp_sales.txt和emp_bonus.txt在 HDFS 目录中/pig_data/如下所示。这emp_sales.txt包含销售部门员工的详细信息和emp_bonus.txt包含获得奖金的员工详细信息。

emp_sales.txt

1,Robin,22,25000,sales 
2,BOB,23,30000,sales 
3,Maya,23,25000,sales 
4,Sara,25,40000,sales 
5,David,23,45000,sales 
6,Maggy,22,35000,sales

emp_bonus.txt

1,Robin,22,25000,sales 
2,Jaya,23,20000,admin 
3,Maya,23,25000,sales 
4,Alia,25,50000,admin 
5,David,23,45000,sales 
6,Omar,30,30000,admin

我们已经将这些文件加载​​到 Pig 中，并带有关系名称emp_sales和emp_bonus分别。

grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
	
grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);

对关系的记录/元组进行分组emp_sales和emp_bonus用钥匙sno,使用 COGROUP 运算符，如下所示。

grunt> cogroup_data = COGROUP emp_sales by sno, emp_bonus by sno;

验证关系cogroup_data使用DUMP操作符如下图。

grunt> Dump cogroup_data;
  
(1,{(1,Robin,22,25000,sales)},{(1,Robin,22,25000,sales)}) 
(2,{(2,BOB,23,30000,sales)},{(2,Jaya,23,20000,admin)}) 
(3,{(3,Maya,23,25000,sales)},{(3,Maya,23,25000,sales)}) 
(4,{(4,Sara,25,40000,sales)},{(4,Alia,25,50000,admin)}) 
(5,{(5,David,23,45000,sales)},{(5,David,23,45000,sales)}) 
(6,{(6,Maggy,22,35000,sales)},{(6,Omar,30,30000,admin)})

计算两种关系之间的差异

现在让我们计算两个关系之间的差异DIFF()函数并将其存储在关系中diff_data如下所示。

grunt> diff_data = FOREACH cogroup_data GENERATE DIFF(emp_sales,emp_bonus);

确认

验证关系diff_data使用 DUMP 运算符，如下所示。

grunt> Dump diff_data;
   
({}) 
({(2,BOB,23,30000,sales),(2,Jaya,23,20000,admin)}) 
({}) 
({(4,Sara,25,40000,sales),(4,Alia,25,50000,admin)}) 
({}) 
({(6,Maggy,22,35000,sales),(6,Omar,30,30000,admin)})

这个diff_data如果记录中的记录，关系将有一个空元组emp_bonus和emp_sales比赛。在其他情况下，它将保存来自两个关系的元组(不同的元组)。

例如，如果您认为记录具有sno如1，那么您会发现它们在两个关系中都相同 ((1,Robin,22,25000,sales), (1,Robin,22,25000,sales))。因此，在diff_data关系，这是结果DIFF()函数，你会得到一个空元组sno 1。