Apache Pig - Operator Cogroup

Plik COGROUPoperator działa mniej więcej tak samo, jak operator GROUP . Jedyną różnicą między tymi dwoma operatorami jest to, żegroup operator jest zwykle używany z jedną relacją, podczas gdy cogroup operator jest używany w instrukcjach obejmujących dwie lub więcej relacji.

Grupowanie dwóch relacji za pomocą Cogroup

Załóżmy, że mamy dwa pliki, a mianowicie student_details.txt i employee_details.txt w katalogu HDFS /pig_data/ jak pokazano niżej.

student_details.txt

001,Rajiv,Reddy,21,9848022337,Hyderabad
002,siddarth,Battacharya,22,9848022338,Kolkata
003,Rajesh,Khanna,22,9848022339,Delhi
004,Preethi,Agarwal,21,9848022330,Pune
005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
006,Archana,Mishra,23,9848022335,Chennai
007,Komal,Nayak,24,9848022334,trivendram
008,Bharathi,Nambiayar,24,9848022333,Chennai

employee_details.txt

001,Robin,22,newyork 
002,BOB,23,Kolkata 
003,Maya,23,Tokyo 
004,Sara,25,London 
005,David,23,Bhuwaneshwar 
006,Maggy,22,Chennai

Załadowaliśmy te pliki do Pig z nazwami relacji student_details i employee_details odpowiednio, jak pokazano poniżej.

grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
   as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray); 
  
grunt> employee_details = LOAD 'hdfs://localhost:9000/pig_data/employee_details.txt' USING PigStorage(',')
   as (id:int, name:chararray, age:int, city:chararray);

Teraz pogrupujmy rekordy / krotki relacji student_details i employee_details z kluczowym wiekiem, jak pokazano poniżej.

grunt> cogroup_data = COGROUP student_details by age, employee_details by age;

Weryfikacja

Sprawdź relację cogroup_data używając DUMP operator, jak pokazano poniżej.

grunt> Dump cogroup_data;

Wynik

Spowoduje to wyświetlenie następującego wyniku, wyświetlając zawartość nazwanej relacji cogroup_data jak pokazano niżej.

(21,{(4,Preethi,Agarwal,21,9848022330,Pune), (1,Rajiv,Reddy,21,9848022337,Hyderabad)}, 
   {    })  
(22,{ (3,Rajesh,Khanna,22,9848022339,Delhi), (2,siddarth,Battacharya,22,9848022338,Kolkata) },  
   { (6,Maggy,22,Chennai),(1,Robin,22,newyork) })  
(23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)}, 
   {(5,David,23,Bhuwaneshwar),(3,Maya,23,Tokyo),(2,BOB,23,Kolkata)}) 
(24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)}, 
   { })  
(25,{   }, 
   {(4,Sara,25,London)})

Plik cogroup operator grupuje krotki z każdej relacji według wieku, gdzie każda grupa przedstawia określoną wartość wieku.

Na przykład, jeśli weźmiemy pod uwagę pierwszą krotkę wyniku, zostanie on pogrupowany według wieku 21 lat i zawiera dwie torby -

pierwszy worek zawiera wszystkie krotki z pierwszej relacji (student_details w tym przypadku) mając 21 lat i
drugi worek zawiera wszystkie krotki z drugiej relacji (employee_details w tym przypadku) mając 21 lat.

W przypadku, gdy relacja nie ma krotek o wartości wieku 21, zwraca pusty worek.