Apache Pig - Opérateur de groupe

le GROUPL'opérateur est utilisé pour regrouper les données dans une ou plusieurs relations. Il collecte les données ayant la même clé.

Syntaxe

Ci-dessous, la syntaxe du group opérateur.

grunt> Group_data = GROUP Relation_name BY age;

Exemple

Supposons que nous ayons un fichier nommé student_details.txt dans le répertoire HDFS /pig_data/ comme indiqué ci-dessous.

student_details.txt

001,Rajiv,Reddy,21,9848022337,Hyderabad
002,siddarth,Battacharya,22,9848022338,Kolkata
003,Rajesh,Khanna,22,9848022339,Delhi
004,Preethi,Agarwal,21,9848022330,Pune
005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
006,Archana,Mishra,23,9848022335,Chennai
007,Komal,Nayak,24,9848022334,trivendram
008,Bharathi,Nambiayar,24,9848022333,Chennai

Et nous avons chargé ce fichier dans Apache Pig avec le nom de la relation student_details comme indiqué ci-dessous.

grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
   as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);

Maintenant, regroupons les enregistrements / tuples dans la relation par âge comme indiqué ci-dessous.

grunt> group_data = GROUP student_details by age;

Vérification

Vérifier la relation group_data en utilisant le DUMP opérateur comme indiqué ci-dessous.

grunt> Dump group_data;

Production

Ensuite, vous obtiendrez une sortie affichant le contenu de la relation nommée group_datacomme indiqué ci-dessous. Ici, vous pouvez observer que le schéma résultant a deux colonnes -

L'un est age, par lequel nous avons regroupé la relation.
L'autre est un bag, qui contient le groupe de tuples, les enregistrements d'étudiants avec l'âge respectif.

(21,{(4,Preethi,Agarwal,21,9848022330,Pune),(1,Rajiv,Reddy,21,9848022337,Hydera bad)})
(22,{(3,Rajesh,Khanna,22,9848022339,Delhi),(2,siddarth,Battacharya,22,984802233 8,Kolkata)})
(23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)})
(24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)})

Vous pouvez voir le schéma de la table après avoir regroupé les données à l'aide du describe comme indiqué ci-dessous.

grunt> Describe group_data;
  
group_data: {group: int,student_details: {(id: int,firstname: chararray,
               lastname: chararray,age: int,phone: chararray,city: chararray)}}

De la même manière, vous pouvez obtenir l'exemple d'illustration du schéma en utilisant le illustrate comme indiqué ci-dessous.

$ Illustrate group_data;

Il produira la sortie suivante -

------------------------------------------------------------------------------------------------- 
|group_data|  group:int | student_details:bag{:tuple(id:int,firstname:chararray,lastname:chararray,age:int,phone:chararray,city:chararray)}|
------------------------------------------------------------------------------------------------- 
|          |     21     | { 4, Preethi, Agarwal, 21, 9848022330, Pune), (1, Rajiv, Reddy, 21, 9848022337, Hyderabad)}| 
|          |     2      | {(2,siddarth,Battacharya,22,9848022338,Kolkata),(003,Rajesh,Khanna,22,9848022339,Delhi)}| 
-------------------------------------------------------------------------------------------------

Regroupement par plusieurs colonnes

Regroupons la relation par âge et par ville comme indiqué ci-dessous.

grunt> group_multiple = GROUP student_details by (age, city);

Vous pouvez vérifier le contenu de la relation nommée group_multiple en utilisant l'opérateur Dump comme indiqué ci-dessous.

grunt> Dump group_multiple; 
  
((21,Pune),{(4,Preethi,Agarwal,21,9848022330,Pune)})
((21,Hyderabad),{(1,Rajiv,Reddy,21,9848022337,Hyderabad)})
((22,Delhi),{(3,Rajesh,Khanna,22,9848022339,Delhi)})
((22,Kolkata),{(2,siddarth,Battacharya,22,9848022338,Kolkata)})
((23,Chennai),{(6,Archana,Mishra,23,9848022335,Chennai)})
((23,Bhuwaneshwar),{(5,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar)})
((24,Chennai),{(8,Bharathi,Nambiayar,24,9848022333,Chennai)})
(24,trivendram),{(7,Komal,Nayak,24,9848022334,trivendram)})

Regrouper tout

Vous pouvez regrouper une relation par toutes les colonnes comme indiqué ci-dessous.

grunt> group_all = GROUP student_details All;

Maintenant, vérifiez le contenu de la relation group_all comme indiqué ci-dessous.

grunt> Dump group_all;  
  
(all,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334 ,trivendram), 
(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336,Bhuw aneshwar), 
(4,Preethi,Agarwal,21,9848022330,Pune),(3,Rajesh,Khanna,22,9848022339,Delhi), 
(2,siddarth,Battacharya,22,9848022338,Kolkata),(1,Rajiv,Reddy,21,9848022337,Hyd erabad)})