Apache Pig-그룹 운영자

그만큼 GROUP연산자는 하나 이상의 관계에서 데이터를 그룹화하는 데 사용됩니다. 동일한 키를 가진 데이터를 수집합니다.

통사론

아래에 주어진 구문은 group 운영자.

grunt> Group_data = GROUP Relation_name BY age;

예

다음과 같은 파일이 있다고 가정합니다. student_details.txt HDFS 디렉토리에서 /pig_data/ 아래 그림과 같이.

student_details.txt

001,Rajiv,Reddy,21,9848022337,Hyderabad
002,siddarth,Battacharya,22,9848022338,Kolkata
003,Rajesh,Khanna,22,9848022339,Delhi
004,Preethi,Agarwal,21,9848022330,Pune
005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
006,Archana,Mishra,23,9848022335,Chennai
007,Komal,Nayak,24,9848022334,trivendram
008,Bharathi,Nambiayar,24,9848022333,Chennai

그리고이 파일을 관계 이름으로 Apache Pig에로드했습니다. student_details 아래 그림과 같이.

grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
   as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);

이제 아래와 같이 관계에서 레코드 / 튜플을 연령별로 그룹화 해 보겠습니다.

grunt> group_data = GROUP student_details by age;

확인

관계 확인 group_data 사용 DUMP 연산자는 아래와 같습니다.

grunt> Dump group_data;

산출

그러면 다음과 같은 관계의 내용을 표시하는 출력이 표시됩니다. group_data아래 그림과 같이. 여기서 결과 스키마에 두 개의 열이 있음을 알 수 있습니다.

하나는 age, 관계를 그룹화했습니다.
다른 하나는 bag, 여기에는 튜플 그룹이 포함되어 있으며 각 연령의 학생 레코드입니다.

(21,{(4,Preethi,Agarwal,21,9848022330,Pune),(1,Rajiv,Reddy,21,9848022337,Hydera bad)})
(22,{(3,Rajesh,Khanna,22,9848022339,Delhi),(2,siddarth,Battacharya,22,984802233 8,Kolkata)})
(23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)})
(24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)})

다음을 사용하여 데이터를 그룹화 한 후 테이블의 스키마를 볼 수 있습니다. describe 아래와 같이 명령.

grunt> Describe group_data;
  
group_data: {group: int,student_details: {(id: int,firstname: chararray,
               lastname: chararray,age: int,phone: chararray,city: chararray)}}

같은 방법으로 다음을 사용하여 스키마의 샘플 그림을 얻을 수 있습니다. illustrate 아래와 같이 명령.

$ Illustrate group_data;

다음과 같은 출력이 생성됩니다.

------------------------------------------------------------------------------------------------- 
|group_data|  group:int | student_details:bag{:tuple(id:int,firstname:chararray,lastname:chararray,age:int,phone:chararray,city:chararray)}|
------------------------------------------------------------------------------------------------- 
|          |     21     | { 4, Preethi, Agarwal, 21, 9848022330, Pune), (1, Rajiv, Reddy, 21, 9848022337, Hyderabad)}| 
|          |     2      | {(2,siddarth,Battacharya,22,9848022338,Kolkata),(003,Rajesh,Khanna,22,9848022339,Delhi)}| 
-------------------------------------------------------------------------------------------------

여러 열로 그룹화

아래 그림과 같이 연령과 도시별로 관계를 그룹화하겠습니다.

grunt> group_multiple = GROUP student_details by (age, city);

다음과 같은 관계의 내용을 확인할 수 있습니다. group_multiple 아래와 같이 Dump 연산자를 사용합니다.

grunt> Dump group_multiple; 
  
((21,Pune),{(4,Preethi,Agarwal,21,9848022330,Pune)})
((21,Hyderabad),{(1,Rajiv,Reddy,21,9848022337,Hyderabad)})
((22,Delhi),{(3,Rajesh,Khanna,22,9848022339,Delhi)})
((22,Kolkata),{(2,siddarth,Battacharya,22,9848022338,Kolkata)})
((23,Chennai),{(6,Archana,Mishra,23,9848022335,Chennai)})
((23,Bhuwaneshwar),{(5,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar)})
((24,Chennai),{(8,Bharathi,Nambiayar,24,9848022333,Chennai)})
(24,trivendram),{(7,Komal,Nayak,24,9848022334,trivendram)})

모두 그룹화

아래와 같이 모든 열을 기준으로 관계를 그룹화 할 수 있습니다.

grunt> group_all = GROUP student_details All;

이제 관계의 내용을 확인하십시오. group_all 아래 그림과 같이.

grunt> Dump group_all;  
  
(all,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334 ,trivendram), 
(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336,Bhuw aneshwar), 
(4,Preethi,Agarwal,21,9848022330,Pune),(3,Rajesh,Khanna,22,9848022339,Delhi), 
(2,siddarth,Battacharya,22,9848022338,Kolkata),(1,Rajiv,Reddy,21,9848022337,Hyd erabad)})