Apache Pig - ผู้ดำเนินการกลุ่ม
GROUPตัวดำเนินการใช้เพื่อจัดกลุ่มข้อมูลในความสัมพันธ์อย่างน้อยหนึ่งความสัมพันธ์ รวบรวมข้อมูลที่มีคีย์เดียวกัน
ไวยากรณ์
ด้านล่างนี้เป็นไวยากรณ์ของไฟล์ group ตัวดำเนินการ
grunt> Group_data = GROUP Relation_name BY age;
ตัวอย่าง
สมมติว่าเรามีไฟล์ชื่อ student_details.txt ในไดเร็กทอรี HDFS /pig_data/ ดังแสดงด้านล่าง
student_details.txt
001,Rajiv,Reddy,21,9848022337,Hyderabad
002,siddarth,Battacharya,22,9848022338,Kolkata
003,Rajesh,Khanna,22,9848022339,Delhi
004,Preethi,Agarwal,21,9848022330,Pune
005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
006,Archana,Mishra,23,9848022335,Chennai
007,Komal,Nayak,24,9848022334,trivendram
008,Bharathi,Nambiayar,24,9848022333,Chennai
และเราได้โหลดไฟล์นี้ลงใน Apache Pig ด้วยชื่อความสัมพันธ์ student_details ดังแสดงด้านล่าง
grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);
ตอนนี้ให้เราจัดกลุ่มเร็กคอร์ด / ทูเปิลตามความสัมพันธ์ตามอายุดังแสดงด้านล่าง
grunt> group_data = GROUP student_details by age;
การยืนยัน
ตรวจสอบความสัมพันธ์ group_data ใช้ DUMP ตัวดำเนินการดังที่แสดงด้านล่าง
grunt> Dump group_data;
เอาต์พุต
จากนั้นคุณจะได้รับผลลัพธ์ที่แสดงเนื้อหาของความสัมพันธ์ที่ตั้งชื่อ group_dataดังแสดงด้านล่าง ที่นี่คุณสามารถสังเกตได้ว่าสคีมาที่เป็นผลลัพธ์มีสองคอลัมน์ -
หนึ่งคือ ageซึ่งเราได้จัดกลุ่มความสัมพันธ์
อีกอันคือก bagซึ่งประกอบด้วยกลุ่มทูเปิลบันทึกของนักเรียนตามอายุตามลำดับ
(21,{(4,Preethi,Agarwal,21,9848022330,Pune),(1,Rajiv,Reddy,21,9848022337,Hydera bad)})
(22,{(3,Rajesh,Khanna,22,9848022339,Delhi),(2,siddarth,Battacharya,22,984802233 8,Kolkata)})
(23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)})
(24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)})
คุณสามารถดูสคีมาของตารางหลังจากจัดกลุ่มข้อมูลโดยใช้ไฟล์ describe คำสั่งดังที่แสดงด้านล่าง
grunt> Describe group_data;
group_data: {group: int,student_details: {(id: int,firstname: chararray,
lastname: chararray,age: int,phone: chararray,city: chararray)}}
ในทำนองเดียวกันคุณสามารถรับภาพประกอบตัวอย่างของสคีมาโดยใช้ไฟล์ illustrate คำสั่งดังที่แสดงด้านล่าง
$ Illustrate group_data;
มันจะให้ผลลัพธ์ดังต่อไปนี้ -
-------------------------------------------------------------------------------------------------
|group_data| group:int | student_details:bag{:tuple(id:int,firstname:chararray,lastname:chararray,age:int,phone:chararray,city:chararray)}|
-------------------------------------------------------------------------------------------------
| | 21 | { 4, Preethi, Agarwal, 21, 9848022330, Pune), (1, Rajiv, Reddy, 21, 9848022337, Hyderabad)}|
| | 2 | {(2,siddarth,Battacharya,22,9848022338,Kolkata),(003,Rajesh,Khanna,22,9848022339,Delhi)}|
-------------------------------------------------------------------------------------------------
จัดกลุ่มตามหลายคอลัมน์
ให้เราจัดกลุ่มความสัมพันธ์ตามอายุและเมืองดังที่แสดงด้านล่าง
grunt> group_multiple = GROUP student_details by (age, city);
คุณสามารถตรวจสอบเนื้อหาของความสัมพันธ์ที่ชื่อ group_multiple โดยใช้ตัวดำเนินการถ่ายโอนข้อมูลดังที่แสดงด้านล่าง
grunt> Dump group_multiple;
((21,Pune),{(4,Preethi,Agarwal,21,9848022330,Pune)})
((21,Hyderabad),{(1,Rajiv,Reddy,21,9848022337,Hyderabad)})
((22,Delhi),{(3,Rajesh,Khanna,22,9848022339,Delhi)})
((22,Kolkata),{(2,siddarth,Battacharya,22,9848022338,Kolkata)})
((23,Chennai),{(6,Archana,Mishra,23,9848022335,Chennai)})
((23,Bhuwaneshwar),{(5,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar)})
((24,Chennai),{(8,Bharathi,Nambiayar,24,9848022333,Chennai)})
(24,trivendram),{(7,Komal,Nayak,24,9848022334,trivendram)})
กลุ่มทั้งหมด
คุณสามารถจัดกลุ่มความสัมพันธ์ตามคอลัมน์ทั้งหมดดังที่แสดงด้านล่าง
grunt> group_all = GROUP student_details All;
ตอนนี้ตรวจสอบเนื้อหาของความสัมพันธ์ group_all ดังแสดงด้านล่าง
grunt> Dump group_all;
(all,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334 ,trivendram),
(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336,Bhuw aneshwar),
(4,Preethi,Agarwal,21,9848022330,Pune),(3,Rajesh,Khanna,22,9848022339,Delhi),
(2,siddarth,Battacharya,22,9848022338,Kolkata),(1,Rajiv,Reddy,21,9848022337,Hyd erabad)})