डेटाफ़्रेम कैसे पिवट करें?

Nov 07 2017
  • धुरी क्या है?
  • मैं कैसे धुरी?
  • क्या यह एक धुरी है?
  • लंबे प्रारूप से विस्तृत प्रारूप?

मैंने बहुत सारे प्रश्न देखे हैं जो पिवट टेबल के बारे में पूछते हैं। यहां तक ​​कि अगर वे नहीं जानते कि वे धुरी तालिकाओं के बारे में पूछ रहे हैं, तो वे आमतौर पर होते हैं। वस्तुतः एक कैनोनिकल प्रश्न लिखना और उत्तर देना असंभव है जो धुरी के सभी पहलुओं को समाहित करता है ...

... लेकिन मैं इसे देने जा रहा हूँ।


मौजूदा सवालों और जवाबों के साथ समस्या यह है कि अक्सर सवाल एक बारीकियों पर केंद्रित होता है कि ओपी को मौजूदा कई अच्छे उत्तरों का उपयोग करने के लिए सामान्यीकरण में परेशानी होती है। हालाँकि, कोई भी उत्तर व्यापक स्पष्टीकरण देने का प्रयास नहीं करता (क्योंकि यह एक कठिन काम है)

मेरी Google खोज से कुछ उदाहरण देखें

  1. पंडों में डेटाफ्रेम कैसे पिवट करें?
  • अच्छा सवाल और जवाब। लेकिन जवाब केवल विशिष्ट प्रश्न का थोड़ा स्पष्टीकरण के साथ उत्तर देता है।
  1. पांडा फ्रेम डेटा तालिका के लिए धुरी
  • इस प्रश्न में, ओपी धुरी के उत्पादन से संबंधित है। अर्थात् कॉलम कैसे दिखते हैं। ओपी चाहता था कि वह आर की तरह दिखे। यह पांडास उपयोगकर्ताओं के लिए बहुत उपयोगी नहीं है।
  1. पांडा एक डेटाफ्रेम, डुप्लिकेट पंक्तियों को पिवट करता है
  • एक और सभ्य सवाल है, लेकिन जवाब एक विधि पर केंद्रित है, अर्थात् pd.DataFrame.pivot

इसलिए जब भी कोई खोजता है pivotतो उन्हें छिटपुट परिणाम मिलते हैं जो संभवत: उनके विशिष्ट प्रश्न का उत्तर देने के लिए नहीं होते हैं।


सेट अप

आप देख सकते हैं कि मैंने अपने कॉलम और संबंधित कॉलम मानों को स्पष्ट रूप से नामित किया है कि कैसे मैं नीचे दिए गए उत्तरों में धुरी जा रहा हूं।

import numpy as np
import pandas as pd
from numpy.core.defchararray import add

np.random.seed([3,1415])
n = 20

cols = np.array(['key', 'row', 'item', 'col'])
arr1 = (np.random.randint(5, size=(n, 4)) // [2, 1, 2, 1]).astype(str)

df = pd.DataFrame(
    add(cols, arr1), columns=cols
).join(
    pd.DataFrame(np.random.rand(n, 2).round(2)).add_prefix('val')
)
print(df)

     key   row   item   col  val0  val1
0   key0  row3  item1  col3  0.81  0.04
1   key1  row2  item1  col2  0.44  0.07
2   key1  row0  item1  col0  0.77  0.01
3   key0  row4  item0  col2  0.15  0.59
4   key1  row0  item2  col1  0.81  0.64
5   key1  row2  item2  col4  0.13  0.88
6   key2  row4  item1  col3  0.88  0.39
7   key1  row4  item1  col1  0.10  0.07
8   key1  row0  item2  col4  0.65  0.02
9   key1  row2  item0  col2  0.35  0.61
10  key2  row0  item2  col1  0.40  0.85
11  key2  row4  item1  col2  0.64  0.25
12  key0  row2  item2  col3  0.50  0.44
13  key0  row4  item1  col4  0.24  0.46
14  key1  row3  item2  col3  0.28  0.11
15  key0  row3  item1  col1  0.31  0.23
16  key0  row0  item2  col3  0.86  0.01
17  key0  row4  item0  col3  0.64  0.21
18  key2  row2  item2  col0  0.13  0.45
19  key0  row2  item0  col4  0.37  0.70

प्रशन)

  1. मुझे क्यों मिलता है ValueError: Index contains duplicate entries, cannot reshape

  2. मैं कैसे धुरी करता हूं dfजैसे colमान स्तंभ हैं, rowमान सूचकांक हैं, और val0मान मान हैं?

     col   col0   col1   col2   col3  col4
     row                                  
     row0  0.77  0.605    NaN  0.860  0.65
     row2  0.13    NaN  0.395  0.500  0.25
     row3   NaN  0.310    NaN  0.545   NaN
     row4   NaN  0.100  0.395  0.760  0.24
    
  3. मैं कैसे धुरी करता हूं dfजैसे colमान स्तंभ हैं, rowमान सूचकांक val0हैं, मान मान हैं, और लापता मान हैं 0?

     col   col0   col1   col2   col3  col4
     row                                  
     row0  0.77  0.605  0.000  0.860  0.65
     row2  0.13  0.000  0.395  0.500  0.25
     row3  0.00  0.310  0.000  0.545  0.00
     row4  0.00  0.100  0.395  0.760  0.24
    
  4. क्या मुझे इसके अलावा कुछ मिल सकता है mean, जैसे कि हो सकता है sum?

     col   col0  col1  col2  col3  col4
     row                               
     row0  0.77  1.21  0.00  0.86  0.65
     row2  0.13  0.00  0.79  0.50  0.50
     row3  0.00  0.31  0.00  1.09  0.00
     row4  0.00  0.10  0.79  1.52  0.24
    
  5. क्या मैं एक बार में अधिक एकत्रीकरण कर सकता हूं?

            sum                          mean                           
     col   col0  col1  col2  col3  col4  col0   col1   col2   col3  col4
     row                                                                
     row0  0.77  1.21  0.00  0.86  0.65  0.77  0.605  0.000  0.860  0.65
     row2  0.13  0.00  0.79  0.50  0.50  0.13  0.000  0.395  0.500  0.25
     row3  0.00  0.31  0.00  1.09  0.00  0.00  0.310  0.000  0.545  0.00
     row4  0.00  0.10  0.79  1.52  0.24  0.00  0.100  0.395  0.760  0.24
    
  6. क्या मैं कई मान स्तंभों पर एकत्र कर सकता हूं?

           val0                             val1                          
     col   col0   col1   col2   col3  col4  col0   col1  col2   col3  col4
     row                                                                  
     row0  0.77  0.605  0.000  0.860  0.65  0.01  0.745  0.00  0.010  0.02
     row2  0.13  0.000  0.395  0.500  0.25  0.45  0.000  0.34  0.440  0.79
     row3  0.00  0.310  0.000  0.545  0.00  0.00  0.230  0.00  0.075  0.00
     row4  0.00  0.100  0.395  0.760  0.24  0.00  0.070  0.42  0.300  0.46
    
  7. क्या कई स्तंभों द्वारा उपखंड बनाया जा सकता है?

     item item0             item1                         item2                   
     col   col2  col3  col4  col0  col1  col2  col3  col4  col0   col1  col3  col4
     row                                                                          
     row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.605  0.86  0.65
     row2  0.35  0.00  0.37  0.00  0.00  0.44  0.00  0.00  0.13  0.000  0.50  0.13
     row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.000  0.28  0.00
     row4  0.15  0.64  0.00  0.00  0.10  0.64  0.88  0.24  0.00  0.000  0.00  0.00
    
  8. या

     item      item0             item1                         item2                  
     col        col2  col3  col4  col0  col1  col2  col3  col4  col0  col1  col3  col4
     key  row                                                                         
     key0 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.86  0.00
          row2  0.00  0.00  0.37  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.50  0.00
          row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.00  0.00  0.00
          row4  0.15  0.64  0.00  0.00  0.00  0.00  0.00  0.24  0.00  0.00  0.00  0.00
     key1 row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.81  0.00  0.65
          row2  0.35  0.00  0.00  0.00  0.00  0.44  0.00  0.00  0.00  0.00  0.00  0.13
          row3  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.28  0.00
          row4  0.00  0.00  0.00  0.00  0.10  0.00  0.00  0.00  0.00  0.00  0.00  0.00
     key2 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.40  0.00  0.00
          row2  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.13  0.00  0.00  0.00
          row4  0.00  0.00  0.00  0.00  0.00  0.64  0.88  0.00  0.00  0.00  0.00  0.00
    
  9. क्या मैं उस आवृत्ति को एकत्र कर सकता हूं जिसमें स्तंभ और पंक्तियाँ एक साथ होती हैं, उर्फ़ "क्रॉस सारणीकरण"?

     col   col0  col1  col2  col3  col4
     row                               
     row0     1     2     0     1     1
     row2     1     0     2     1     2
     row3     0     1     0     2     0
     row4     0     1     2     2     1
    
  10. मैं केवल दो स्तंभों पर पिवट करके डेटाफ़्रेम को लंबे समय से व्यापक में कैसे परिवर्तित करूं? दिया हुआ,

    np.random.seed([3, 1415])
    df2 = pd.DataFrame({'A': list('aaaabbbc'), 'B': np.random.choice(15, 8)})        
    df2        
       A   B
    0  a   0
    1  a  11
    2  a   2
    3  a  11
    4  b  10
    5  b  10
    6  b  14
    7  c   7
    

    उम्मीद कुछ इस तरह दिखनी चाहिए

          a     b    c
    0   0.0  10.0  7.0
    1  11.0  10.0  NaN
    2   2.0  14.0  NaN
    3  11.0   NaN  NaN
    
  11. मैं एक के बाद एक सूचकांक में कई सूचकांक कैसे समतल करूं pivot

    से

       1  2   
       1  1  2        
    a  2  1  1
    b  2  1  0
    c  1  0  0
    

    सेवा

       1|1  2|1  2|2               
    a    2    1    1
    b    2    1    0
    c    1    0    0
    

जवाब

333 piRSquared Nov 07 2017 at 15:00

हम पहले प्रश्न का उत्तर देकर शुरू करते हैं:

प्रश्न 1

मुझे क्यों मिलता है ValueError: Index contains duplicate entries, cannot reshape

ऐसा इसलिए होता है क्योंकि पांडा columnsया तो indexडुप्लिकेट प्रविष्टियों के साथ या ऑब्जेक्ट को फिर से जोड़ने का प्रयास कर रहा है । उपयोग करने के लिए अलग-अलग तरीके हैं जो एक धुरी का प्रदर्शन कर सकते हैं। उनमें से कुछ अच्छी तरह से अनुकूल नहीं हैं, जब उन कुंजियों के डुप्लिकेट होते हैं, जिनमें इसे धुरी पर रखने के लिए कहा जा रहा है। उदाहरण के लिए। विचार करें pd.DataFrame.pivot। मुझे पता है कि डुप्लिकेट प्रविष्टियाँ हैं जो मूल्यों rowऔर colमूल्यों को साझा करती हैं:

df.duplicated(['row', 'col']).any()

True

इसलिए जब मैं pivotउपयोग कर रहा हूं

df.pivot(index='row', columns='col', values='val0')

मुझे ऊपर उल्लिखित त्रुटि मिलती है। वास्तव में, मुझे वही त्रुटि मिलती है जब मैं उसी कार्य को करने की कोशिश करता हूं:

df.set_index(['row', 'col'])['val0'].unstack()

यहाँ उन मुहावरों की एक सूची दी गई है जिनका उपयोग हम धुरी में कर सकते हैं

  1. pd.DataFrame.groupby + pd.DataFrame.unstack
    • किसी भी प्रकार की धुरी के बारे में करने के लिए अच्छा सामान्य दृष्टिकोण
    • आप उन सभी स्तंभों को निर्दिष्ट करते हैं जो एक समूह में pivoted पंक्ति स्तरों और स्तंभ स्तरों का गठन करेंगे। आप इसका अनुसरण करते हैं कि आप जो शेष कॉलम एकत्र करना चाहते हैं उसका चयन करके और उस फ़ंक्शन को एकत्र करना चाहते हैं। अंत में, आप unstackअपने स्तर को कॉलम इंडेक्स में रखना चाहते हैं।
  2. pd.DataFrame.pivot_table
    • groupbyअधिक सहज एपीआई के साथ एक गौरवशाली संस्करण । कई लोगों के लिए, यह पसंदीदा तरीका है। और डेवलपर्स द्वारा इच्छित दृष्टिकोण है।
    • एकत्रीकरण करने के लिए पंक्ति स्तर, स्तंभ स्तर, एकत्र किए जाने वाले मान और फ़ंक्शन (यों) निर्दिष्ट करें।
  3. pd.DataFrame.set_index + pd.DataFrame.unstack
    • कुछ के लिए सुविधाजनक और सहज (स्वयं शामिल)। डुप्लिकेट समूहीकृत कुंजी को संभाल नहीं सकते।
    • groupbyप्रतिमान के समान , हम उन सभी स्तंभों को निर्दिष्ट करते हैं जो अंततः पंक्ति या स्तंभ स्तर होंगे और उन्हें अनुक्रमणिका के रूप में सेट करेंगे। हम तब unstackकॉलमों में जो स्तर चाहते हैं। यदि या तो शेष सूचकांक स्तर या स्तंभ स्तर अद्वितीय नहीं हैं, तो यह विधि विफल हो जाएगी।
  4. pd.DataFrame.pivot
    • इसमें बहुत कुछ समान है set_indexकि यह डुप्लिकेट कुंजी सीमा साझा करता है। एपीआई बहुत ही सीमित है। यह केवल के लिए अदिश मूल्यों लेता है index, columns, values
    • उस pivot_tableपद्धति के समान है जिसमें हम पंक्तियों, स्तंभों और मूल्यों का चयन करते हैं, जिन पर धुरी है। हालाँकि, हम समग्र नहीं कर सकते हैं और यदि पंक्ति या स्तंभ अद्वितीय नहीं हैं, तो यह विधि विफल हो जाएगी।
  5. pd.crosstab
    • यह एक विशिष्ट संस्करण है pivot_tableऔर इसमें शुद्ध रूप कई कार्यों को करने का सबसे सहज तरीका है।
  6. pd.factorize + np.bincount
    • यह एक अत्यधिक उन्नत तकनीक है जो बहुत अस्पष्ट है लेकिन बहुत तेज है। इसका उपयोग सभी परिस्थितियों में नहीं किया जा सकता है, लेकिन जब इसका उपयोग किया जा सकता है और आप इसका उपयोग करने में सहज होते हैं, तो आप प्रदर्शन पुरस्कारों को प्राप्त करेंगे।
  7. pd.get_dummies + pd.DataFrame.dot
    • मैं इसका उपयोग चतुराई से क्रॉस टेब्यूलेशन के लिए करता हूं।

उदाहरण

बाद के प्रत्येक उत्तर और प्रश्न के लिए मैं क्या करने जा रहा हूं, इसका उपयोग करके उत्तर देना है pd.DataFrame.pivot_table। फिर मैं उसी कार्य को करने के लिए विकल्प प्रदान करूँगा।

प्रश्न 3

मैं कैसे धुरी करता हूं dfजैसे colमान स्तंभ हैं, rowमान सूचकांक val0हैं, मान मान हैं, और लापता मान हैं 0?

  • pd.DataFrame.pivot_table

    • fill_valueडिफ़ॉल्ट रूप से सेट नहीं किया गया है। मैं इसे उचित रूप से सेट करता हूं। इस मामले में मैंने इसे निर्धारित किया है 0। ध्यान दें, मैंने प्रश्न 2 को छोड़ दिया है क्योंकि यह बिना इस उत्तर के समान हैfill_value
    • aggfunc='mean'डिफ़ॉल्ट है और मुझे इसे सेट करने की आवश्यकता नहीं है। मैंने इसे स्पष्ट करने के लिए शामिल किया।

      df.pivot_table(
          values='val0', index='row', columns='col',
          fill_value=0, aggfunc='mean')
      
      col   col0   col1   col2   col3  col4
      row                                  
      row0  0.77  0.605  0.000  0.860  0.65
      row2  0.13  0.000  0.395  0.500  0.25
      row3  0.00  0.310  0.000  0.545  0.00
      row4  0.00  0.100  0.395  0.760  0.24
      
  • pd.DataFrame.groupby

    df.groupby(['row', 'col'])['val0'].mean().unstack(fill_value=0)
    
  • pd.crosstab

    pd.crosstab(
        index=df['row'], columns=df['col'],
        values=df['val0'], aggfunc='mean').fillna(0)
    

प्रश्न 4

क्या मुझे इसके अलावा कुछ मिल सकता है mean, जैसे कि हो सकता है sum?

  • pd.DataFrame.pivot_table

    df.pivot_table(
        values='val0', index='row', columns='col',
        fill_value=0, aggfunc='sum')
    
    col   col0  col1  col2  col3  col4
    row                               
    row0  0.77  1.21  0.00  0.86  0.65
    row2  0.13  0.00  0.79  0.50  0.50
    row3  0.00  0.31  0.00  1.09  0.00
    row4  0.00  0.10  0.79  1.52  0.24
    
  • pd.DataFrame.groupby

    df.groupby(['row', 'col'])['val0'].sum().unstack(fill_value=0)
    
  • pd.crosstab

    pd.crosstab(
        index=df['row'], columns=df['col'],
        values=df['val0'], aggfunc='sum').fillna(0)
    

प्रश्न 5

क्या मैं एक बार में अधिक एकत्रीकरण कर सकता हूं?

ध्यान दें कि pivot_tableऔर crosstabमुझे कॉलबल्स की सूची पास करने की आवश्यकता है। दूसरी ओर, groupby.aggसीमित संख्या में विशेष कार्यों के लिए तार लेने में सक्षम है। groupby.aggहमने उन्हीं कॉलबल्स को भी लिया होगा जो हम दूसरों के पास गए थे, लेकिन स्ट्रिंग फ़ंक्शन नामों का लाभ उठाने के लिए अक्सर यह अधिक कुशल होता है क्योंकि प्राप्त करने के लिए क्षमताएँ होती हैं।

  • pd.DataFrame.pivot_table

    df.pivot_table(
        values='val0', index='row', columns='col',
        fill_value=0, aggfunc=[np.size, np.mean])
    
         size                      mean                           
    col  col0 col1 col2 col3 col4  col0   col1   col2   col3  col4
    row                                                           
    row0    1    2    0    1    1  0.77  0.605  0.000  0.860  0.65
    row2    1    0    2    1    2  0.13  0.000  0.395  0.500  0.25
    row3    0    1    0    2    0  0.00  0.310  0.000  0.545  0.00
    row4    0    1    2    2    1  0.00  0.100  0.395  0.760  0.24
    
  • pd.DataFrame.groupby

    df.groupby(['row', 'col'])['val0'].agg(['size', 'mean']).unstack(fill_value=0)
    
  • pd.crosstab

    pd.crosstab(
        index=df['row'], columns=df['col'],
        values=df['val0'], aggfunc=[np.size, np.mean]).fillna(0, downcast='infer')
    

प्रश्न 6

क्या मैं कई मान स्तंभों पर एकत्र कर सकता हूं?

  • pd.DataFrame.pivot_table we pass values=['val0', 'val1'] but we could've left that off completely

    df.pivot_table(
        values=['val0', 'val1'], index='row', columns='col',
        fill_value=0, aggfunc='mean')
    
          val0                             val1                          
    col   col0   col1   col2   col3  col4  col0   col1  col2   col3  col4
    row                                                                  
    row0  0.77  0.605  0.000  0.860  0.65  0.01  0.745  0.00  0.010  0.02
    row2  0.13  0.000  0.395  0.500  0.25  0.45  0.000  0.34  0.440  0.79
    row3  0.00  0.310  0.000  0.545  0.00  0.00  0.230  0.00  0.075  0.00
    row4  0.00  0.100  0.395  0.760  0.24  0.00  0.070  0.42  0.300  0.46
    
  • pd.DataFrame.groupby

    df.groupby(['row', 'col'])['val0', 'val1'].mean().unstack(fill_value=0)
    

Question 7

Can Subdivide by multiple columns?

  • pd.DataFrame.pivot_table

    df.pivot_table(
        values='val0', index='row', columns=['item', 'col'],
        fill_value=0, aggfunc='mean')
    
    item item0             item1                         item2                   
    col   col2  col3  col4  col0  col1  col2  col3  col4  col0   col1  col3  col4
    row                                                                          
    row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.605  0.86  0.65
    row2  0.35  0.00  0.37  0.00  0.00  0.44  0.00  0.00  0.13  0.000  0.50  0.13
    row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.000  0.28  0.00
    row4  0.15  0.64  0.00  0.00  0.10  0.64  0.88  0.24  0.00  0.000  0.00  0.00
    
  • pd.DataFrame.groupby

    df.groupby(
        ['row', 'item', 'col']
    )['val0'].mean().unstack(['item', 'col']).fillna(0).sort_index(1)
    

Question 8

Can Subdivide by multiple columns?

  • pd.DataFrame.pivot_table

    df.pivot_table(
        values='val0', index=['key', 'row'], columns=['item', 'col'],
        fill_value=0, aggfunc='mean')
    
    item      item0             item1                         item2                  
    col        col2  col3  col4  col0  col1  col2  col3  col4  col0  col1  col3  col4
    key  row                                                                         
    key0 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.86  0.00
         row2  0.00  0.00  0.37  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.50  0.00
         row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.00  0.00  0.00
         row4  0.15  0.64  0.00  0.00  0.00  0.00  0.00  0.24  0.00  0.00  0.00  0.00
    key1 row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.81  0.00  0.65
         row2  0.35  0.00  0.00  0.00  0.00  0.44  0.00  0.00  0.00  0.00  0.00  0.13
         row3  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.28  0.00
         row4  0.00  0.00  0.00  0.00  0.10  0.00  0.00  0.00  0.00  0.00  0.00  0.00
    key2 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.40  0.00  0.00
         row2  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.13  0.00  0.00  0.00
         row4  0.00  0.00  0.00  0.00  0.00  0.64  0.88  0.00  0.00  0.00  0.00  0.00
    
  • pd.DataFrame.groupby

    df.groupby(
        ['key', 'row', 'item', 'col']
    )['val0'].mean().unstack(['item', 'col']).fillna(0).sort_index(1)
    
  • pd.DataFrame.set_index because the set of keys are unique for both rows and columns

    df.set_index(
        ['key', 'row', 'item', 'col']
    )['val0'].unstack(['item', 'col']).fillna(0).sort_index(1)
    

Question 9

Can I aggregate the frequency in which the column and rows occur together, aka "cross tabulation"?

  • pd.DataFrame.pivot_table

    df.pivot_table(index='row', columns='col', fill_value=0, aggfunc='size')
    
        col   col0  col1  col2  col3  col4
    row                               
    row0     1     2     0     1     1
    row2     1     0     2     1     2
    row3     0     1     0     2     0
    row4     0     1     2     2     1
    
  • pd.DataFrame.groupby

    df.groupby(['row', 'col'])['val0'].size().unstack(fill_value=0)
    
  • pd.crosstab

    pd.crosstab(df['row'], df['col'])
    
  • pd.factorize + np.bincount

    # get integer factorization `i` and unique values `r`
    # for column `'row'`
    i, r = pd.factorize(df['row'].values)
    # get integer factorization `j` and unique values `c`
    # for column `'col'`
    j, c = pd.factorize(df['col'].values)
    # `n` will be the number of rows
    # `m` will be the number of columns
    n, m = r.size, c.size
    # `i * m + j` is a clever way of counting the 
    # factorization bins assuming a flat array of length
    # `n * m`.  Which is why we subsequently reshape as `(n, m)`
    b = np.bincount(i * m + j, minlength=n * m).reshape(n, m)
    # BTW, whenever I read this, I think 'Bean, Rice, and Cheese'
    pd.DataFrame(b, r, c)
    
          col3  col2  col0  col1  col4
    row3     2     0     0     1     0
    row2     1     2     1     0     2
    row0     1     0     1     2     1
    row4     2     2     0     1     1
    
  • pd.get_dummies

    pd.get_dummies(df['row']).T.dot(pd.get_dummies(df['col']))
    
          col0  col1  col2  col3  col4
    row0     1     2     0     1     1
    row2     1     0     2     1     2
    row3     0     1     0     2     0
    row4     0     1     2     2     1
    

Question 10

How do I convert a DataFrame from long to wide by pivoting on ONLY two columns?

The first step is to assign a number to each row - this number will be the row index of that value in the pivoted result. This is done using GroupBy.cumcount:

df2.insert(0, 'count', df.groupby('A').cumcount())
df2

   count  A   B
0      0  a   0
1      1  a  11
2      2  a   2
3      3  a  11
4      0  b  10
5      1  b  10
6      2  b  14
7      0  c   7

The second step is to use the newly created column as the index to call DataFrame.pivot.

df2.pivot(*df)
# df.pivot(index='count', columns='A', values='B')

A         a     b    c
count                 
0       0.0  10.0  7.0
1      11.0  10.0  NaN
2       2.0  14.0  NaN
3      11.0   NaN  NaN

Question 11

How do I flatten the multiple index to single index after pivot

If columns type object with string join

df.columns = df.columns.map('|'.join)

else format

df.columns = df.columns.map('{0[0]}|{0[1]}'.format) 
6 Ch3steR Jun 05 2020 at 23:08

To extend @piRSquared's answer another version of Question 10

Question 10.1

DataFrame:

d = data = {'A': {0: 1, 1: 1, 2: 1, 3: 2, 4: 2, 5: 3, 6: 5},
 'B': {0: 'a', 1: 'b', 2: 'c', 3: 'a', 4: 'b', 5: 'a', 6: 'c'}}
df = pd.DataFrame(d)

   A  B
0  1  a
1  1  b
2  1  c
3  2  a
4  2  b
5  3  a
6  5  c

Output:

   0     1     2
A
1  a     b     c
2  a     b  None
3  a  None  None
5  c  None  None

Using df.groupby and pd.Series.tolist

t = df.groupby('A')['B'].apply(list)
out = pd.DataFrame(t.tolist(),index=t.index)
out
   0     1     2
A
1  a     b     c
2  a     b  None
3  a  None  None
5  c  None  None

Or A much better alternative using pd.pivot_table with df.squeeze.

t = df.pivot_table(index='A',values='B',aggfunc=list).squeeze()
out = pd.DataFrame(t.tolist(),index=t.index)