Colunas duplicadas em Julia Dataframes

Aug 25 2020

Em Python Pandas e R, pode-se livrar-se facilmente de colunas duplicadas - basta carregar os dados, atribuir os nomes das colunas e selecionar aquelas que não estão duplicadas.

Quais são as melhores práticas para lidar com esses dados com Julia Dataframes? A atribuição de nomes de coluna duplicados não é permitida aqui. Eu entendo que a única maneira seria massagear mais os dados recebidos e se livrar desses dados antes de construir um Dataframe.

O fato é que quase sempre é mais fácil lidar com colunas duplicadas no dataframe que já está construído, em vez de nos dados de entrada.

UPD: quis dizer os nomes das colunas duplicadas. Eu construo dataframe de dados brutos, onde nomes de colunas (e, portanto, dados) podem ser repetidos.

UPD2: exemplo de Python adicionado.

>>> import numpy as np
>>> import pandas as pd
>>> df = pd.DataFrame(np.hstack([np.zeros((4,1)), np.ones((4,2))]), columns=["a", "b", "b"])
>>> df
     a    b    b
0  0.0  1.0  1.0
1  0.0  1.0  1.0
2  0.0  1.0  1.0
3  0.0  1.0  1.0
>>> df.loc[:, ~df.columns.duplicated()]
     a    b
0  0.0  1.0
1  0.0  1.0
2  0.0  1.0
3  0.0  1.0

Eu construo meu Julia Dataframe a partir de uma matriz Float32 e, em seguida, atribuo nomes de coluna de um vetor. É aí que preciso me livrar das colunas com nomes duplicados (já presentes no dataframe). Essa é a natureza dos dados subjacentes, às vezes tem dups, às vezes não, não tenho controle sobre sua criação.

Respostas

2 BogumiłKamiński Aug 24 2020 at 23:38

É algo que você está procurando (não estava 100% certo de sua descrição - se não é isso que você quer, atualize a pergunta com um exemplo):

julia> df = DataFrame([zeros(4,3) ones(4,5)])
4×8 DataFrame
│ Row │ x1      │ x2      │ x3      │ x4      │ x5      │ x6      │ x7      │ x8      │
│     │ Float64 │ Float64 │ Float64 │ Float64 │ Float64 │ Float64 │ Float64 │ Float64 │
├─────┼─────────┼─────────┼─────────┼─────────┼─────────┼─────────┼─────────┼─────────┤
│ 1   │ 0.0     │ 0.0     │ 0.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │
│ 2   │ 0.0     │ 0.0     │ 0.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │
│ 3   │ 0.0     │ 0.0     │ 0.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │
│ 4   │ 0.0     │ 0.0     │ 0.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │ 1.0     │

julia> DataFrame(unique(last, pairs(eachcol(df))))
4×2 DataFrame
│ Row │ x1      │ x4      │
│     │ Float64 │ Float64 │
├─────┼─────────┼─────────┤
│ 1   │ 0.0     │ 1.0     │
│ 2   │ 0.0     │ 1.0     │
│ 3   │ 0.0     │ 1.0     │
│ 4   │ 0.0     │ 1.0     │

EDITAR

Para desduplicar nomes de coluna, use o makeuniqueargumento de palavra-chave:

julia> DataFrame(rand(3,4), [:x, :x, :x, :x], makeunique=true)
3×4 DataFrame
│ Row │ x         │ x_1      │ x_2      │ x_3       │
│     │ Float64   │ Float64  │ Float64  │ Float64   │
├─────┼───────────┼──────────┼──────────┼───────────┤
│ 1   │ 0.410494  │ 0.775563 │ 0.819916 │ 0.0520466 │
│ 2   │ 0.0503997 │ 0.427499 │ 0.262234 │ 0.965793  │
│ 3   │ 0.838595  │ 0.996305 │ 0.833607 │ 0.953539  │

EDITAR 2

Portanto, você parece ter acesso aos nomes das colunas ao criar um quadro de dados. Nesse caso, eu faria:

julia> mat = [ones(3,1) zeros(3,2)]
3×3 Array{Float64,2}:
 1.0  0.0  0.0
 1.0  0.0  0.0
 1.0  0.0  0.0

julia> cols = ["a", "b", "b"]
3-element Array{String,1}:
 "a"
 "b"
 "b"

julia> df = DataFrame(mat, cols, makeunique=true)
3×3 DataFrame
│ Row │ a       │ b       │ b_1     │
│     │ Float64 │ Float64 │ Float64 │
├─────┼─────────┼─────────┼─────────┤
│ 1   │ 1.0     │ 0.0     │ 0.0     │
│ 2   │ 1.0     │ 0.0     │ 0.0     │
│ 3   │ 1.0     │ 0.0     │ 0.0     │

julia> select!(df, unique(cols))
3×2 DataFrame
│ Row │ a       │ b       │
│     │ Float64 │ Float64 │
├─────┼─────────┼─────────┤
│ 1   │ 1.0     │ 0.0     │
│ 2   │ 1.0     │ 0.0     │
│ 3   │ 1.0     │ 0.0     │