Python - bancos de dados relacionais
Podemos nos conectar a bancos de dados relacionais para analisar dados usando o pandasbiblioteca, bem como outra biblioteca adicional para implementar conectividade de banco de dados. Este pacote é nomeado comosqlalchemy que fornece funcionalidade completa da linguagem SQL para ser usada em python.
Instalando SQLAlchemy
A instalação é muito direta usando o Anaconda, que discutimos no capítulo Ambiente de Ciência de Dados . Assumindo que você instalou o Anaconda conforme descrito neste capítulo, execute o seguinte comando na janela de prompt do Anaconda para instalar o pacote SQLAlchemy.
conda install sqlalchemy
Lendo tabelas relacionais
Usaremos o Sqlite3 como nosso banco de dados relacional, pois é muito leve e fácil de usar. Embora a biblioteca SQLAlchemy possa se conectar a uma variedade de fontes relacionais, incluindo MySql, Oracle e Postgresql e Mssql. Primeiro criamos um mecanismo de banco de dados e, em seguida, nos conectamos a ele usando oto_sql função da biblioteca SQLAlchemy.
No exemplo a seguir, criamos a tabela relacional usando o to_sqlfunção de um dataframe já criado lendo um arquivo csv. Então usamos oread_sql_query função do pandas para executar e capturar os resultados de várias consultas SQL.
from sqlalchemy import create_engine
import pandas as pd
data = pd.read_csv('/path/input.csv')
# Create the db engine
engine = create_engine('sqlite:///:memory:')
# Store the dataframe as a table
data.to_sql('data_table', engine)
# Query 1 on the relational table
res1 = pd.read_sql_query('SELECT * FROM data_table', engine)
print('Result 1')
print(res1)
print('')
# Query 2 on the relational table
res2 = pd.read_sql_query('SELECT dept,sum(salary) FROM data_table group by dept', engine)
print('Result 2')
print(res2)
Quando executamos o código acima, ele produz o seguinte resultado.
Result 1
index id name salary start_date dept
0 0 1 Rick 623.30 2012-01-01 IT
1 1 2 Dan 515.20 2013-09-23 Operations
2 2 3 Tusar 611.00 2014-11-15 IT
3 3 4 Ryan 729.00 2014-05-11 HR
4 4 5 Gary 843.25 2015-03-27 Finance
5 5 6 Rasmi 578.00 2013-05-21 IT
6 6 7 Pranab 632.80 2013-07-30 Operations
7 7 8 Guru 722.50 2014-06-17 Finance
Result 2
dept sum(salary)
0 Finance 1565.75
1 HR 729.00
2 IT 1812.30
3 Operations 1148.00
Inserindo Dados em Tabelas Relacionais
Também podemos inserir dados em tabelas relacionais usando a função sql.execute disponível no pandas. No código a seguir, nós o arquivo csv anterior como conjunto de dados de entrada, armazenamos em uma tabela relacional e então inserimos outro registro usando sql.execute.
from sqlalchemy import create_engine
from pandas.io import sql
import pandas as pd
data = pd.read_csv('C:/Users/Rasmi/Documents/pydatasci/input.csv')
engine = create_engine('sqlite:///:memory:')
# Store the Data in a relational table
data.to_sql('data_table', engine)
# Insert another row
sql.execute('INSERT INTO data_table VALUES(?,?,?,?,?,?)', engine, params=[('id',9,'Ruby',711.20,'2015-03-27','IT')])
# Read from the relational table
res = pd.read_sql_query('SELECT ID,Dept,Name,Salary,start_date FROM data_table', engine)
print(res)
Quando executamos o código acima, ele produz o seguinte resultado.
id dept name salary start_date
0 1 IT Rick 623.30 2012-01-01
1 2 Operations Dan 515.20 2013-09-23
2 3 IT Tusar 611.00 2014-11-15
3 4 HR Ryan 729.00 2014-05-11
4 5 Finance Gary 843.25 2015-03-27
5 6 IT Rasmi 578.00 2013-05-21
6 7 Operations Pranab 632.80 2013-07-30
7 8 Finance Guru 722.50 2014-06-17
8 9 IT Ruby 711.20 2015-03-27
Exclusão de dados de tabelas relacionais
Também podemos deletar dados em tabelas relacionais usando a função sql.execute disponível no pandas. O código a seguir exclui uma linha com base na condição de entrada fornecida.
from sqlalchemy import create_engine
from pandas.io import sql
import pandas as pd
data = pd.read_csv('C:/Users/Rasmi/Documents/pydatasci/input.csv')
engine = create_engine('sqlite:///:memory:')
data.to_sql('data_table', engine)
sql.execute('Delete from data_table where name = (?) ', engine, params=[('Gary')])
res = pd.read_sql_query('SELECT ID,Dept,Name,Salary,start_date FROM data_table', engine)
print(res)
Quando executamos o código acima, ele produz o seguinte resultado.
id dept name salary start_date
0 1 IT Rick 623.3 2012-01-01
1 2 Operations Dan 515.2 2013-09-23
2 3 IT Tusar 611.0 2014-11-15
3 4 HR Ryan 729.0 2014-05-11
4 6 IT Rasmi 578.0 2013-05-21
5 7 Operations Pranab 632.8 2013-07-30
6 8 Finance Guru 722.5 2014-06-17