Как распечатать этот список в DataFrame -Python / BeautifulSoup
Oct 22 2020
Выходные данные для этого кода печатают каждую строку на веб-сайте, указанном ниже.
Однако он также включает теги. По сути, я хотел бы распечатать все строки в dataFrame, который я могу поместить в Excel.
.text не будет работать, потому что я использую find_all, так как есть теги, которые повторяются по имени.
Каким будет процесс удаления нежелательных тегов, а затем поместить список в DF, реплицируя веб-сайт?
Благодарю.
import requests
from bs4 import BeautifulSoup
import pandas as pd
productlinks=[]
r=requests.get(url)
soup= BeautifulSoup(r.content,'html.parser')
content=soup.find_all('tr')
for item in content:
title=item.find_all('td')
print(title)
Ответы
1 AndrejKesely Oct 22 2020 at 04:03
Самый простой способ - использовать pandas.read_html:
import pandas as pd
url='https://sitc.sitcancer.org/2020/abstracts/titles/'
df = pd.read_html(url)[0]
print(df)
df.to_csv('data.csv', index=False)
Печать:
# ... Keywords
0 1 ... Adoptive immunotherapy; Monocyte/Macrophage; T...
1 2 ... CAR T cells; Immune monitoring; Inflammation; ...
2 3 ... Antibody; Biomarkers; Immune monitoring; T cel...
3 4 ... Biomarkers; RNA; Solid tumors; Tumor microenvi...
4 5 ... Antibody; B cell; Biomarkers; Immune monitorin...
.. ... ... ...
730 752 ... Gene expression; Neoantigens; Regulatory T cel...
731 753 ... Gene expression; Neoantigens; Regulatory T cel...
732 754 ... Biomarkers; Chemokine; Chemotherapy; Costimula...
733 755 ... Chemokine; Granulocyte; Myeloid cells; MDSC; T...
734 756 ... Gene expression; Immune contexture; Immune sup...
[735 rows x 6 columns]
И сохраняет data.csv(скриншот из LibreOffice):
