Python: como você extrai dados diários da web dinâmica usando Python?

Question

O código a seguir funciona, mas para após 29 de fevereiro. O site retorna "você inseriu uma data inválida. Por favor, insira novamente sua pesquisa", que precisa clicar em "OK". Como faço para contornar isso?

country_search("United States")
time.sleep(2)
date_select = Select(driver.find_element_by_name("dr")) 
date_select.select_by_visible_text("Enter date range...") #All Dates
select_economic_news()
#btnModifySearch
for month in range(1,9):
for day in range(1,32):
    try:
    
        set_from_month(month)
        set_from_date(day)
        set_from_year("2020")
        set_to_month(month)
        set_to_date(day)
        set_to_year("2020")
                
        time.sleep(5)
        #select_economic_news()
        time.sleep(5)
        search_now()
        time.sleep(8)                
                
        export_csv()
        modify_search()
        
        time.sleep(5)        
        #country_remove()
    except ElementClickInterceptedException:
        break

sair()

Answer 1

Se você só pode usar os métodos apresentados na postagem inicial, então eu tentaria algo como:

set_from_year('2020')
set_to_year('2020')
for month in range(1, 9):
    # 1 to 9 for Jan to Aug
    month_str = '0' + str(month)
    set_from_month(month_str)
    set_to_month(month_str)
    for day in range(1, 32):
        # Assuming an error is thrown for invalid days
        try:
            # Store data as needed
        except Exception as e:
            # print(e) to learn from error if needed
            pass

Há muito mais informações sobre isso se você descobrir que você está escrevendo esses métodos e precisa fazer um loop no HTML e encontrar um padrão para os dados diários.

Answer 2

Eu acredito que você deseja obter dinamicamente o número de dias em um mês, de modo que você possa fazer um loop sobre esse número para obter dados para cada data. Você pode fazer isso da seguinte maneira:

from datetime import datetime
currentDay = datetime.today()
# You can set the currentDay using this if you want the data till the current date or 
# whenever your scheduler runs the job.


# Now you need to get the number of days in each month from the chosen date, you can 
# have the corresponding function like getStartMonth() in your program which will 
# return the starting month.  
from calendar import monthrange
daysPerMonth = {}
year = currentDay.year #TODO : change this to getStartYear()
startMonth = 3 # TODO : Implement getStartMonth() in your code.
for month in range(startMonth, currentDay.month+1):
    # monthrange returns (weekday,number of days in that month)
    daysPerMonth[month] = monthrange(year, month)[1]

for month in daysPerMonth.items(): 
    print(month[0], '-',month[1])

Isso produzirá algo assim ( número de dias em um mês de - março de 2020 até agosto de 2020 ):

3 - 31
4 - 30
5 - 31
6 - 30
7 - 31
8 - 31

E então você pode executar um loop por número de dias enquanto se refere ao intervalo do dict que você obteve. NOTA: Na função onde você está executando o loop para obter os dados de cada data, adicione uma condição if para verificar se é o último dia do ano e modifique o ano de acordo.

Answer 3

Talvez você possa usar estas funções para obter a contagem de dias do mês:

import datetime


def get_month_days_count(year: int, month: int) -> int:
    date = datetime.datetime(year, month, 1)
    while (date + datetime.timedelta(days=1)).month == month:
        date = date + datetime.timedelta(days=1)
    return date.day