Come utilizzare ChatGPT per automatizzare il web scraping

Feb 20 2023
Il processo di raccolta dei dati dai siti Web utilizzando script automatici è noto come Web Scraping. ChatGPT, un potente modello di linguaggio sviluppato da OpenAI, ha la capacità di generare codice per il web scraping.

Il processo di raccolta dei dati dai siti Web utilizzando script automatici è noto come Web Scraping. ChatGPT, un potente modello di linguaggio sviluppato da OpenAI, ha la capacità di generare codice per il web scraping. Esploriamo come funziona...

IMDb è una fonte di riferimento per informazioni su film, programmi TV e varie forme di intrattenimento. Presenta una classifica dei film più votati, con i primi 250 film elencatihttps://www.imdb.com/chart/top/?ref_=nv_mv_250. Questo grafico include dettagli come il titolo, il cast, il regista e la valutazione IMDb di ogni film.

consente di utilizzare il web scraping per estrarre informazioni sui film con Python e la bellissima libreria di zuppe da questo sito Web. suggeriamo Chatgpt

è un potente strumento per aiutarci a creare il codice necessario, usiamo Chatgpt per implementare questa attività seguendo la richiesta.

“Raschiare il webhttps://www.imdb.com/chart/top/?ref_=nv_mv_250con Python e BeautifulSoup”

Chatgpt è l'implementazione specifica della risposta passo dopo passo e il codice sorgente in Python di seguito

quindi, questo è già un buon risultato e ci aiuta a comprendere appieno come la sorgente del codice sta svolgendo il suo compito, tuttavia, dobbiamo avere l'esecuzione in un file, quindi dobbiamo solo copiare e incollare, chiederemo di nuovo a Chatgpt per fornire lo scripting web Python in un solo file:

Si prega di fornire il codice in un unico file.

Good ChatGPT sta rispondendo con il codice sorgente completo e completo, come puoi vedere di seguito:

puoi vedere il codice sorgente Python completo che è stato generato da ChatGPT:

Verifichiamo se il codice sorgente funziona come previsto. Pertanto, per prima cosa, dobbiamo creare un nuovo file:

E poi dobbiamo copiare e incollare il codice in webscrape.py:

Avviamo Python scrivendo il seguente comando sulla riga del Terminale

Lo script funziona e dopo pochi secondi puoi vedere che è stato creato un nuovo file imdb_top_movies.cvs che include le informazioni sul film estratte in formato CSV.

ChatGPT ha generato un web scraping che funziona fuori dagli schemi. Non è necessario adattare manualmente il codice. Questo è un buon risultato.

Nella nostra richiesta originale a ChatGPT, non abbiamo specificato quali informazioni sui film devono essere estratte dal sito web. ChatGPT ha deciso di estrarre il nome del film e l'anno di pubblicazione. Diciamo che vorremmo includere anche la valutazione. scrivi quanto segue in ChatGPT:

Also retrieve the IMDb rating for each film

ChatGPT fornisce istruzioni dettagliate e frammenti di codice per modificare il codice esistente per includere ed estrarre anche le informazioni sulla valutazione:

Ora potremmo chiedere nuovamente a ChatGPT di incorporare queste modifiche nello script:

Please give me the full code in one with, with the try-except block

quindi Chatgpt genererà nuovamente lo script Python completo, comprese le modifiche per estrarre le informazioni aggiuntive dal sito Web:

Conclusione

Il tutorial ha dimostrato che ChatGPT è uno strumento efficace per la generazione di script per il web scraping. Fornendo semplicemente i nostri requisiti di base a ChatGPT, abbiamo ricevuto uno script Python pronto per l'esecuzione, rendendo il processo di web scraping molto più semplice e permettendoci di iniziare rapidamente senza la necessità di alcuna modifica.