Exemplo de tradução de texto para SQL com transformadores Huggingface

Neste artigo, acompanho de perto o notebook detalhado de Manuel Romero com pequenos ajustes, como a substituição do modelo pequeno T5 pelo modelo base T5 (aumentando assim o número de parâmetros treináveis ​​de 60M para cerca de 223M ). Detalhes completos da análise podem ser encontrados neste notebook Kaggle público .

Como resultado do treinamento durante 5 épocas (leva cerca de 2 horas de GPU NVIDIA TESLA P100 disponível para usuários do Kaggle ), o ROUGE2 Fscore correspondente é de cerca de 0,7904 , ou 2,86 pontos percentuais a mais do que o obtido no notebook inicial :

Alguns dos exemplos previstos de tradução de texto para SQL realizada pelo modelo treinado, juntamente com as consultas SQL esperadas:

translate to SQL: What is terrence ross' nationality
Predicted: SELECT Nationality FROM table WHERE Player = Terrence Ross
Expected: SELECT Nationality FROM table WHERE Player = Terrence Ross

translate to SQL: how many schools or teams had jalen rose
Predicted: SELECT COUNT School/Club Team FROM table WHERE Player = Jalen Rose
Expected: SELECT COUNT School/Club Team FROM table WHERE Player = Jalen Rose

translate to SQL: What was the date of the race in Misano?
Predicted: SELECT Date FROM table WHERE Location = misano
Expected: SELECT Date FROM table WHERE Circuit = Misano

translate to SQL: How many different college/junior/club teams provided a player to the Washington Capitals NHL Team?
Predicted: SELECT COUNT College/junior/club team FROM table WHERE NHL Team = Washington Capitals
Expected: SELECT COUNT College/junior/club team FROM table WHERE NHL team = Washington Capitals

translate to SQL: What is the nationality of the player from Vancouver Canucks?
Predicted: SELECT Nationality FROM table WHERE NHL team = Vancouver Canucks
Expected: SELECT Nationality FROM table WHERE NHL team = Vancouver Canucks

translate to SQL: List the # for ships commissioned on december 18, 1965.
Predicted: SELECT # FROM table WHERE Commissioned = December 18, 1965
Expected: SELECT # FROM table WHERE Commissioned = December 18, 1965

translate to SQL:  What could a spanish coronel be addressed as in the commonwealth military?
Predicted: SELECT Address FROM table WHERE Country = commonwealth military AND Language = spanish coronel
Expected: SELECT Commonwealth equivalent FROM table WHERE Rank in Spanish = Coronel

translate to SQL: If you're a major general in the US air force then what ranking will you receive in the commonwealth's air force?
Predicted: SELECT Air Force Ranking FROM table WHERE Major General = US Air Force
Expected: SELECT Commonwealth equivalent FROM table WHERE US Air Force equivalent = Major General

Espero que esses resultados possam ser úteis para você. Em caso de perguntas/comentários, não hesite em escrever nos comentários abaixo ou me contate diretamente pelo LinkedIn ou Twitter .

Você também pode assinar meus novos artigos , ou se tornar um membro do Medium .