Usei o ChatGPT para criar um aplicativo de IA inteiro na AWS

Dec 03 2022
Este novo modelo de linguagem pode ser o par programador de sua escolha daqui para frente
Do que se trata? Há dois dias, a OpenAI lançou o ChatGPT, um novo modelo de linguagem que é uma versão aprimorada do GPT-3 e, possivelmente, nos dá uma espiada no que o GPT-4 será capaz quando for lançado no início do próximo (como rumores). Com o ChatGPT é possível ter uma conversa real com o modelo, referindo-se a pontos anteriores da conversa.
Imagem do autor — criada com Stable Diffusion

Do que se trata?

Dois dias atrás, a OpenAI lançou o ChatGPT , um novo modelo de linguagem que é uma versão aprimorada do GPT-3 e, possivelmente, nos dá uma espiada no que o GPT-4 será capaz quando for lançado no início do próximo (como rumores). Com o ChatGPT é possível ter uma conversa real com o modelo, referindo-se a pontos anteriores da conversa.

Eu queria experimentar se poderia usar este modelo como um programador par que pudesse dar algumas instruções e ele produzisse o código para mim. Eu ainda verificaria esses trechos de código, é claro, mas pelo menos não precisarei mais escrevê-los do zero.

Portanto, neste post do blog, descrevo como usei o ChatGPT para criar um aplicativo simples de análise de sentimento do zero. O aplicativo deve ser executado em uma instância do EC2 e utilizar um modelo NLP de última geração do Hugging Face Model Hub. Os resultados foram surpreendentes

Isenção de responsabilidade total - tive que tentar refinar os prompts algumas vezes para obter os resultados que desejava. Dito isto, geralmente são necessários apenas pequenos refinamentos para obter os resultados desejados. Meus prompts e o código gerado pelo modelo podem ser encontrados neste repositório do GitHub .

Por que isso é importante?

Você está brincando certo?

Vamos começar

Ok, vamos começar! Vamos primeiro verificar se o ChatGPT está disposto a ajudar:

imagem do autor

Ok, este é um começo promissor Vamos aos detalhes, conforme pedido de nosso companheiro!

Criando um modelo do CloudFormation para a instância do EC2

Queremos executar este aplicativo em uma instância EC2, mas não queremos clicar no console AWS para criar esta instância EC2. Portanto, nossa primeira tarefa para o ChatGPT é criar um modelo do CloudFormation que configure a instância do EC2:

imagem do autor

As instruções são bastante específicas (eu mesmo tive que procurar o ID da AMI, por exemplo), mas ainda assim fiquei bastante surpreso por ter saído com um modelo de CF quase perfeito. Observe que o ChatGPT também coloca alguns avisos no final do código:

imagem do autor

Todo o código produzido pelo ChatGPT:

Observe que a instância do EC2 na verdade não recebe o nome que especificamos no prompt. Mas ok, vamos viver com isso por enquanto. Outro “bug” neste modelo é que o ambiente Pytorch pré-instalado na AMI é chamado de “pytorch” e não “pytorch_36”. Vamos corrigir isso substituindo o nome do ambiente.

Agora, como realmente executamos isso? Vamos perguntar ao ChatGPT:

imagem do autor

Ok, a execução desta linha iniciou a criação da pilha usando o modelo CF. Após alguns minutos, vemos que a instância do EC2 está funcionando. Observe que o modelo criou um grupo de segurança e a instância do EC2 usou esse grupo de segurança conforme especificado:

imagem do autor

Vamos também fazer o SSH na instância do EC2 para ver se os pacotes de que precisamos estão instalados:

imagem do autor

Parece que está tudo configurado para o aplicativo Streamlit

Aplicação Streamlit

Agora precisamos de um aplicativo que rode no Streamlit e que analise o sentimento do texto. Para minha surpresa, isso foi ainda mais fácil do que eu esperava:

imagem do autor
imagem do autor

Mais uma vez, bom aviso no final.

O código inteiro:

Isso realmente parece bom para mim, vamos tentar executá-lo sem modificações. Copie e cole este código em um arquivo no EC2 chamado “app.py”. Mas como executamos os aplicativos Streamlit novamente? Vamos perguntar ao nosso “colega”:

imagem do autor

Já temos o Streamlit instalado, então vamos em frente e execute “streamlit run app.py”:

imagem do autor

Parece tudo de bom!

Testando o aplicativo

Agora chega a hora da verdade. Conectamos o URL streamlit exposto e vemos se o aplicativo é executado.

imagem do autor

Uau, o ChatGPT acabou de criar um aplicativo de sentimento de texto inteiro apenas com nossas instruções

Conclusão

Estou muito sem palavras. Isso tem sido muito divertido e as possibilidades são infinitas. Tentarei experimentar mais com este modelo daqui para frente e também adoraria saber o que você construiu com ele. Por favor, comente abaixo!