Faça uma solicitação de API para ChatGPT 4 com Next.js usando Javascript

Mar 30 2023
Pré-requisitos: Você precisa estar na lista de espera do Chat GPT 4 e ser aceito ao receber um e-mail nas linhas de “Agora você pode acessar modelos GPT-4 com contexto 8K por meio da API OpenAI existente”. O botão “Começar” não é útil, pois apenas leva você a uma página de visão geral.

Pré-requisitos:

Você precisa estar na lista de espera do Chat GPT 4 e ter sido aceito ao receber um e-mail nas linhas de “Agora você pode acessar modelos GPT-4 com contexto 8K por meio da API OpenAI existente”. O botão “Começar” não é útil, pois apenas leva você a uma página de visão geral.

Como fazer a solicitação da API GPT-4 usando Next.js e Javascript:

  1. Crie uma nova chave de API aqui (as antigas podem não funcionar)
  2. Criar um novo projeto Next.js
  3. Instale o OpenAI usando seu terminal ($ npm i openai)
  4. Na pasta /pages/api do seu projeto, crie um novo arquivo (por exemplo, gpt4.js)
  5. Cole o código abaixo em seu arquivo e insira sua própria chave de API
  6. const { Configuration, OpenAIApi } = require("openai");
    
    export default async function handler(req, res) {
    
      const configuration = new Configuration({
        apiKey: "<INSERT-API-KEY-HERE>",
      });
    
      const openai = new OpenAIApi(configuration);
    
      const response = await openai.createChatCompletion({
        model: "gpt-4",
        messages: [
          { role: "system", content: "You are a helpful assistant." },
          { role: "user", content: "Who won the world series in 2020?" },
          { role: "assistant", content: "The Los Angeles Dodgers." },
          { role: "user", content: "Where was it played?" },
        ],
        max_tokens: 50,
        n: 1,
        stop: null,
        temperature: 1,
      });
    
      res.status(200).json({ answer: response.data.choices[0].message.content });
    }
    

Forneça contexto
A API GPT-4 do bate-papo não "lembra" suas respostas, como ao usá-la no navegador. Para ter uma conversa com ele, você precisa atualizá-lo constantemente e fornecer o contexto da conversa anterior.

Você consegue isso salvando a resposta anterior e adicionando-a à matriz de mensagens toda vez que fizer uma nova solicitação de API/mensagem de bate-papo. No exemplo acima, existem 3x mensagens anteriores do usuário e GPT-4 combinadas e a 4ª é a “nova” para GPT-4 responder.

Verifique qual modelo você está usando
Não tem certeza se está realmente obtendo respostas ChatGPT 4 ou GPT3 / 3.5 Turbo? Descobri que você obtém respostas não confiáveis ​​se perguntar ao ChatGPT qual modelo ele está usando. A maneira mais fácil de verificar é visitar a página de uso da API , que informa qual modelo você está usando para solicitações de API.

Adicionar um método de pagamento
Acho que não é possível usar o GPT-4 sem adicionar um cartão de crédito — ou pelo menos já vi problemas de cota com usuários que acabaram de receber o convite da API. Para evitar isso, basta adicionar um cartão de crédito — a API tem um preço muito razoável.

Usando os pacotes mais recentes
Certifique-se de estar usando o pacote NPM OpenAI mais recente — no momento em que escrevo este post, a versão 3.2.1 foi lançada.

https://johanfriedner.com/