LLMs otimizados OpenAI para diálogo com ChatGPT

Dec 02 2022
Como o ChatGPT se compara ao novo modelo DaVinci 3? O ChatGPT é uma implementação do KI-NLP? E como a OpenAI está evitando possíveis desastres. Desde 2020 venho pesquisando e escrevendo sobre OpenAI e GPT3… O lançamento do ChatGPT precisa ser considerado à luz dos seguintes pontos: Considerações críticas: Exemplos práticos: Abaixo faço duas perguntas ao modelo DaVinci 3, sendo a segunda uma pergunta de acompanhamento baseada no contexto da primeira pergunta: Como faço para criar um chatbot? Que tecnologia devo usar? As respostas são muito mais detalhadas, bem ordenadas e sequenciadas no Davinci 3 do que no modelo Davinci 2 ou Davinci 1.

Como o ChatGPT se compara ao novo modelo DaVinci 3 ? O ChatGPT é uma implementação do KI-NLP? E como a OpenAI está evitando possíveis desastres.

Desde 2020 venho pesquisando e escrevendo sobre OpenAI e GPT3…

A liberação do ChatGPT precisa ser considerada à luz dos seguintes pontos:

  • O GPT3 sempre teve uma capacidade de conversação muito boa, onde o estado do diálogo e as mudanças do diálogo foram gerenciados com sucesso. O contexto da conversa também foi gerenciado.
  • O GPT3 não foi realmente suscetível a alucinações e outras doenças como o BlenderBot .
  • As respostas do GPT3 são bem formuladas, sucintas e coerentes. Isso melhorou consideravelmente com a recente introdução do novo modelo DaVinci 3 .
  • Se eu tivesse que criar/inicializar um chatbot usando a OpenAI Language API/GPT3, eu inicializaria o chatbot usando o método que descrevo aqui .
  • A página inicial do ChatGPT sempre exibe esta orientação sobre quais exemplos usar, recursos e limitações.

Considerações Críticas:

  • Considerando os exemplos abaixo, parece que a API de linguagem OpenAI tem acesso à internet e é capaz de recuperar as respostas.
  • O ChatGPT não tem acesso à internet para recuperação de informações e parece ser uma implementação do Knowledge Intensive Natural Language Processing (KI-NLP) .
  • O que é KI-NLP? É um domínio muito amplo, interface de conhecimento intensivo para tarefas de resposta a perguntas ou verificação de fatos, conhecidas coletivamente como processamento de linguagem natural de conhecimento intensivo (KI-NLP).
  • Os modelos de IA sustentados por uma estrutura KI-NLP pesquisam informações relevantes em um arquivo digital . Quanto mais abrangente for o arquivo digital, mais amplas e corretas serão as respostas.
  • Os sistemas KI-NLP são autocontidos e não pesquisam na internet ou fazem uso de APIs de conhecimento.
  • A OpenAI está garantindo que o ChatGPT não esteja aprendendo maus hábitos por meio de conteúdo questionável da Internet ou entrada controversa do usuário, como no caso do Blender Bot .

Exemplos Práticos:

Abaixo, faço duas perguntas ao modelo DaVinci 3 , sendo a segunda uma pergunta complementar, baseada no contexto da primeira pergunta:

How do I create a chatbot?

What technology should I use?

Modelo Generativo DaVinci 3 (API de linguagem)

As respostas são muito mais detalhadas, bem ordenadas e sequenciadas no Davinci 3 do que no modelo Davinci 2 ou Davinci 1 . Leia mais sobre essa comparação aqui .

No entanto, fazendo as mesmas duas perguntas ao ChatGPT, fica claro que as respostas são muito mais coloquiais e abrangentes.

ChatGPT

Neste segundo exemplo, faço três perguntas:

Who is Peter Thiel?

Where does he live?

How old is he?

O modelo generativo Davinci 3 gerencia muito bem os turnos, o estado e o contexto do diálogo conversacional.

Modelo Generativo DaVinci 3 (API de linguagem)

Abaixo, você vê a resposta para as mesmas três perguntas do ChatGPT… é claro que a integridade do ChatGPT está sendo protegida… mas também é evidente que o ChatGPT é um LLM independente ou implementação KI-NLP.

ChatGPT

Algumas Considerações Finais

  • O ChatGPT é uma mistura de todos os quatro elementos listados abaixo, gerenciamento de diálogo, geração, perguntas e respostas e tradução de idiomas.
  • Aqui está uma tradução perfeita do africâner para o inglês do ChatGPT, o idioma foi detectado automaticamente pelo ChatGPT e apenas a frase correta foi traduzida.
  • Uma API ChatGPT terá que ser exposta para implementações de produção, que não está disponível no momento.
  • O ajuste fino é uma consideração para implementações corporativas.
  • E relacionado ao ajuste fino, os métodos de incorporação de conhecimento específico provavelmente estão no roteiro.

Atualmente sou o Evangelista Chefe @ HumanFirst . Eu exploro e escrevo sobre todas as coisas na interseção de IA e linguagem; variando de LLMs , Chatbots , Voicebots , estruturas de desenvolvimento, espaços latentes centrados em dados e muito mais.

https://www.linkedin.com/in/cobusgreyling
O Cobus Quadrant™ de design de NLU O Cobus Quadrant™ de recursos de design de conversação
Implementando IA centrada em dados para modelos NLU