GPT-4 (Transformador pré-treinado generativo 4) é um modelo de linguagem altamente antecipado que deve ser lançado no primeiro trimestre de 2023. Embora não se saiba muito sobre o GPT-4 neste momento, é provável que seja um significativo avanço no desempenho de modelos de linguagem grandes.

Se você pesquisar por GPT4, poderá encontrar menções a um modelo de “parâmetros 100T”. Esta estimativa é baseada no aumento significativo dos parâmetros entre GPT2 (parâmetros 1,5B) e GPT3 (parâmetros 175B). No entanto, é importante observar que isso é apenas uma extrapolação e o número real de parâmetros para GPT4 não foi anunciado oficialmente.

Então, o que sabemos sobre o GPT4? Quão grande será? Quais técnicas de treinamento e otimização serão incluídas em seu design?

Vamos nos aprofundar nisso… Mas quando um tweet de Sam Altman sugere a capacidade do GPT4 de passar consistentemente no teste de Turing… você pode ter certeza de que haverá um antes do GPT4 e um depois!

Assim, acreditamos que a extrapolação dos “parâmetros 100T” está errada. No entanto, independentemente de seu aumento de tamanho, esperamos que as mais recentes otimizações de grandes modelos e abordagens de ajuste fino façam parte deste lançamento (veja abaixo).

Aqui está um rápido resumo do que sabemos e podemos antecipar para este modelo.

Mas primeiro considere nos apoiar: bater palmas e seguir

O que sabemos sobre seu tamanho e multimodalidade?

Tamanho GPT4

Um modelo de parâmetros 100T? não.

O tamanho não será o principal fator de melhoria : Sam Altman anunciou que o tamanho do GPT4 não será muito maior do que o GPT3.

Isso não é surpresa, pois sabemos que o GPT3 não é o ideal de computação (muito grande considerando o número de tokens de treinamento). “Simplesmente” adicionar mais dados a ele ainda pode ajudar o GPT3 a melhorar significativamente.

Não diz muito … mas não devemos esperar algo acima de uma ordem de grandeza maior ~ 1 TB parâmetros.

O GPT4 será multimodal?

Um modelo multimodal? não.

Sam Altman também anunciou durante uma sessão de perguntas e respostas que o GPT4 não será multimodal.

Devemos esperar um modelo somente de texto ajustado para seguir melhor nossas instruções (ou seja, melhor “alinhamento” com nosso prompt pretendido)

Ainda assim, o GPT4 será muito melhor que o GPT3, e aqui está o porquê

Melhor em que sentido?

Ainda podemos esperar uma melhoria significativa em comparação com o GPT3 , que pode justificar o hype atual.

Por que? porque as novas otimizações mostram que você pode obter o mesmo desempenho do GPT3 com modelos 100 vezes menores (consulte o ajuste fino de aprendizado por reforço abaixo). Isso significa que um modelo GPT4 bem otimizado, com um tamanho semelhante ao GPT3, ainda teria um desempenho muuuito melhor.

Ou seja, deveria ter

1. Habilidades emergentes existentes aprimoradas, ou seja, seguir instruções, bem como raciocinar, codificar e assim por diante: veja este artigo sobre habilidades emergentes se você não estiver familiarizado com este conceito.
2. Novas habilidades emergentes, por exemplo, cadeia implícita de raciocínio de pensamentos

Principalmente 3 que tiveram um impacto significativo no desempenho dos modelos em 2022.

(1) Compute Optimal: Resumindo, aumentar os dados de treinamento ainda pode melhorar o desempenho do GPT3 sem aumentar o tamanho do modelo. Na verdade, o Deepmind mostrou por meio de uma análise empírica que existe uma relação ideal entre o tamanho dos dados e o tamanho do parâmetro de um modelo treinado. Este resultado mostrou que o GPT3 pode ser superado por um modelo 3 vezes menor (também conhecido como Chinchilla). Aqui um post para ler mais sobre isso.

(2) Ajuste fino de aprendizado por reforço : OpenAI lançou em 2022 um modelo chamado InstructGPT (parâmetros 1.3B). Em seu artigo , eles mostram que esse modelo ajustado com precisão, com base no feedback humano, pode “superar as saídas do 175B GPT-3, apesar de ter 100 vezes menos parâmetros”. GPT3.5 e ChatGPT são ambos baseados nesta nova abordagem.

(3) Nova parametrização (μP): Este é um método para otimizar o treinamento de grandes redes neurais . Resumindo, µP pode ser usado para transferir hiperparâmetros em diferentes tamanhos de modelo, reduzindo a necessidade de tentativa e erro para encontrar os hiperparâmetros ideais para um determinado modelo. Em outras palavras, podemos otimizar hiperparâmetros de modelos pequenos e usar os mesmos parâmetros para modelos maiores!

Vamos resumir isso no contexto do GPT4 : podemos adicionar mais dados no GPT3 sem precisar aumentar o tamanho do modelo. Baseando-se no treinamento de aprendizado por reforço com feedback humano, modelos pequenos podem funcionar tão bem quanto modelos 100 vezes maiores. E graças à parametrização μP, podemos otimizar hiperparâmetros em modelos pequenos e reutilizar parâmetros ideais nos modelos maiores.

Tudo isso mostra uma grande melhoria em potencial, dependendo apenas da qualidade dos dados e da otimização do treinamento! Eu ainda apostaria no aumento do tamanho do modelo de 5 a 10 vezes, porque no final do dia ainda sabemos que nas mesmas condições de treinamento, maior é sempre melhor.

Feliz Ano Novo a todos e até 2023!

Se você gostou deste post, considere nos apoiar: bater palmas e seguir