The Foundation Large Language Model (LLM) e cenário de ferramentas

“O software está comendo o mundo…”
~ Marc Andreessen

Toda empresa é uma empresa de software... em breve toda empresa será uma empresa de IA.

Todo mundo está usando software... logo todo mundo estará usando IA diretamente.

⭐️ Por favor, siga-me no LinkedIn para atualizações sobre Conversational AI ⭐️

Ao criar esta matriz para aplicativos de IA generativa, fiquei impressionado com a quantidade de novos aplicativos e quantos deles ainda estavam em teste beta fechado, acesso pendente de um processo de aprovação (lista de espera) ou disponível em breve .

O grande número de assistentes de conteúdo e criação de ideias e redação é impressionante.

Sem dúvida, isso não é sustentável e um abalo significativo está pendente para muitas dessas aplicações. Como mencionei em um post anterior , a verdadeira agregação de valor e a diferenciação serão exigidas para a sobrevivência.

À medida que a funcionalidade LLM nativa cresce e suas interfaces de usuário amadurecem, os aplicativos baseados em LLM sem consideração de IP e valor agregado de propriedade desaparecerão.

Até certo ponto, o mercado de LLM é ingênuo e, à medida que o conhecimento e a percepção do usuário aumentam, os produtos que são apenas um thin client atuando como uma extensão dos LLMs não sobreviverão. É análogo aos aplicativos de lanterna sendo substituídos por um botão no sistema operacional.

Em novembro de 2022, a Base10 lançou um mapa do cenário de IA generativa, que é uma referência muito boa e uma visão geral do cenário de software de IA generativa.

O mapa abaixo foi compilado por mim e considera dois elementos:

1️⃣ Modelos básicos de linguagem grande e ferramentas centradas em dados

Uma coleção de Foundation LLMs e ferramentas centradas em dados estão na base da pilha. Esses modelos e ferramentas são fundamentais no sentido de que servem como capacitadores de nível básico.

2️⃣ Ferramentas de IA de linguagem generativa nascente

Houve uma explosão de aplicativos baseados em IA generativa, especialmente na área de conteúdo e criação de ideias, assistentes de redação e assistentes generativos e de pesquisa.

A criação de conteúdo e ideias é o recurso mais acessível da IA ​​generativa baseada em LLM. Juntamente com os recursos do Writing Assistant . Não é de admirar que a maioria dos produtos seja encontrada nessas categorias.

As duas áreas de diferenciação e sobrevivência para esses produtos são:

1. Valor agregado de propriedade que fica entre o LLM e a interface do usuário, e essa camada precisa ser excepcional em termos de aumento da API do LLM.
2. O segundo elemento de diferenciação é o UX. A experiência do usuário também precisa ser excelente para contribuir com a retenção do usuário.

No entanto, a área que mais me interessa, e onde acredito estar com mais potencial e crescimento, é com Build Frameworks . Os Build Frameworks ainda estão em um estado incipiente, mas os princípios estão começando a surgir, em termos de:

1. Prompts de modelagem para torná-los reutilizáveis ​​e programáveis.
2. Arquivamento, reutilização e compartilhamento de prompts.
3. Criação de APIs complexas que podem facilitar várias solicitações executadas em série ou em paralelo.
4. Blocos com lógica de código para determinar o próximo bloco a ser executado.
5. Múltiplos sistemas de fundação podem ser acessados ​​e aproveitados.

A expansão dos produtos Generative AI é fenomenal e uma contração é inevitável.

Os elementos-chave para a sobrevivência incluirão:

Uma base de clientes existente e crescente
Retenção de clientes
Experiência de usuário e interface do usuário excelentes
Propriedade e software verdadeiramente diferenciador

Por fim, para ilustrar novamente a natureza lotada do espaço Generative AI, considere a imagem abaixo.

Ele mostra apenas algumas das inúmeras extensões da Web do Chrome que são baseadas em GPT ou ChatGPT…

⭐️ Por favor, siga-me no LinkedIn para atualizações sobre Conversational AI ⭐️

Atualmente sou o Evangelista Chefe @ HumanFirst . Eu exploro e escrevo sobre todas as coisas na interseção de IA e linguagem; variando de LLMs , Chatbots , Voicebots , estruturas de desenvolvimento, espaços latentes centrados em dados e muito mais.

O Cobus Quadrant™ de design de NLU O Cobus Quadrant™ de recursos de design de conversação Grandes modelos de linguagem estão forçando as estruturas de IA de conversação a olhar para fora A arquitetura rígida de chatbot existente precisa de flexibilidade de modelo de linguagem grande (LLM) Modelos de linguagem grande (LLMs) não substituirão o Chatbot tradicional NLU… Por enquanto IA generativa e a nova categoria de aplicativos com tecnologia LLM A anatomia De aplicativos de conversação baseados em modelo de linguagem grande (LLM)