Com todo o burburinho sobre o ChatGPT e a inteligência artificial (IA) impactando os mecanismos de pesquisa de Big Tech como o Google, membros da comunidade nos perguntaram como a Presearch pretende alavancar a IA.

Preparamos esta postagem no blog para explorar as oportunidades e discutir como a Presearch está usando IA agora e no futuro.

Pesquisa com IA

Os mecanismos de pesquisa foram pioneiros no espaço de IA, tendo sido construídos com base em algoritmos de aprendizado de máquina (ML) por anos. Devido a uma combinação de grandes quantidades de dados para pesquisar, entrada de consulta de usuários indicando sua intenção e o potencial de feedback em tempo real de interações contínuas do usuário (cliques, paginação, rolagem etc.), os mecanismos de pesquisa com tecnologia AI têm uma capacidade de aprender e melhorar constantemente a partir de novos dados e interações.

A IA está sob o capô, fornecendo experiências de pesquisa e mídia social para bilhões todos os dias.

Foi apenas nos últimos meses que a compreensão do público sobre o poder da IA ​​aumentou dramaticamente, como resultado da exposição às respostas da IA ​​por meio da interface ChatGPT lançada pela OpenAI. Isso levou a uma conscientização maciça do estágio impressionante em que a IA opera atualmente e das possibilidades futuras em rápida evolução com a IA.

O lançamento do chatGPT em novembro foi um “momento iPhone” para a tecnologia de IA, revelando uma experiência de bate-papo atraente que parece tão inteligente e humana que o interesse do público e a taxa de adoção excederam em muito todos os melhores lançamentos de tecnologia do passado, alcançando mais de um milhão de usuários em apenas cinco dias.

O ChatGPT reúne vários anos de inovação aberta em Large Language Models em um conjunto diversificado de empresas e pesquisadores (ao lado do OpenAI) e está abrindo caminho para uma onda significativa de inovação em inteligência artificial nos próximos anos.

O CTO de pré-pesquisa, Trey Grainger , é autor do livro AI-Powered Search , que ele lança capítulo por capítulo desde 2019, sobre como implementar inteligência artificial no contexto das experiências de pesquisa. Trey passou anos como vice-presidente sênior de engenharia e depois como diretor de algoritmos de uma empresa de pesquisa com tecnologia de IA, desenvolvendo os recursos de pesquisa e IA que alimentam centenas das principais empresas do mundo. Ele também publicou vários livros, artigos de periódicos e publicações de pesquisa na interseção de pesquisa e IA. Trey é a pessoa perfeita para liderar o projeto nessa nova era de busca.

Neste artigo, planejamos fornecer uma visão geral de alto nível de como estamos usando IA atualmente e como a IA desempenhará um papel fundamental no futuro do mecanismo de pesquisa descentralizado da Presearch.

Observação: este artigo é uma visão geral de alto nível — a Presearch lançará em breve um roteiro atualizado e um whitepaper que aprofundará o uso da IA ​​no projeto.

O que são LLMs e por que isso importa para a Pré-pesquisa?

A pré-pesquisa está atualmente usando o GPT-3 da OpenAI para alimentar nosso protótipo de experiência de pesquisa de IA, que foi lançado pela primeira vez em beta fechado em dezembro de 2022. A OpenAI trabalha com IA desde sua fundação em 2015, mas se concentrou em Modelos de Linguagem Grande (LLMs). após o lançamento do famoso artigo “Atenção é tudo que você precisa” publicado pelo Google. O artigo propôs uma nova arquitetura para modelos de linguagem chamada Transformer, que usa mecanismos de atenção para identificar padrões na linguagem que abrangem várias palavras ou frases. Os transformadores são treinados usando aprendizado profundo em grandes conjuntos de dados (na maioria das vezes, texto) para aprender os relacionamentos linguísticos e os relacionamentos conceituais presentes nos conjuntos de dados.

Arquitetonicamente, os Transformers geralmente consistem em um codificador — que pode mapear texto (ou outras entradas, como imagens ou áudio) em vetores de contexto numérico — e um decodificador , que pode pegar esses vetores de contexto e mapeá-los de volta ao texto. Você pode pensar nos vetores de contexto ou embeddings, como uma representação numérica do significado da entrada que é entendida pelo modelo de linguagem. Portanto, o texto “ela saiu para caminhar na rua” pode ser codificado para uma incorporação como [0,12, 9,51, 6,42, … 0,32], e essa mesma incorporação pode ser decodificada em um texto semelhante, como “a garota saiu e desceu a rua". Se o texto no qual o modelo foi treinado fosse multilíngue, o texto com o mesmo significado em um idioma diferente também seria mapeado para uma incorporação muito semelhante porque carrega o mesmo significado. Transformers podem essencialmente aprender o significado de palavras e frases dentro de diferentes contextos, bem como as construções de linguagem que determinam como as palavras e frases são combinadas.

Essa arquitetura foi capaz de superar os modelos anteriores em uma variedade de tarefas, incluindo tradução automática, modelagem de linguagem e resposta a perguntas.

A arquitetura do Transformer é baseada na ideia de auto-atenção, o que permite que o modelo atenda a diferentes partes da entrada simultaneamente. Isso permite que o modelo capture dependências de longo prazo na entrada, o que é essencial para entender os relacionamentos complexos encontrados na linguagem usada em um contexto potencialmente grande. O Transformer também utiliza um mecanismo de atenção multi-head, que permite que o modelo atenda a diferentes partes da entrada em paralelo. Isso permite que o modelo capture relacionamentos mais complexos entre as palavras.

Depois de apresentar Transformers ao mundo, o Google aprimorou seu mecanismo de pesquisa com seu modelo de linguagem BERT baseado em Transformer a partir de 2019, e muitos mecanismos de pesquisa continuaram a melhorar e alavancar esses tipos de modelos de linguagem na interpretação de consulta e na camada de classificação. Desde então, a arquitetura do Transformer permitiu o desenvolvimento de modelos de linguagem maiores (GPT-3 ou modelos de código aberto como Flan t5), que podem capturar relacionamentos mais complexos entre palavras e também gerar respostas convincentes a perguntas e instruções usando as instruções como prompts e, em seguida, prever - palavra por palavra (ou mais precisamente, token por token) - a resposta correta com base no contexto de entrada.

Este é o cerne do que está por trás do ChatGPT, que permitiu à OpenAI construir um produto que cativou o mundo.

Aproveitando a IA por meio de um índice totalmente descentralizado

Não é segredo que o objetivo de longo prazo da Presearch é construir um mecanismo de busca completamente descentralizado. Um componente central disso é um índice descentralizado das informações do mundo. Embora ainda não esteja aqui, estamos arquitetando-o ativamente e acreditamos que esta tecnologia revolucionária desempenhará um papel fundamental na próxima iteração da Internet.

A tecnologia AI não ficará apenas no topo do índice como a experiência do consumidor, mas será usada ativamente no particionamento e indexação dos dados, armazenando e replicando-os adequadamente e encaminhando consultas para as partições de índice apropriadas. Embora a Presearch esteja atualmente usando o OpenAI para potencializar sua experiência de IA, isso será substituído por modelos abertos que os melhores engenheiros e cientistas de dados do mundo podem ajudar a construir, treinar e integrar como parte da comunidade Presearch.

Os modelos da OpenAI têm sido um grande valor agregado para a Presearch, permitindo-nos chegar ao mercado rapidamente com uma experiência de IA muito robusta, mas a rede Presearch será alimentada por nossa própria tecnologia de IA, alavancando modelos de código aberto profundamente integrados ao índice descentralizado . A Presearch está adotando uma abordagem fundamentalmente diferente para desenvolver a tecnologia de IA, descentralizada e aberta, aproveitando o poder do treinamento distribuído para potencializar sua tecnologia de IA.

O treinamento distribuído é um método de treinamento de modelos de IA em várias máquinas simultaneamente. Isso permitirá tempos de treinamento mais rápidos em uma arquitetura descentralizada, levando a modelos mais precisos que podem entender melhor o contexto em torno das consultas do usuário e, por fim, fornecer resultados de pesquisa mais relevantes.

A Presearch também está buscando alavancar um índice globalmente descentralizado, com incorporações desses modelos de IA treinados profundamente integrados. Isso permitirá pesquisas mais rápidas e precisas, fornecendo uma compreensão mais profunda das consultas do usuário e, em seguida, limitando o número de nós necessários para realizar qualquer pesquisa. Ao alavancar um índice globalmente descentralizado particionado com base em incorporações baseadas em IA, o Presearch pode otimizar a velocidade das consultas e maximizar os recursos de rede, ao mesmo tempo em que fornece os resultados mais relevantes.

A combinação de treinamento distribuído e um índice globalmente descentralizado permitirá que a Presearch forneça um mecanismo de pesquisa verdadeiramente descentralizado, alimentado pelos melhores modelos de IA de código aberto e construídos pela comunidade.

Os Large Language Models, embora muito populares no momento, estão longe de ser os únicos recursos de IA comuns nos mecanismos de pesquisa. A pré-pesquisa alavancará o treinamento distribuído para classificação aprendida por máquina (também conhecida como aprender a classificar), modelos de reforço de sinais, geração de gráficos de conhecimento e muitas outras técnicas para aprender e gerar fatores de classificação aprimorados. Modelos de linguagem grandes desempenharão um papel crítico, no entanto, tanto na interpretação quanto no resumo dos resultados de uma maneira útil e cuidadosa.

A pré-pesquisa está adotando uma abordagem fundamentalmente diferente da OpenAI e de outros mecanismos de pesquisa, concentrando-se na colaboração aberta e na descentralização. O que o Bitcoin fez pela moeda digital, a Presearch fará pelo acesso às informações do mundo. Se você gostaria de se envolver com o projeto, executar um nó descentralizado, nos ajudar a construir ou apenas aprender mais, adoraríamos recebê-lo como parte de nossa comunidade!

PresearchAI Twitter

Criamos uma conta dedicada para compartilhar nosso progresso e insights sobre inteligência artificial. Acompanhe aqui -https://twitter.com/PresearchAI

Se você tiver dúvidas, junte-se a um dos links da nossa comunidade abaixo

Execute um nó :https://nodes.presearch.com
Aposta de palavra-chave :https://keywords.presearch.com
Site de informações :https://presearch.io
Pesquisar com pré-pesquisa :https://presearch.com

Canais da comunidade:

Telegram : t.me/Presearch
Twitter :https://twitter.com/presearchnews
Pré-pesquisa no Twitter:https://twitter.com/PresearchAI
YouTube :https://www.youtube.com/c/Presearch/videos
Rumble :https://rumble.presearch.io
Discórdia :https://discord.presearch.io
Mentes :https://www.minds.com/presearch
Reddit:https://www.reddit.com/r/Presearch/
Twitter (Comunidade) :https://twitter.com/TeamPresearch
Telegram (Notícias) : t.me/PresearchNews
Facebook :https://www.facebook.com/presearch.io
E-mail : [email protected]
Interessado em fazer parceria? Envie-nos um e-mail para — [email protected]