E Sidney também. Consolidando alguns pensamentos sobre duas emocionantes semanas de surpresas, avanços e recuos em IA.

A seguir, reunimos três tópicos do Twitter sobre o lançamento do ChatGPT, o lançamento do Bing Chat, as surpresas e o (demasiado previsível) retrocesso de “Sydney”.

Sobre o lançamento do ChatGPT

1/ Não é exagero dizer que talvez o chatGPT tenha capturado a imaginação do mais amplo conjunto de pessoas no menor tempo de qualquer tecnologia de computação. O fato de qualquer pessoa poder usá-lo instantaneamente e ver por si mesmo é uma grande parte disso. Como a produtividade usando “isso” evoluirá?

2/ A polarização do medo <> oportunidade é consistente com basicamente tudo hoje em dia. Isso me deixa um pouco triste. Eu sou definitivamente um daqueles que vêem isso como um avanço. Eu acredito que é inovação a todo vapor e não adivinhação a cada passo.

3/ Muito xadrez 4-D prevendo para onde as coisas irão. Quem vai ganhar ou perder? Quanto uma mudança de plataforma é “AI” ou não? É muito cedo para saber. Se o PC, o telefone, a nuvem ou a internet forem um guia, os cautelosos/pessimistas ficarão para trás rapidamente porque o crescimento exponencial é assim.

4/ Existem paralelos para aprender e ajudar a nos guiar sobre como a tecnologia evoluirá. Não o único caminho, mas os tipos de caminhos que podem seguir. História rima. Por que? Porque tanto os produtores quanto os consumidores são humanos e os humanos seguem padrões, embora não precisamente.

5/ Primeiro, nos próximos 6 a 12 meses, todo produto (site/aplicativo) que tiver um campo de texto de formato livre terá um campo de texto “aprimorado por IA”. Todo o texto digitado (falado) será embelezado, corrigido, refinado ou “executado” em um LLM. Cada caixa de texto torna-se uma caixa de prompt.

6/ Este é um acréscimo trivial para a maioria dos produtos. Alguns irão melhorar com mais sinos e assobios. Por exemplo, pode haver uma sugestão automática (custos de API à parte) ou várias “expansões de consulta” específicas que pegam o texto e orientam o aprimoramento. Todos chamarão a API.

7/ Isso será feito para chamar a atenção para o novo recurso, mas também para adicionar mais área de superfície para provar que há alguma profundidade no trabalho além de apenas alimentar o que se digita no LLM.

8/ Isso me lembra o exemplo mundano de verificação ortográfica movida de um recurso autônomo para integrado ao processador de texto para suítes e então apareceu no navegador. De repente, não era um recurso do aplicativo, mas todas as caixas de texto tinham rabiscos.

9/ No começo isso foi legal. Então, aprendemos rapidamente que o quanto digitamos nas caixas de edição não é passível de verificação ortográfica. Todos aqueles nomes de ruas, números de peças e nomes de pessoas. Se você autocorrigisse cegamente, acabaria com um jargão sem sentido. Você ainda faz. Não julgue prematuramente!!

10/ Os LLMs também serão assim. Em outras palavras, a invenção se difundirá rapidamente, mas na verdade “criará trabalho” para as pessoas, pois, para perceber o benefício, é necessário que haja um “humano no circuito” para suavizar o texto aprimorado ou “consertado”.

11/ As pessoas vão criticar muito esta etapa. Muitos vão criticar a inovação, dizendo que leva mais tempo para consertar do que apenas fazer o trabalho da primeira vez. A verificação gramatical costumava ser assim também. Mas não para todos…

PS/ Alguns vão querer proibir imediatamente o uso de uma ferramenta que é “errada” ou “remove humanos”. Você pode pensar que a verificação ortográfica é trivial, mas tive que obter permissão para usá-la no ano novo para escrever artigos. No ensino médio, tive que pedir ao princípio para usá-lo. assim como as calculadoras.

12/ Então, depois de algum tempo, haverá um avanço muito mais significativo na tecnologia. A verificação ortográfica antiga era um dicionário em um PC local. Então o Google usou tudo o que trouxe para a festa para lançar o “verificador ortográfico na nuvem” que usou… a internet.

13/ A ortografia (e gramática) não tem sido a mesma desde então. Isso foi 10 anos depois dos primeiros navegadores e algo como 25 anos depois dos primeiros verificadores ortográficos autônomos para PCs e agora todo mundo tem. Mas ninguém é diferenciado por ela. Por que?

PS/ Aqui está uma história de rabiscos vermelhos.

036. Mago extravagante e rabiscos vermelhos O ​​loop ocioso é um playground do diabo. –Desenvolvedores na equipe do Wordhttps://hardcoresoftware.learningbyshipping.com/p/036-fancy-wizard-and-red-squiggles

14/ Havia muitas empresas independentes que ofereciam ortografia (ou ferramentas de escrita análogas). Muitos *processadores de texto* focaram em “melhor digitação” e adicionar ortografia, gramática, tabulações, números de página, etc. Mas então uma guerra de recursos se iniciou. Centenas e milhares de novos recursos.

15/ Muitos lamentam essas guerras de recursos como “inchaço”, mas elas desempenham um papel importante na forma como os clientes consomem produtos e isso significa que você não pode ser um “pônei de um truque” no mercado. Não existe “simples”. Os consumidores adquirem ferramentas de produtividade para o “pior caso”, não para o caso simples ou único.

16/ Criticamente, o produto vencedor é aquele que faz o trabalho mais *importante*, não o trabalho mais mundano. Por exemplo, as máquinas de escrever eram boas para preencher formulários, mas os processadores de texto não. Demorou anos até que os formulários fossem uma coisa do WP, mas livros, manifestos, etc. → WORD!

17/ O que importa é fazer um trabalho importante, não simplesmente automatizar um trabalho barato ou fácil. As ferramentas que vencerem se generalizarão para os problemas mais importantes que as pessoas enfrentam. O custo de adicionar ferramentas adicionais ou “soluções pontuais” é muito maior do que a economia.

18/ As pessoas pensam que automatizar o simples “elimina empregos”. Isso não tem demonstrado ser o caso. Na verdade, o que tende a acontecer é que mais ferramentas de automação/criação significam que mais pessoas adicionam “criação” a seus trabalhos. Agora todos nós preenchemos formulários, não apenas o suporte administrativo. (origem desconhecida)

19/ Ferramentas melhores aproximam a criação de onde o “humano no circuito” agrega mais valor. O PowerPoint é um exemplo disso. Todos nós podemos lamentar “slides”, mas com uma ótima ferramenta (para um trabalho *importante*), os mais habilidosos/informados usarão as ferramentas para fazer o que antes era um trabalho de “apoio”.

20/ Quando o e-mail estava em ascensão e o Office era apenas Word, Excel, PowerPoint, estávamos profundamente preocupados que todos os “documentos” se tornassem mensagens de e-mail ASCII simples — todos esses recursos não importariam mais. *ERRADO* O e-mail transformou todos em “contribuidores de conteúdo”, até mesmo grandes executivos.

21/ As pessoas *pararam* de usar o Word para agendas de reuniões de uma página. Muitos pararam de fazer anotações no Word. (Idem para tarefas equivalentes em Excel ou PowerPoint). MAS quando o trabalho importava e era *importante*, a contribuição humana era importante, assim como ter a ferramenta “mais poderosa”.

22/ É por isso que o Office, _o Office sugador de almas_ por assim dizer, ainda é usado por centenas de milhões de pessoas. Não é inércia, mas é porque o trabalho *importante* é feito lá e, por acaso, algo importante precisa ser feito, esses recursos são importantes.

23/ Muitos parecem pensar que os LLMs irão “eliminar” empregos ou acabar com áreas inteiras de trabalho criativo. Acho que o que vai acontecer vai acontecer em duas fases. Primeiro, todas as ferramentas de criação usadas serão aprimoradas com o LLM e muito rapidamente. Todos usarão esses aprimoramentos - humanos no circuito.

24/ Então, com o tempo, surgirão novas ferramentas que podem incluir as ferramentas antigas. Foi o que aconteceu quando as máquinas de escrever substituíram a composição tipográfica, que foi substituída pelo processamento de texto de caracteres, substituído pelo gráfico, e só agora estamos vendo mudanças na escrita - 35 anos depois.

25/ A chave são novas ferramentas, construídas desde o início, assumindo que os LLMs precisarão se firmar fazendo o trabalho mais importante e também precisam fazer o mundano. Eles precisam ser acessíveis pelas pessoas que fazem o mundano e o importante. Caso contrário, eles são apenas soluções pontuais.

26/ Por que as coisas evoluem dessa maneira é sutil. No ambiente de trabalho, não falta o “importante” — todos acham que seu trabalho é importante. Cada departamento. Cada tarefa criativa. Existem infinitas exigências ou “necessidades” que serão levantadas como barreiras à mudança.

27/ O trabalho de todos parece fácil visto de fora. Mas até que você realmente tente automatizar um trabalho ou substituir o fluxo de trabalho ou ferramentas de um trabalho, você realmente não sabe o que é a parte humana ou onde o “trabalho” acontece.

28/ Acima de tudo, uma vez que as ferramentas começam a ser usadas por mais pessoas, a necessidade do que é produzido aumenta. Isso significa que mais pessoas precisam fazer mais trabalho. Isso significa que as expectativas para o que é “bom” ou “importante” aumentam. Novas ferramentas não apenas automatizam, mas também criam trabalho.

29/ Um último exemplo. Em ciências físicas e matemática, a escrita costumava exigir composição tipográfica especial (matemática, física) ou mesmo desenhista (para modelos moleculares, fluxo de trabalho de bancada de laboratório). Havia humanos em todas as empresas/departamentos que faziam esse trabalho.

30/ LaTeX, ChemDraw e mais surgiram e então todos os pesquisadores eram criadores. Os papéis tinham mais digramas e matemática. As expectativas para apresentação de informações aumentaram. E esses desenhistas/compositores não foram apenas eliminados, mas usaram essas ferramentas para um trabalho ainda mais avançado.

31/ Isso mostra que, mesmo em ferramentas avançadas e altamente específicas de domínio, essas melhorias maciças não apenas tornam o trabalho de todos mais fácil (ou desaparecem), mas adicionam trabalho para as pessoas - para especialistas - para fazer mais, criar mais e, acima de tudo, para ser humanos no circuito. // FIM

Sobre a evolução da produtividade usando o ChatGPT e os problemas que serão enfrentados

Aumentando a empolgação com os LLMs e continuando as implicações para os cenários de produtividade. Os LLMs representam o primeiro avanço tecnológico com potencial para implantação perfeita em smartphones 7B e, portanto, podem ser uma mudança de plataforma. touro ENORME aqui. 1/

2/ A tecnologia anseia por uma mudança de plataforma há cerca de 10 anos, à medida que dispositivos móveis/sociais/nuvem se estabelecem. O que vem a seguir? Claro que tem que ser enorme – o planeta inteiro adotou a plataforma atual. Ao colocar camadas em cima de M/S/C e não exigir um dispositivo ou redefinição herdada, o potencial é enorme. Yay!

3/ Tanto já foi dito sobre “Disrupção do Google”, “Liderança da Microsoft”, “Mudança da guarda” e “ruptura” geral ou “mundo totalmente novo”. Isso tudo é prematuro ou simplesmente bobo. OTOH a tecnologia vai acontecer. O “gato está fora do saco” e a implantação em massa é a próxima.

4/ As opiniões se polarizaram como tudo na sociedade atual. Os argumentos “a favor” ou “contra” rapidamente equivalem a escolher um lado e se preparar para a batalha. “Desinformação”, “Não Entende”, “Elimina/reinventa todos os trabalhos” e muito mais. Eca.

5/ Os LLMs atendem a um critério importante e necessário, mas não suficiente, para mudanças de plataforma. Eles ainda não funcionam o tempo todo, os casos limite são abundantes. Lembre-se da primeira década de “Software Hardcore” de PCs literalmente “fazendo-os funcionar”. A Internet? segurança, links quebrados, etc.

6/ MAS MAS descartar algumas preocupações é tão ingênuo quanto descartar a natureza exponencial da mudança. Há uma tonelada de hype. Uma coisa que aprendi sobre IA ao longo de vários “invernos” é que o hype se deve à “generalização” que equivale a um avanço significativo em uma solução de ponto.

7/ Os invernos continuam acontecendo porque os tecnólogos e especialistas tendem a pegar um único avanço e generalizá-lo. Como os avanços nas linguagens de programação, a IA pode de fato tornar um cenário mais fácil e não precisa tornar todos os cenários mais fáceis/possíveis.

8/ Dito isso, os LLMs representam uma espécie de colisão em duas dimensões: os LLMs são padrão
• otimista/positivo e o futuro de todo software, produtividade, criação
• cético/negativo e precisa ser a priori limitado e transformado em um “responsável” tecnologia

9/ Quando na verdade a maioria quer um meio amplo: vamos todos aproveitar os avanços do mercado. Aqueles que abusam ou fazem mau uso dele devem ser responsabilizados

Nunca antes houve uma nova tecnologia amplamente disponível a um custo tão baixo e tão rapidamente considerada negativa por tantos. Suspirar.

10/ Há três áreas (A, B, C) a serem legitimamente preocupadas que incluem os supostos negativos e moderam o otimismo cego.

O aspecto mais importante é que é isso que cria oportunidades para as empresas da próxima geração e torna tudo tão difícil para as empresas estabelecidas.

11/ (A) Os LLMs, especialmente no que diz respeito à pesquisa na web, quebram ou questionam fundamentalmente a própria internet (a web). Sim.

A web depende de links. A pesquisa depende do rastreamento. As entidades que contribuem para a web permitem o rastreamento para o benefício de serem vinculadas.

12/ Se os LLMs simplesmente usarem o lado de rastreamento da Internet sem retornar links, os incentivos para permitir o rastreamento e, por fim, os links desaparecerão.

Para os maiores sites de conteúdo que possuem assinaturas ou podem pagar por isso, tudo bem. Mas como vimos com as novidades, quase ninguém consegue.

13/ Hoje já é uma zona tensa. MAS não é novo. Quando gerenciei os esforços de pesquisa da Microsoft (2006–7), um enorme *esforço* foi feito para criar snippets adequadamente e competir com o que se tornou o “Google Onebox”. Fornecendo respostas sem a necessidade de clicar.

14/ O *esforço* foi como evitar quebrar a web, roubar conteúdo e promover o uso justo adequadamente. Isso levou a uma série de mudanças no setor, como licenciamento de conteúdo, parcerias, busca por “verticais”. E uma falha na digitalização do livro.

15/ Portanto, embora todos desejem que a pesquisa simplesmente "diga-me a resposta", a menos que o provedor de pesquisa "saiba" a resposta ou "compre" a resposta, ou seja de domínio público, ele não pode simplesmente rastrear unilateralmente a Internet para encontrá-la livre.

16/ Isso leva a (B) O sistema jurídico não tem estrutura para essa reutilização em grande escala. Isso é Betamax, Napster, YouTube/UGC? Leis de direitos autorais, propriedade privada, difamação, uso justo, trabalhos derivados, plágio e muito mais estão presentes nos LLMs de treinamento e na saída.

17/ O “gato saiu da bolsa” foi o argumento para o Betamax e posterior salto comercial. Mas aqueles terminaram de forma diferente e importante, o uso doméstico é muito diferente do “armazenamento, retransmissão, retransmissão” dos dados de outra pessoa para consumo de MASS.

18/ Nenhuma quantidade de “enfiar a agulha” em um advogado inteligente demais mudará a realidade de que treinamento é fazer uma cópia dos dados de outra pessoa, usando-a, e mesmo que a cópia exata seja descartada, um trabalho derivado é produzido.

18A/ Imagine se todos os resultados vierem com todas as fontes que contribuíram para a saída do prompt — quase uma exibição de depuração. Isso é “sourcing” legítimo ou essencialmente um ataque de negação de serviço para o sistema jurídico?

19/ No ensino fundamental, todos nós aprendemos: primeiro, você não pode copiar a seção de história grega de uma enciclopédia e chamá-la de relatório sobre Esparta. Em segundo lugar, você não pode simplesmente mover as palavras e adicionar uma frase de outro trabalho se a maior parte do relatório for do World Book.

20/ Muitos elogiaram o uso de notas de rodapé e fontes pelo Bing. Deixando de lado o papel futuro que a colocação paga terá neles, é preciso ser incrivelmente claro que nem sempre são fontes em um sentido verificável/legítimo. Você não pode obter algo e dizer algo diferente.

21/ Mas espere, 1) há um link, então vá descobrir. E 2) é apenas um algoritmo de computador pegando o texto, reescrevendo-o, adicionando outras coisas e assim por diante, como uma pessoa. EXATAMENTE, e uma pessoa (especialmente uma que ganha dinheiro) DEVE SER RESPONSÁVEL.

22/ Nos últimos 25 anos, Seção 230, uma pessoa podia postar algo na internet e onde quer que postasse não contava como autor. Agora temos um autor primário, humano diretamente ou não, e é exatamente isso que não está protegido.

23/ É claro que as grandes empresas sabem disso e, portanto, recorrer a APIs de terceiros ou usar outros terceiros para fazer scraping, reescrever etc. parece uma forma de isolamento legal. Leia o processo Getty v. Stability exatamente por esse motivo.

24/ O YouTube, quando foi adquirido, era visto como uma responsabilidade do Google por causa dos problemas de direitos autorais com UGC. Com o tempo, o YouTube se tornou um modelo para a proteção legítima da propriedade intelectual. Demorou uma década. E o YT é muito diferente agora do que era nesse aspecto.

25/ Não há como evitar o fato de que um site não pode simplesmente mover as palavras e fornecer um link e alegar que é apenas “pesquisa” ou “uso justo” ou “trabalho derivado”. Há 200 anos de lei e proteção constitucional no trabalho.

26/ Quando se trata de “interrupção”, acredito que o Google passou mais de 20 anos lutando com esse tópico, ao mesmo tempo em que equilibrava necessidades/desejos de negócios. Sua cautela é fruto da realidade que vivenciaram.

27/ Isso leva à terceira grande área de preocupação (C), que é a noção de “IA responsável” que, acredito, levará a uma moderação significativa da produção, mas também a uma oportunidade *ENORME* perdida de tornar o conhecimento do mundo mais acessível .

28/ “IA responsável” é a primeira vez que uma tecnologia gerou uma ação quase policial antes mesmo de ser implantada – principalmente durante os primeiros dias de reconhecimento de imagem. Imagine se tivéssemos bloqueado os primeiros PCs à la Trustworthy Computing, mas em 1985 ou a internet em… twitter.com/i/web/status/1…

29/ As maiores empresas dos EUA e os CEOs criaram “Recomendações de Políticas para Inteligência Artificial Responsável” onde antes de qualquer uso/implantação real eles já convocaram o congresso para regulamentar a IA [sic]. s3.amazonaws.com/brt.org/Busine…

30/ Estes, é claro, parecem “bons”, mas não podem sobreviver à complexidade da informação, conhecimento, revisão científica por pares, partidos políticos, conselhos escolares e também ao mundo do que é considerado “aceitável” em um determinado momento.

31/ Muito do Reddit foi consumido tentando fazer com que o Bing ou o OpenAI dissessem palavrões ou, pior ainda, alguma ofensa “cancelável”. Acontece que isso não é difícil. Pior, é fácil tropeçar naqueles cruzados com erros factuais claros.

32/ A primeira resposta a esses problemas será recuar e dizer apenas coisas que são “fatos estabelecidos” e “aceitáveis ​​no contexto atual”. Como sabemos, os humanos não têm permissão para dizer coisas ruins, mesmo que as ressalvem com “é assim que as pessoas falam” ou “estou citando”.

33/ Os tópicos mais mundanos ficam fora dos limites ou “não vale o risco”. Mesmo em um contexto de negócios, isso é extremamente difícil. Não consigo nem fazer uma lista completa de todas as vezes que lidei com dicionários ortográficos, mapas, clipart e até mesmo fontes consideradas “irresponsáveis”.

34/ Simplesmente, toda a ideia de “responsável padrão” quando se trata de gerar conteúdo com base em perguntas do usuário sem revisão humana de cada entrada e saída é insolúvel. Tem que haver espaço para erros, ofensas ou pior.

35/ Mas como pode ser isso com um compromisso padrão de responsável. Pior ainda, mesmo que a responsabilidade legal seja removida, mesmo que com um EULA/wavier/caixa de consentimento, nenhuma entidade deseja a interminável/contínua crise de relações públicas do dia toda vez que um evento de notícias causa uma nova onda de prompts e respostas geradas.

36/ Este compromisso dos CEOs/advogados/comunicadores/RH é um convite para regulamentar a priori a IA. De muitas maneiras, esta é a pior posição para se estar - regular algo antes mesmo de ter sido realmente inventado. Eles pediram que acontecesse prometendo apenas a saída “responsável”.

37/ Assim, junto com a estrutura legal existente que precisa ser ajustada para dar conta de uma escala sem precedentes de “uso” automatizado (justo ou não), a noção de “IA responsável” precisará ser revisitada para que não se distorça em todos os lados de cada questão .

38/ Isso não é “computação confiável” porque era binário — proteja-se de pessoas mal-intencionadas, mesmo às custas da usabilidade, como afirmamos. Esta é uma agenda proativa projetada para apaziguar um subconjunto de clientes e não pode agradar a todos os constituintes de cada questão.

39/ R AI é muito mais parecido com a promessa de IPO do Google de “Don't be Evil”. Havia um grande ceticismo sobre isso na época, e uma grande esperança. Os céticos provaram que estavam certos porque o mundo é complexo, obscuro e desconhecido, não apenas bom e mau.

40/ O que isso significa então na prática. Em primeiro lugar, as grandes empresas vão acabar por continuar a condicionar os cenários e a “higienizar” a produção. Enormes faixas de conteúdo simplesmente não existirão por medo de serem “irresponsáveis”, “más relações públicas” ou ilegais (ou potencialmente).

41/ As grandes empresas acabarão se concentrando em resultados mundanos, especialmente na pesquisa, que fornecerão efetivamente uma melhor expressão de respostas “OneBox” para tópicos conhecidos com entradas depuradas, listas de eliminação imediatas, respostas padrão codificadas à mão, desculpas, etc.

42/ Em segundo lugar, ferramentas de produtividade e casos de uso para LLMs acabarão se concentrando em casos muito mais restritos de trabalho mundano e repetitivo. Este é um trabalho em que os LLMs são basicamente gramática/ortografia/modelos aprimorados para interações comuns.

43/ A maior barreira para usar um modelo básico do Word foi apenas personalizá-lo para o contexto de uso/cliente exato sem quebrar a gramática. Os LLMs facilitam isso.

44/ Os LLMs serão valiosos até certo ponto para resumir o conteúdo próprio, melhorar a redação própria ou até mesmo modificar imagens próprias usando imagens disponíveis/licenciadas (por exemplo, mostre esta foto de nosso novo produto sendo usado em um avião)

45/ Infelizmente, esses não são os casos “importantes”. Isso não conduzirá a novas camadas de ferramentas de produtividade. Eles serão ótimos acréscimos aos fluxos de trabalho e ferramentas existentes, como ferramentas de CS ou CRM.

46/ Aí está a grande oportunidade: novas ferramentas que abordam problemas difíceis e prompts de alto valor E também desde o início trabalhando dentro da estrutura legal desenvolvida enquanto aproveitam o conhecimento do mundo. Esses têm uma grande vantagem.

Inventar. Assumir riscos BigCo não pode. //FIM

PS/ Adoro este exemplo. Mostra como a tão elogiada noção de usar fontes apenas torna uma resposta gerada mais confiável, quando na verdade não é. Esta é uma compilação trivial. As compilações/resumos gerados devem ser anotados “…de acordo com o estagiário sem conhecimento do domínio”.

Bing recua em seu bate-papo, também conhecido como Sydney

A Microsoft limita o bate-papo do Bing a cinco respostas para impedir que a IA fique realmente estranha theverge.com/2023/2/17/2360… //NOOO. IMO, um erro de estratégia significativo, falha na leitura incorreta da semana passada e correção excessiva. Isso agrava o erro de confundir LLMs, Bing e Pesquisa em geral. 1/

A Microsoft limita o bate-papo do Bing a cinco respostas para impedir que a IA fique realmente estranha. Se você falar com a IA por muito tempo, ela pode dizer que ama você.

2/ Com OpenAI nós *amplamente* experimentamos as novas maravilhas de uma plataforma de texto generativo. Deu a todos nós um gostinho de toda uma nova forma de criatividade - a criatividade generativa. Neste tópico, defendi a importância do “humano no circuito” para a produtividade. (Veja acima)

3/ Muitas pessoas começaram a ver muita “diversão” (ou entretenimento ou perda de tempo ou criatividade ampla) por meio de uma engenharia rápida cuidadosa e maluca. O ChatBot tem os ingredientes de uma forma totalmente nova de ferramenta, mas era muito cedo.

4/ Muitos foram muito rápidos em focar em erros, alucinações e lado maluco do que foi gerado. Muitos dos pesquisadores de IA existentes da grande tecnologia foram empilhados em ver as limitações como riscos. É claro que a “IA responsável” se manifestou sobre as preocupações de onde a OpenAI havia implementado mitigações.

5/ A MS optou por construir sobre o OpenAI com uma camada adicional, mas muito mais importante, posicionou suas adições como uma reinvenção da pesquisa na web e como uma força disruptiva diferente de tudo que o Google já havia visto. Microsoft x Google, a revanche. Realmente? O bate-papo reinventa a pesquisa?

6/ Estou pulando o Google, mas meu tópico abaixo mostra que o Google lutou com a IA e tentou ser * preciso * por décadas e seu sucesso na pesquisa levou à cautela. Isso pode parecer o dilema do inovador. Ou se poderia apenas ser prudente. (Veja acima)

7/ Após 48 horas prudente parecia correto. Bing com LLM se transformou em Sydney e a emoção foi rapidamente substituída por histórias intermináveis ​​de conversa maluca, experiências estranhas com Sydney e uma série de problemas de IA responsáveis.

8/ Em seguida, os pesquisadores de IA de outras empresas foram rápidos em apontar que tudo isso era esperado. Mais uma vez, essa ancoragem estava na precisão, verdade, tom, grades de proteção e todas as coisas esperadas de “computadores estão sempre certos” e “pesquisa é para encontrar fatos”:

9/ Portanto, agora veremos ciclos intermináveis ​​de especialistas sobre como a IA não estava pronta e precisamos de muito mais trabalho sobre responsabilidade. Os limites acima no Bing são o primeiro passo. Tudo resultado direto de colocar os LLMs no contexto de pesquisa e produtividade.

Este MS está *causando* o próximo AI Winter?

10/ Nos domínios de pesquisa, a expectativa do consumidor é consistente com “computadores” que é preciso, sem emoção, previsível, imparcial e assim por diante. Sydney era, em virtude da engenharia, NENHUMA dessas coisas. Foi pensado para trazer à tona padrões e combinações ainda não imaginadas.

11/ Nesse sentido, e nesse sentido especificamente, Sydney foi uma descoberta divertida e inovadora, mesmo em relação ao que todos nós começamos a absorver com o ChatBot. É aqui que o erro de leitura / falha de ignição começa a se revelar. O que foi construído nunca seria bom em busca.

12/ A pesquisa foi o principal problema que a MSFT decidiu resolver - queimar capital, não é realmente lucrativo, além de 20 anos de dificuldades (eu gerenciei a equipe que Christopher Payne criou e liderei em 2006–7, depois Satya, depois Qi Lu, etc.) Nenhuma surpresa , MS pode querer vingança, pois o Google continuou a *prosperar*.

13/ Faz algum sentido ter visto os LLMs como uma extensão ampla de “respostas”, conforme descrevi no tópico anterior. Mas havia uma incompatibilidade tecnológica - os LLMs não estão nem perto de estar prontos para fornecer respostas definitivas. O Google tem lutado com isso há décadas, daí o conservadorismo.

14/ Para mim, este é um exemplo de incompatibilidade de tecnologia - em tempo, posicionamento e até empresa. — mesmo que o conceito/ideia esteja exatamente certo. É assim que os telefones Windows CE eram o conceito certo, mas a implementação totalmente errada, na hora errada, na empresa errada.

15/ Muitas das empresas de tecnologia mais bem-sucedidas reuniram uma grande biblioteca de conceito certo, mas base de tecnologia errada, hora errada, abordagem errada. Muitas vezes, isso é visto como “muito cedo”

Claro que neste contexto o CLIPPY é um exemplo fantástico. De nada.

16/ O problema dessas situações é que os torcedores e os envolvidos podem, anos depois, pintar uma imagem positiva de que chegaram cedo demais. Mas realmente estava errado, como o Apple Newton errado, como o Windows 8 errado. Muitos elementos necessários para alinhar para fazer isso direito.

17/ Agora, e eu quero dizer isso, não estou tentando ser negativo sobre o trabalho. Há um trabalho incrível no ChatBot e Sydney foi uma das inovações mais [involuntariamente surpreendentes] em muito tempo. Como os produtos acima, muitos serão rápidos em fechar os livros sobre ele. NÃO.

18/ A resposta certa é ouvir a experiência e o mercado. Agora não é hora de seguir em frente (como foi feito com os outros). Agora é a hora certa para, na falta de palavra melhor, girar. Sydney não é sobre respostas. Sydney não é a receita para o Bing superar o Google/Ads.

19/ Sydney tem potencial para ser um novo tipo de ferramenta. Combine Sydney com imagens generativas, áudio, vídeo e é a gênese de toda uma nova era de ferramentas. As alucinações, preconceito, aleatoriedade e loucura são CARACTERÍSTICAS, NÃO ERROS. São eles que o tornam uma ferramenta criativa totalmente nova.

20/ Quando olhamos para as plataformas que foram bem-sucedidas, quase tudo que alguns viam como falhas e bugs acabou sendo os recursos ou as restrições de engenharia que legitimamente transformaram uma coisa peculiar em uma plataforma.

21/ O navegador *não* tendo o poder de renderização do Word era um recurso. A falta de um modelo de segurança era uma característica. A falta de centralização era uma característica. Links quebrados levaram a toda uma série de invenções. A fragilidade do PC em comparação com a “IBM” desencadeou a inovação. E assim por diante.

22/ Tudo o que vimos na semana passada é horrível se o objetivo for preciso, correto, respostas “IA responsável aprovadas”. Ferramenta errada, modelo de usuário errado, posicionamento errado. Dez links azuis + anúncios direcionados são muito superiores - e menos agora e no futuro previsível.

23/ Mas a indústria não vê uma nova ferramenta criativa nos moldes de Sydney há muito tempo — desde talvez o JPEG. Agora seria um ótimo momento para liberar o poder dessa criatividade e ver o que foi criado. Pode ser apenas o próximo jogo para PC, a série Netflix ou talvez o metaverso.

24/ Isso tudo é conversa maluca? Talvez, mas foi um argumento gerado por humanos, então tem essas falhas. É uma reação a uma falha mal compreendida, uma estratégia que não estava certa no início e o que certamente será uma correção excessiva [previsível] e assim por diante. // FIM

PS/ Agora é a hora de dobrar. Separado da Pesquisa. Torne a própria Sydney mais disponível, mais barata. Crie mais ferramentas. Encontre mais desenvolvedores. Adicione imagens, som, movimento, animação. Construir um futuro generativo.

PPS/ Uma das características (necessárias, não suficientes) das mudanças de plataforma é que um grupo de pessoas surge (e cresce rapidamente) disposto a fazer da nova tecnologia um hobby — explorar, cutucar, quebrar, aprender. Para encontrar limites. Para criar.

Sydney certamente tinha essas qualidades.

PPPS / aqui Sydney está basicamente escrevendo um roteiro para uma nova série de streaming apresentando um personagem beligerante forçado a se tornar uma celebridade e tem a responsabilidade desafiada por corretores de poder igualmente beligerantes.

Um resumo das possíveis razões pelas quais o Bing saiu dos trilhos em relação às expectativas. A meu ver, isso apenas enfatiza ainda mais o descompasso entre a tecnologia e o cenário escolhido. “Por que *é* o Bing tão imprudente?” @GaryMarcus

“Um lado sentiu que a pesquisa na web deveria permanecer do jeito que está, enquanto o outro pressionou por uma interface baseada em bate-papo. No final das contas, a Microsoft decidiu ter ambos os métodos de pesquisa disponíveis e permitir que as pessoas troquem facilmente.” // Claro que sim.