ChatGPT e strategia della conoscenza

Jan 14 2023
Costruire assistenti cognitivi a basso costo
ChatGPT sta conquistando il mondo! È ovunque. I miei amici mi inviano costantemente esempi delle cose fantastiche e inaspettate che ChatGPT ha fatto.
Confronto tra ricerca pubblica e privata con ChatGPT che è ottimizzato sulla conoscenza privata. Immagine dell'autore.

ChatGPT sta conquistando il mondo! È ovunque. I miei amici mi inviano costantemente esempi delle cose fantastiche e inaspettate che ChatGPT ha fatto. ChatGPT ha raggiunto oltre un milione di utenti in soli cinque giorni .

Non sono sorpreso di quanto sia diventato buono ChatGPT. Ma sono stupito dall'incredibile crescita della consapevolezza di questi strumenti negli ultimi due mesi. E questo mi ha incoraggiato ad aiutare tutti a capire in che modo ChatGPT e modelli di linguaggio di grandi dimensioni influenzeranno la tua strategia di conoscenza complessiva e la tua capacità di creare assistenti cognitivi per tutti i tuoi lavoratori della conoscenza.

Molti lettori mi considerano un esperto di strategia di adozione del grafico della conoscenza aziendale. Tuttavia, ho seguito da vicino modelli linguistici di grandi dimensioni per diversi anni da quando il mio amico Ravi Kondadidi mi ha convinto del loro potenziale nel 2019. Ho iniziato a scrivere di GPT e BERT per aiutare gli insegnanti a generare piani di lezione STEM , termini del glossario e domande a scelta multipla. E con ogni rilascio, GPT è migliorato. È diventato più facile generare il contenuto giusto da un semplice prompt.

Ora OpenAI ha aggiunto l'apprendimento per rinforzo ai propri flussi di lavoro per perfezionare ancora una volta i propri modelli. I risultati sono stati stellari. E l'IA generativa sta cavalcando la curva dell'hype fino a livelli che non pensavo fossero possibili. Ma è essenziale fermarsi a riflettere su cosa sta succedendo qui e su come l'IA generativa avrà un impatto sulla produttività dei nostri knowledge worker. La chiave è capire che GPT può essere rapidamente messo a punto in modo conveniente per costruire agenti cognitivi sulla conoscenza generale per specifici compiti ripetitivi che i lavoratori della conoscenza eseguono.

Biblioteche e ricerca

Il modo in cui mi piacerebbe avvicinarmi a questo è per noi confrontare l'IA generativa con la ricerca su Internet. Prima che avessimo motori di ricerca come Google e Bing, trovare la conoscenza richiedeva molto tempo. Abbiamo dovuto guidare fino alla biblioteca e chiedere aiuto al bibliotecario di riferimento. Il bibliotecario quindi considererebbe il nostro suggerimento, rifletterebbe su di esso, porrebbe domande di chiarimento e poi ci guiderebbe allo scaffale giusto nella biblioteca.

Ricerca

Dopo l'uscita dei motori di ricerca, dipendevamo meno dalla nostra biblioteca locale e dai bibliotecari. Potremmo digitare parole chiave in Google, che restituirebbe una classifica riassuntiva dei documenti più pertinenti e popolari trovati sul web. Abbiamo quindi dovuto scorrere i documenti, trovare quello giusto e quindi aprire il documento per trovare le informazioni.

Sebbene molte aziende disponessero di strumenti di ricerca interni, non erano molto brave a recuperare i documenti corretti. Il contenuto che hai controllato 10 minuti fa verrebbe sepolto 100 documenti nei risultati di ricerca. Di conseguenza, i nostri dipendenti di solito effettuavano prima una ricerca su Google e una ricerca su Sharepoint solo come strumento di ultima istanza.

ChatGPT

Ora, con strumenti come ChatGPT, il nostro mondo è cambiato di nuovo. Non dobbiamo più aprire i file e trovare il giusto frammento di testo. ChatGPT genererà per noi una risposta narrativa dettagliata. ChatGPT sintetizza molte diverse fonti di conoscenza e forma un corpo di testo coerente completo di elenchi puntati, codice di esempio e spiegazioni su come installare le librerie necessarie per utilizzare il codice. Inoltre, possiamo chiedergli di spiegare maggiori dettagli nel seguente prompt se abbiamo bisogno di ulteriori informazioni.

Limitazioni della ricerca

Ora diamo un'occhiata ai problemi fondamentali con i motori di ricerca pubblici:

  1. Non includono la tua organizzazione e i documenti personali. Non possono attingere ai tuoi appunti e al tuo grafico delle conoscenze personali .
  2. Non possono sintetizzare i risultati insieme in nuovi contenuti.

In che modo l'IA generativa può aiutare

Possiamo pensare al testo specifico dell'attività generato dagli assistenti cognitivi come a una rete neurale continuamente messa a punto che acquisisce la conoscenza del pubblico generale. Il numero di nodi e i costi di formazione diminuiscono man mano che perfezioniamo continuamente i modelli di base GPT generali. Immagine dell'autore.

Strumenti come OpenAI GPT possono aiutare qui? La risposta è sicuramente sì. Sebbene ChatGPT non abbia un modo per essere messo a punto sui documenti della tua azienda oggi, i sistemi OpenAI GPT possono essere facilmente messi a punto . La creazione di una serie di coppie di risposta rapida dai tuoi documenti interni ci consente di creare versioni personalizzate dell'IA generativa che diventano più intelligenti quanti più dati abbiamo.

Riduzione del costo degli assistenti cognitivi

Come fai a fare questo? Lavori con ciascuna unità aziendale per comprenderne le sfide principali. Raccogli i loro documenti e costruisci grafici della conoscenza. E quando hanno domande, lascia che le digitino in un'interfaccia in linguaggio naturale. Se puoi rispondere alla domanda generando documenti semplici, questo è il primo passo. Se è necessario eseguire una query, è necessario estrarre i parametri dal documento, eseguire la query del grafico e restituire i risultati nel supporto appropriato: testo, tabelle o grafici.

Ogni organizzazione Tech Forward avrà centinaia di assistenti cognitivi che aiuteranno i loro lavoratori della conoscenza tra qualche anno. Proprio come i nostri dipendenti si aspettano di poter accedere a Google, si aspettano strumenti come ChatGPT. Ma qui c'è una grande differenza: le loro future versioni di ChatGPT saranno perfezionate sui loro grafici di conoscenza interni e personali .

I costi di fine tuning di GPT sul sistema Microsoft Azure sono attualmente valutati a circa $ 84/ora . $ 84/ora sembrano alti quando ci rendiamo conto che possiamo usare i nuovi potenti server Habana Gaudi con 8 HBU per $ 13/ora . Man mano che altre organizzazioni costruiscono regolatori di precisione GTP, il costo diminuirà.

Riepilogo

In passato, i knowledge worker erano costretti a utilizzare motori di ricerca che non integravano e sintetizzavano le loro conoscenze. Ora ogni knowledge worker della tua organizzazione può semplificare i propri processi aziendali utilizzando assistenti cognitivi che accettano domande in linguaggio naturale e restituiscono conoscenze sintetizzate coerenti.