GPT SaaS

Aunque los modelos preentrenados ofrecen una funcionalidad lista para usar para muchas tareas de NLP (procesamiento del lenguaje natural), solo llegan hasta ahí. Pronto, surge la necesidad de entrenar con sus propios datos (corpus personalizado). Las formas en que se realiza el entrenamiento personalizado han cambiado con el tiempo, puede ver esta progresión a continuación:

• Solo datos propios : los modelos basados ​​en frecuencia, como bolsa de palabras y tf-idf (frecuencia de documento inversa de frecuencia de término), generalmente se entrenan desde cero, completamente en el corpus personalizado. No hay modelos preentrenados como tales. Úselos como vectorizadores en cualquier tarea de PNL, como clasificación, a través de aprendizaje automático o redes neuronales de aprendizaje profundo.
• Reentrenamiento : el modelo como word2vec viene en un sabor preentrenado de Google. Puede usarlo como vectorizador en cualquier tarea de PNL, como se mencionó anteriormente. Pero, la biblioteca de Python Gensim, le permite crear su propio modelo word2vec (y doc2vec) desde cero, totalmente basado en su propio corpus. Esto le brinda sus propios vectores de palabras para usar en cualquier tarea de PNL, como se mencionó anteriormente.
• Ajuste fino : los modelos como BERT (Representación de codificador bidireccional de transformadores) vienen en un sabor preentrenado para usarse como vectorizador y también como red neuronal base. Según las tareas de NLP posteriores, como la clasificación, es necesario agregar la última capa a esa red neuronal base y, por lo tanto, obtiene su propio clasificador que se puede entrenar en el corpus personalizado.

Ahora hay un nuevo chico en el bloque, para los GPT y BARD del mundo y ese es:

• Ajuste rápido : los modelos como *GPT* (Transformadores preentrenados generativos), que son LLM (Modelos de lenguaje grande), son tan potentes que no es necesario manipular la red neuronal para ajustar con precisión sus propios datos. Solo necesita dar algunas muestras (disparos) dentro del aviso y comienza a responder según las muestras. Por supuesto, uno puede hacer todos los métodos anteriores también, pero esta nueva forma de ajuste a través de indicaciones ha hecho que los LLM sean accesibles para todos.

LangChain es uno de ellos.

Google trae una oferta similar en la nube integrada con Vertex AI.

¡Ya ha comenzado a ver usos imaginativos de tales GPT personalizados, como GitaGPT!

Tales soluciones van a dar nacimiento a una nueva categoría, llamada 'SaaS GPT' (Software-as-a-Service basado en GPT).

¡¡Más por venir!!