Generative KI-Prompt-Pipelines

Apr 13 2023

Prompt-Pipelines erweitern Prompt-Vorlagen, indem sie automatisch kontextbezogene Referenzdaten für jeden Prompt einfügen.

Das Eingabeformat für die auf großen Sprachmodellen basierende generative KI ist das Prinzip der Eingabeaufforderungen. Es hat eine Weiterentwicklung des Generative AI Prompt Engineering gegeben. Beim maschinellen Lernen kann eine Pipeline als End-to-End-Konstrukt beschrieben werden, das einen Fluss von Ereignissen und Daten orchestriert.

Das Eingabeformat für die auf großen Sprachmodellen basierende generative KI ist das Prinzip der Eingabeaufforderungen.

Es hat eine Weiterentwicklung des Generative AI Prompt Engineering gegeben …

Statisches Content-Prompt- Engineering
Schnelle Vorlagenerstellung
Schnelle Verkettung
Prompt-Pipelines

Beim maschinellen Lernen kann eine Pipeline als End-to-End-Konstrukt beschrieben werden, das einen Fluss von Ereignissen und Daten orchestriert.

Die Pipeline wird durch einen Auslöser gestartet oder initiiert; und basierend auf bestimmten Ereignissen und Parametern wird ein Ablauf verfolgt, der zu einer Ausgabe führt.

Bei einer Prompt-Pipeline wird der Fluss in den meisten Fällen durch eine Benutzeranforderung initiiert. Die Anfrage wird an eine bestimmte Eingabeaufforderungsvorlage weitergeleitet .

Quelle

Prompt Pipelines können auch als intelligente Erweiterung von Prompt-Vorlagen beschrieben werden.

Die Variablen oder Platzhalter in der vordefinierten Eingabeaufforderungsvorlage werden mit der Frage des Benutzers und dem zu durchsuchenden Wissen aus dem Wissensspeicher gefüllt (auch als Eingabeaufforderungsinjektion bezeichnet).

Die Daten aus dem Wissensspeicher dienen als Referenz für die zu beantwortende Frage. Die Verfügbarkeit dieser Informationen verhindert LLM- Halluzinationen . Es verhindert außerdem, dass das LLM veraltete oder alte Daten aus dem Modell verwendet, die zu diesem Zeitpunkt ungenau sind.

Anschließend wird die verfasste Eingabeaufforderung an das LLM gesendet und die LLM-Antwort an den Benutzer zurückgegeben.

Nachfolgend finden Sie ein Beispiel für eine Eingabeaufforderungsvorlage vor dem Einfügen des Dokuments und der Fragendaten.

prompt_template_text="""Synthesize a comprehensive answer from the following text for the given question. 
Provide a clear and concise response that summarizes the key points and information presented in the text. 
Your answer should be in your own words and be no longer than 50 words. 
\n\n Related text: {join(documents)} \n\n Question: {query} \n\n Answer:"""

output = pipe.run(query="How does Rhodes Statue look like?")

print(output["results"])

[‘The head would have had curly hair with evenly spaced spikes of bronze or silver flame radiating, similar to the images found on contemporary Rhodian coins.’]

Abschließende Gedanken

Unter Berücksichtigung des Bildes unten möchte ich in einem Folgeartikel diskutieren, wie eine Prompt-Pipeline für eine größere Domäne mit mehreren Benutzereingabeklassen implementiert werden kann.

(1) Benutzereingaben sollten kategorisiert und einer spezifischen und anwendbaren Eingabeaufforderungsvorlage zugeordnet werden. Diese Kategorien ähneln der Zuweisung von Benutzereingaben zu einer Absicht.

Basierend auf der der Benutzereingabe zugewiesenen Klassifizierung müssen die richtigen Daten extrahiert (2) und in die Eingabeaufforderungsvorlage eingefügt (3) werden.

⭐️ Bitte folgen Sie mir auf LinkedIn für Updates zu Conversational AI ⭐️

Ich bin derzeit der Hauptevangelist bei HumanFirst . Ich erforsche und schreibe über alle Dinge an der Schnittstelle von KI und Sprache; von LLMs , Chatbots , Voicebots , Entwicklungs-Frameworks, datenzentrierten latenten Räumen und mehr.