Mit Prompt Flow können Sie Varianten verwenden, um Ihre Prompts zu optimieren. In diesem Artikel lernen Sie das Konzept der Prompt Flow-Varianten kennen.

Varianten#

Eine Variante bezieht sich auf eine bestimmte Version eines Tool-Knotens mit unterschiedlichen Einstellungen. Derzeit werden Varianten nur im LLM-Tool unterstützt. Im LLM-Tool kann beispielsweise eine neue Variante entweder einen anderen Prompt-Inhalt oder andere Verbindungseinstellungen darstellen.

Angenommen, Sie möchten eine Zusammenfassung eines Nachrichtenartikels erstellen. Sie können verschiedene Varianten von Prompts und Einstellungen wie folgt festlegen:

Varianten

Prompt

Verbindungseinstellungen

Variante 0

Zusammenfassung: {{input sentences}}

Temperatur = 1

Variante 1

Zusammenfassung: {{input sentences}}

Temperatur = 0.7

Variante 2

Was ist der Hauptpunkt dieses Artikels? {{input sentences}}

Temperatur = 1

Variante 3

Was ist der Hauptpunkt dieses Artikels? {{input sentences}}

Temperatur = 0.7

Durch die Nutzung verschiedener Varianten von Prompts und Einstellungen können Sie untersuchen, wie das Modell auf verschiedene Eingaben und Ausgaben reagiert, und so die am besten geeignete Kombination für Ihre Anforderungen entdecken.

Vorteile der Verwendung von Varianten#

  • Verbessern Sie die Qualität Ihrer LLM-Generierung: Durch die Erstellung mehrerer Varianten desselben LLM-Knotens mit unterschiedlichen Prompts und Konfigurationen können Sie die optimale Kombination identifizieren, die qualitativ hochwertige Inhalte liefert, die Ihren Anforderungen entsprechen.

  • Sparen Sie Zeit und Mühe: Selbst geringfügige Änderungen an einem Prompt können zu deutlich unterschiedlichen Ergebnissen führen. Es ist entscheidend, die Leistung jeder Prompt-Version zu verfolgen und zu vergleichen. Mit Varianten können Sie die historischen Versionen Ihrer LLM-Knoten einfach verwalten und Updates basierend auf jeder Variante durchführen, ohne frühere Iterationen zu vergessen. Dies spart Ihnen Zeit und Mühe bei der Verwaltung der Prompt-Tuning-Historie.

  • Steigern Sie die Produktivität: Varianten optimieren den Prozess für LLM-Knoten und vereinfachen die Erstellung und Verwaltung mehrerer Variationen. Sie können mit weniger Zeit bessere Ergebnisse erzielen und somit Ihre Gesamtproduktivität steigern.

  • Erleichtern Sie den Vergleich: Sie können die von verschiedenen Varianten erhaltenen Ergebnisse mühelos nebeneinander vergleichen und so datengesteuerte Entscheidungen darüber treffen, welche Variante die besten Ergebnisse liefert.

Nächste Schritte#