Benutzerkonfiguration

Eine Übersicht über die im UFO verfügbaren Benutzerkonfigurationsoptionen. Sie müssen config.yaml.template im Ordner ufo/config in config.yaml umbenennen, um die LLMs und andere benutzerdefinierte Einstellungen zu konfigurieren.

LLM-Konfiguration

Sie können die LLMs für den HOST_AGENT und den APP_AGENT separat in der Datei config.yaml konfigurieren. Der FollowerAgent und der EvaluationAgent teilen sich dieselbe LLM-Konfiguration wie der APP_AGENT. Zusätzlich können Sie eine Backup-LLM-Engine im Feld BACKUP_AGENT konfigurieren, um Fälle zu behandeln, in denen die primären Engines während der Inferenz fehlschlagen.

Nachfolgend finden Sie die Konfigurationsoptionen für die LLMs, wobei OpenAI und Azure OpenAI (AOAI) als Beispiele verwendet werden. Einstellungen für andere LLM-API-Konfigurationen und deren Verwendung finden Sie im Abschnitt Unterstützte Modelle der Dokumentation.

Konfigurationsoption Beschreibung Typ Standardwert
VISUAL_MODE Ob der visuelle Modus verwendet werden soll, um Screenshots zu verstehen und Aktionen auszuführen Boolean True
API_TYPE Der API-Typ: "openai" für die OpenAI API, "aoai" für die AOAI API. String "openai"
API_BASE Der API-Endpunkt für das LLM String "https://api.openai.com/v1/chat/completions"
API_KEY Der API-Schlüssel für das LLM String "sk-"
API_VERSION Die Version der API String "2024-02-15-preview"
API_MODEL Der Name des LLM-Modells String "gpt-4-vision-preview"

Für Azure OpenAI (AOAI) API

Die folgende zusätzliche Konfigurationsoption ist für die AOAI API verfügbar

Konfigurationsoption Beschreibung Typ Standardwert
API_DEPLOYMENT_ID Die Deployment-ID, nur verfügbar für die AOAI API String ""

Stellen Sie sicher, dass Sie die erforderlichen API-Details sowohl für den HOST_AGENT als auch für den APP_AGENT ausfüllen, damit UFO effektiv mit den LLMs interagieren kann.

LLM-Parameter

Sie können auch zusätzliche Parameter für die LLMs in der Datei config.yaml konfigurieren

Konfigurationsoption Beschreibung Typ Standardwert
MAX_TOKENS Die maximale Token-Grenze für die Antwort-Vervollständigung Integer 2000
MAX_RETRY Die maximale Wiederholungsgrenze für die Antwort-Vervollständigung Integer 3
TEMPERATURE Die Temperatur des Modells: Je niedriger der Wert, desto konsistenter ist die Ausgabe des Modells Float 0.0
TOP_P Das Top-P des Modells: Je niedriger der Wert, desto konservativer ist die Ausgabe des Modells Float 0.0
TIMEOUT Das Timeout des Aufrufs in Sekunden Integer 60

Für RAG-Konfiguration zur Verbesserung des UFO-Agenten

Sie können die RAG-Parameter in der Datei config.yaml konfigurieren, um den UFO-Agenten mit zusätzlichen Wissensquellen zu erweitern

RAG-Konfiguration für die Offline-Dokumente

Konfigurieren Sie die folgenden Parameter, damit UFO Offline-Dokumente für den Entscheidungsprozess verwenden kann

Konfigurationsoption Beschreibung Typ Standardwert
RAG_OFFLINE_DOCS Ob die Offline-RAG verwendet werden soll Boolean False
RAG_OFFLINE_DOCS_RETRIEVED_TOPK Die Topk für die offline abgerufenen Dokumente Integer 1

Konfigurieren Sie die folgenden Parameter, damit UFO die Online-Bing-Suche für den Entscheidungsprozess verwenden kann

Konfigurationsoption Beschreibung Typ Standardwert
RAG_ONLINE_SEARCH Ob die Bing-Suche verwendet werden soll Boolean False
BING_API_KEY Der Bing-Such-API-Schlüssel String ""
RAG_ONLINE_SEARCH_TOPK Die Top-K für die Online-Suche Integer 5
RAG_ONLINE_RETRIEVED_TOPK Die Top-K für die online abgerufenen Suchergebnisse Integer 1

RAG-Konfiguration für Erfahrung

Konfigurieren Sie die folgenden Parameter, damit UFO die RAG aus seiner Selbsterfahrung nutzen kann

Konfigurationsoption Beschreibung Typ Standardwert
RAG_EXPERIENCE Ob die RAG aus seiner Selbsterfahrung verwendet werden soll Boolean False
RAG_EXPERIENCE_RETRIEVED_TOPK Die Topk für die offline abgerufenen Dokumente Integer 5

RAG-Konfiguration zur Demonstration

Konfigurieren Sie die folgenden Parameter, damit UFO die RAG aus Benutzervorführungen nutzen kann

Konfigurationsoption Beschreibung Typ Standardwert
RAG_DEMONSTRATION Ob die RAG aus Benutzervorführungen verwendet werden soll Boolean False
RAG_DEMONSTRATION_RETRIEVED_TOPK Die Topk für die offline abgerufenen Dokumente Integer 5
RAG_DEMONSTRATION_COMPLETION_N Die Anzahl der Vervollständigungsoptionen für das Demonstrationsergebnis Integer 3

Erkunden Sie die verschiedenen RAG-Konfigurationen, um den UFO-Agenten mit zusätzlichen Wissensquellen zu erweitern und seine Entscheidungsfähigkeiten zu verbessern.