| |
Object ask(String message, String configName, Double temperature, Double topP, Integer topK, Double frequencyPenalty, Double presencePenalty, Integer maxOutputTokens, List<String> stopSequences, Integer timeoutMs) throws TestException |
|
| Parameter |
message |
Die Nachricht, die an das LLM gesendet werden soll.
|
configurationName |
Der Name einer LLM-Konfiguration wie in LLM-Konfigurationen in den QF-Test Optionen hinterlegt.
|
temperature |
Steuert die "Zufälligkeit" des generierten Textes.
|
topK |
Steuert wie viele der Tokens mit der höchsten Wahrscheinlich berücksichtigt werden sollen.
|
topP |
Steuert welche Tokens berücksichtigt werden sollen.
|
presencePenalty |
Verhindert, dass das LLM Wörter mehrfach benutzt.
|
frequencyPenalty |
Verhindert, dass das LLM Wörter wiederholt.
|
maxOutputTokens |
Maximale Anzahl von Tokens die in einer Antwort generiert werden können.
|
stopSequences |
Hindert das LLM daran, nach den auftauchen dieser Zeichenketten weiteren text zu generieren.
|
timeoutMs |
Wie lange auf eine Antwort des LLM gewartet werden soll, in Millisekunden.
|
| Rückgabewert |
Die Antwort des LLM. Der Rückgabetyp hängt vom Antwortinhalt ab:
ein String bei reinen Textantworten, ein ImageRep wenn das LLM
ein einzelnes Bild ohne Text zurückliefert, und eine List aus
String- und/oder ImageRep-Elementen wenn die Antwort
mehrere Inhaltsteile enthält.
|
| |
Object askWithTools(String message, String configName, ...) throws TestException |
|
| Parameter |
message |
Die Nachricht, die an das LLM gesendet werden soll.
|
configurationName |
Der Name einer LLM-Konfiguration wie in LLM-Konfigurationen in den QF-Test Optionen hinterlegt.
|
| Rückgabewert |
Die Antwort des LLM. Der Rückgabetyp hängt vom Antwortinhalt ab:
ein String bei reinen Textantworten, ein ImageRep wenn das LLM
ein einzelnes Bild ohne Text zurückliefert, und eine List aus
String- und/oder ImageRep-Elementen wenn die Antwort
mehrere Inhaltsteile enthält.
|
| |
void addCustomModel(final String name, final Object responseFunction) |
|
| Parameter |
name |
Der Name der KI-Konfiguration, unter dem das benutzerdefinierte Modell referenziert werden kann
|
responseFunction |
Eine Funktion, die die Anfrage mit drei Argumenten empfängt:
- msg
- Die zu verarbeitende Chat-Nachricht.
- parameters
- (optional) Die Anfrageparameter.
- toolBridge
- (optional) Falls Tool-Zugriff erlaubt ist, ermöglicht dieses Bridge-Objekt,
eine Liste der verfügbaren Tools abzurufen (
toolBridge.listTools()) und die Tools
aufzurufen (über toolBridge.callTool(toolName, toolParameterMap)).
Andernfalls ist das Argument null.
|
|
| |
void removeCustomModel(final String name) |
|
| Parameter |
name |
Der Name, unter dem das benutzerdefinierte Modell registriert wurde
|
|
| |
List<String> getConfigNames() |
|
| Rückgabewert |
Liste aller verfügbaren KI-Konfigurationsnamen
|
| |
void setDefaultConfig(String provider, String baseUrl, String apiKey, String modelName, String displayName="Default") |
|
| Parameter |
provider |
Aktuell verfügbare Anbieter-Typen: OpenAIGeneric, Anthropic, Gemini und Ollama.
|
baseUrl |
Die URL, unter der das LLM angesprochen werden kann. Endet üblicherweise mit /v1 oder ähnlich.
|
apiKey |
Der API-Schlüssel dient zur Authentifizierung mit dem jeweiligen LLM-Anbieter.
|
modelName |
Der Name des LLM-Modells, z.B. "gpt-4o" oder "gemini-2.0-flash".
|
displayName |
Wie QF-Test diese Konfiguration in Protokollen und Fehlermeldungen identifiziert, Standardwert: Default.
|
|
| |
void resetDefaultConfig() |
|
|
| |
String getPrompt(String promptName, Map<String, Object> promptArguments) |
|
| Parameter |
promptName |
Der Name des Prompts.
|
promptArguments |
Die Argumente des Prompts.
|
| Rückgabewert |
Die zusammengefügten Textnachrichten des Prompts.
|
| |
List<List<Object>> listPrompts() |
|
| Rückgabewert |
Eine Liste aller verfügbaren MCP-Prompts.
|
| |