KI-Chat 

Interne ID: agorum.ai.chat

Mit diesem Knoten sprechen Sie das konfigurierte Sprachmodell an, indem Sie über den Knoten Befehlstexte an die KI senden und Antworten von der KI erhalten. Der Knoten für den KI-Chat kann Ihnen bei vielen Aufgaben helfen, hier einige einfache Beispiele:

• Inhalte zusammenfassen
• Texte neu strukturieren oder in ein vorgegebenes Format bringen
• Texte übersetzen
• gezielt Informationen in einem Dokument finden und zur Verfügung stellen
• E-Mails oder Briefe schreiben

Verhaltensweise

Erreicht das System den Knoten im Workflow, prüft das System die gesetzten Parameter und sendet die Befehlstexte, die Sie angegeben haben, an die konfigurierte KI. Die KI antwortet in Form eines JavaScript-Objekts in der Datenvariable. 

Angenommen, der Knoten erhält ein Dokument in deutscher Sprache als Input und der KI-Chat-Knoten soll den Inhalt dieses Dokuments übersetzen.  Dann könnten Sie als Befehlstext Folgendes angeben:

Übersetze den Text des Dokuments in die englische Sprache.

Das System erstellt dann eine Anfrage an das KI-Sprachmodell mit dem Textbefehl und dem angehängten Dokument. Das Sprachmodell antwortet mit dem übersetzten Text.

Daten für die KI im Workflow zur Verfügung stellen

Sie haben mehrere Möglichkeiten, im Workflow-Knoten Daten (Texte oder Dokumente) für die KI anzugeben:

• Der KI-Chat-Knoten kann Daten als Input von einem anderen Workflow-Knoten erhalten. Das können Sie über die Einstellungen Eingangsvariable verwenden und Eingangsvariable steuern.
• Sie können im KI-Chat-Knoten eine Datei als Kontext-Datei angeben.
• Sie können im KI-Chat-Knoten den eigentlichen Befehl für die KI mit den Einstellungen Pre-Text, Text und Post-Text angeben.
• Sie können im KI-Chat-Knoten eine Datei über eine Variable im Befehlstext in der Einstellung Text angeben.
• Sie können im KI-Chat-Knoten Daten aus einer Chat-Historie wiederverwenden und dazu die Historienvariable angeben.

Diese Möglichkeiten entsprechen weitgehend der Benutung eines KI-Chat-Fensters wie Sie es kennen. Auch im Chat-Fenster gibt es die Möglichkeit Informationen oder Dateien als Kontext zu hinterlegen, Befehle direkt einzugeben, und Folgebefehle in einem bestehenden Chat mit Historie zu verwenden.

Ablauf und Historie

Der Chat-Verlauf wird gespeichert und hat folgende Struktur. Die Informationen, die an die KI gesendet werden, sind die Benutzereingabe, in diesem Fall durch den Workflow-Knoten. Sie können sie an der Rolle user erkennen.

{
        "attachmentsTexts": [
          "Filename: Willkommen.pdf\nuuid: 24e790a0-6c6f-11ef-b01a-00007f000101\nContent of file:\n```Text in deutscher Sprache```"
        ],
        "environment": "chat",
        "role": "user",
        "attachments": [
          "24e790a0-6c6f-11ef-b01a-00007f000101"
        ],
        "text": "Übersetze den Text des Dokuments in die englische Sprache."
      },

Zurück erhält das System eine Antwort vom Sprachmodell. Diese Antwort wird ebenfalls in der JSON-Struktur abgelegt und kann in der Historie an der Rolle assistant erkannt werden.

      {
        "environment": "chat",
        "role": "assistant",
        "text": "Filename: Welcome.pdf\nuuid: 24e790a0-6c6f-11ef-b01a-00007f000101\nContent of file:\n\n```Text in English language```",
        "toolCalls": []
      }

Wenn Sie zusätzlich einen allgemeinen Kontext in der KI-Voreinstellung des Sprachmodells hinterlegt hätten, würde diese Information zusammen mit der Benutzeranfrage an die KI übergeben und in der Historie mit der Rolle system gespeichert.

Endpoints

Standard	Veränderbar?	Weitere Endpoints möglich?
Default (Inlet)	Nein, kann nur ausgeblendet werden.	nein, nicht nötig
Default (Outlet)	Nein, kann nur ausgeblendet werden.	nein, nicht nötig
error (Outlet)	Nein, kann nur ausgeblendet werden.	nein, nicht nötig

Parameter

Parameter	Beschreibung	Beispiel
KI-Voreinstellung
Kontext	Definiert den Kontext, den das System an die KI mitgibt. Der Kontext unterstützt die KI dabei, Ihre Befehle und Anweisungen umzusetzen, indem Sie der KI etwa ein bestimmtes Szenario mitgeben. Wenn Sie den Kontext als Datei mitgeben (über den Parameter Kontext-Datei), ignoriert das System diesen Parameter.
Kontext-Datei	Definiert den Kontext als Datei, d. h. der Kontext steht in der Datei. Wenn Sie diesen Parameter verwenden, ignoriert das System den Parameter Kontext.
Pre-Text	Definiert den Pre-Text, den das System vor dem eigentlichen Text einfügt. Verwenden Sie den Pre-Text, wenn der eigentliche Text eine Variable ist und davor noch ein fester Text hinterlegt werden soll.
Text	Definiert den Prompt für die KI, d. h. eine konkrete Anweisung oder Frage.
Post-Text	Definiert den Post-Text, den das System nach dem eigentlichen Text einfügt. Verwenden Sie den Post-Text, wenn der eigentliche Text eine Variable ist und dahinter noch ein fester Text folgen soll.
Historienvariable	Definiert die Variable, aus der die Historie geladen werden kann.  Die Historienvariable ist optional.  Die Variable muss ein Array mit einem Aufbau nach folgendem Muster sein, das aus der Antwort einer KI-Chat-Anfrage übernommen werden kann.
API-Time-out	Definiert den Zeitraum in Millisekunden, nach welcher Zeit die API die Verbindung zum Service abbricht, wenn das System keine Verbindung zum Service herstellen kann. Wenn Sie nichts angeben, wird der in der KI-Voreinstellung verwendete Wert bzw. der Standardwert verwendet.
Eingangsvariable verwenden	Aktiviert Übergibt die Dokumente der Eingangsvariablen als zusätzlichen Kontext an die KI. Auf diese Art kann die KI Daten von Dokumenten verarbeiten. Deaktiviert Übergibt keine Eingangsvariable.
Eingangsvariable	Für die generelle Schreibweise von Variablen im Editor oder als Expression siehe Schreibweise von Variablen.
Datenvariable	Definiert die Variable, in der das Ergebnis der KI als JavaScript-Struktur enthalten ist. Die Datenvariable ist ein Pflichtfeld. Das Ergebnis enthält die Antwort der KI auf die gesendete Anfrage, die Historie des Chats und extrahierte Informationen, etwa XML, JSON oder sonstigen Code. Für die generelle Schreibweise von Variablen im Editor oder als Expression siehe Schreibweise von Variablen.	Siehe Datenvariable
Rechte	Siehe Rechte auf Knoten vergeben

 {
    "finishReason": "stop",
    "tokens": {
      "output": 0,
      "input": 0,
      "total": 0
    },
    "parsed": {
      "code": [],
      "xml": [],
      "json": []
    },
    "text": "<Antwort der KI/Ergebnis>",
    "history": [
      {
        "role": "system",
        "text": "<Kontext aus der KI-Voreinstellung>"
      },
      {
        "attachmentsTexts": [
          "Filename: \nuuid: 24e790a0-6c6f-11ef-b01a-00007f000101\nContent of file:\n`` "
        ],
        "environment": "chat",
        "role": "user",
        "attachments": [
          "24e790a0-6c6f-11ef-b01a-00007f000101"
        ],
        "text": "<Pre-Text Text Post-Text aus der Konfiguration des Worklfow-Knotens>"
      },
      {
        "environment": "chat",
        "role": "assistant",
        "text": "<Antwort der KI>",
        "toolCalls": []
      }
    ],
    "toolCalls": []
  }