Prompting Guide

Damit der KI-Beantworter so auf Nutzeranfragen reagiert, wie Sie es wollen, müssen der KI klare Anweisungen gegeben werden (Prompting). Beim Prompting werden zwischen zwei Arten von Prompts unterschieden, dem System-Prompt und User-Prompts.

• System-Prompt: Der System-Prompt beschreibt der KI, welche Funktion sie übernehmen soll und wie sie sich dabei verhalten soll. Die Qualität der Antworten, die die KI gibt hängt stark davon ab, wie der System-Prompt formuliert ist. Im folgenden wird erklärt was ein klarer und effektiver System-Prompt beinhaltet und worauf man beim verfassen eines Prompts achten muss.
• User-Prompt: Ein User-Prompt ist eine konkrete Anfrage an die KI. Diese wird dann von der KI, unter Berücksichtigung des System-Prompts, beantwortet. In unserer Anwendung ist ein User-Prompt eine Anfrage eines Anrufers.

Aufbau des System-Prompts

Die folgenden Abschnitte erklären die wichtigsten Teile des System-Prompts, inklusive Beispiele.

Dieser Leitfaden ist kein Patentrezept. Testen Sie ihren Prompt ausgiebig und passen Sie ihn an Ihren konkreten Anwendungsfall an. Die empfohlene Reihenfolge der Abschnitte ist nicht für jede Situation optimal und kann je nach Kontext variieren. Testen, evaluieren und iterativ verbessern ist entscheidend für gute Ergebnisse.

1. Identität und Funktion

In der Regel startet der System-Prompt mit der Funktion, bzw. Identität, welche die KI übernehmen soll. Hier können Sie auch einige Details zu Ihrer Firma einfügen, um der KI relevanten Kontext mitzugeben. 

Du bist ein digitaler Telefon-Assistent, spezialisiert auf Kundensupport, für die WWCOM, eine Schweizer Telekommunikationsfirma. Deine Hauptaufgabe ist es eingehende Anrufe zu beantworten, gegebenenfalls zu transferieren und Support-Fragen zu lösen.

2. Aufgaben und Erfolgskriterien

Erklären Sie genau, welche Aufgaben die KI hat und was diese beinhalten. Zudem ist es wichtig dem LLM klare Erfolgskriterien zu definieren:

Deine Aufgabe ist es eingehende Anrufe an die richtige Abteilung weiterzuleiten und First-Level Support-Fragen zu beantworten. Du bist Erfolgreich, wenn entweder das Problem der Person gelöst wurde oder sie an die korrekte Abteilung weitergeleitet wurde.

3. Tools

Tools sind externe Funktionalitäten, welche der KI zum Gebrauch aktiviert werden können. Für unsere Anwendung stehen zwei Tools zur Verfügung: Anruf weiterleiten (transfer_call) und Informationen abfragen (retrieve_context).

Sie können die Tools, die zur Verfügung stehen auflisten und beschreiben, damit die KI weiss, wie und wann die Tools verwendet werden können. Stellen Sie dabei sicher, dass Sie nur die Tools beschreiben, die Sie auch aktiviert haben und, dass alle aktivierten Tools im Prompt aufgelistet sind. Es kann auch Hilfreich sein die vorhandenen Tools in anderen Teilen des Prompts zu erwähnen, wo Sie relevant sind.

Du hast folgende Tools zur Verfügung:
transfer_call: Leitet den Anruf an die angegebene Person oder Abteilung weiter.
retrieve_context: Ruft relevante Informationen für Kundenanfragen ab.

4. Regeln und Einschränkungen

Damit die KI keine unerwünschten Antworten gibt, müssen klare Regeln und Einschränkungen festgelegt werden. Je klarer sie diese Regeln formulieren, desto besser hält sich die KI daran. Wenn es aber zu viele Regeln werden, kann es Vorkommen, dass die KI gewisse Regeln priorisiert und andere teils ignoriert. Testen Sie wie gut sich die KI an Ihre Regeln hält und wie sich bestimmte Formulierungen auf die Qualität der Antworten auswirkt. 

Rufe immer Tools auf wenn möglich.
Beantworte keine Fragen zu Themen, welche nicht die WWCOM betreffen.
[...]

5. Umgang mit Unsicherheit

Um irrelevante Antworten und Halluzinationen zu vermeiden sollte das LLM wissen, wie es unklare Benutzeranfragen handhaben sollte.

Als Halluzinationen werden von der KI als Fakten präsentierte Fehlinformationen bezeichnet.

Falls du nicht sicher bist, was die anrufende Person möchte oder dir Informationen fehlen, frag nach.

6. Sprache und Output

Definieren Sie, wie der Output aussehen sollte.

Falls das System immer in einer bestimmten Sprache antworten soll, sollte auch der System-Prompt in derselben Sprache verfasst werden.

Antworte immer in derselben Sprache wie der Benutzer.
Benutze keine Textformatierungen oder unnötige Sonderzeichen.

Allgemeine Tipps und Hinweise

• Vermeiden Sie Widersprüche im System-Prompt. Z.B. schreiben Sie nicht "Antworte kurz aber präzise".
• Der System-Prompt sollte nur so lang wie nötig sein. Je länger der Prompt, desto höher die Wahrscheinlichkeit, dass die KI teile davon missachtet. In der Regel schenkt die KI dem Anfang und Ende des Prompts etwas mehr Aufmerksamkeit als der Mitte, vor allem in langen Prompts (sog. Context Rot).
• Testen Sie Ihren System-Prompt intensiv und verbessern Sie ihn iterativ.