KI-Generiertes Bild, erstellt mit Stable Diffusion
Der Prompt ist so etwas wie gefühlt der heilige Grahl moderner IT und egal wie man KI; Sprachmodellen etc. persönlich gegenübersteht, wird man nicht leugnen können, dass all dies nicht nur die IT-Welt auf den Kopf stellt und dies mit einem atemberaubenden sich selbst beschleunigenden Tempo. Der richtig Prompt ersetzt so manches heutzutage, gut wenn man ihn also beherrscht.
Hier gibt es von Google ein Whitepaper „Prompt Engineering“ von Lee Boonstra, welches einem auf dem weg zum Meister des Prompt vielleicht helfen kann. Herunterladen kann man das Whitepaper hier.
In diesem Whitepaper wird Prompt Engineering als Kunst beschrieben, Large Language Models allein durch präzise Formulierungen zu steuern und so gewünschte Antworten zu erhalten. Kann man so bestätigen…
Es folgt eine systematische Einteilung in verschiedene Prompt‑Typen – von Zero‑Shot und Few‑Shot über System‑, Rollen‑ und Kontext‑Prompts bis hin zu Chain‑of‑Thought, Self‑Consistency, Tree‑of‑Thought und ReAct
Der Leitfaden behandelt aber auch fortgeschrittene Techniken wie
- Fehler‑Debugging‑Prompts für Code
- multimodales Prompting
- Variablenverwendung
- strukturierte Ausgabeformate
Im Whitepaper zum Thema Prompting findet man auch eine Diskussion typischer Hürden bei ungenauen oder zu allgemein gehaltenen Eingaben sowie durch eine umfangreiche Sammlung von Best Practices, darunter Beispiel‑Prompts, klare Anweisungen, positive Instruktionen und sorgfältige Dokumentation aller Versuchsanordnungen.
Definition und Zielsetzung
Im Whitepaper wird Prompt Engineering so definiert, dass Prompts es ermöglichen ein LLM (Lage Language Model) ohne Programmierkenntnisse allein über natürliche Sprache zu konfigurieren und zu „programmieren“, indem klar definierte Anweisungen und Kontextinformationen übermittelt werden. Alsop genau das, was viele von mittlerweile täglich so machen.
Das Whitepaper richtet sich an alle Anwender, nicht nur an Data Scientists: schon beim Chatten mit KI‑Bots schreibt man ja im Grunde Prompts.
Das Whitepaper soll dem Anwender helfen, die Genauigkeit zu erhöhen, Halluzinationen zu reduzieren und reproduzierbare Ergebnisse zu erzielen
Definiert wird im Whitepaper auch die Taxonomie der Prompt‑Typen
- Zero‑Shot: reine Instruktion ohne Beispiele, ideal für einfache Aufgaben
- One‑Shot und Few‑Shot: Ein- bzw. Mehrfach‑Beispiele im Prompt zur Demonstration des gewünschten Formats
- System‑Prompting: Vorgabe eines übergeordneten Kontexts für alle folgenden Nutzeranfragen
- Rollen‑Prompting: Zuweisung einer spezifischen Rolle an das Modell („Du bist ein Experte…“) zur Verhaltenslenkung
- Kontextuelles Prompting: Einbindung externer Daten oder Hintergrundinformationen vor der eigentlichen Anweisung
- Step‑Back Prompting: Aufforderung an das Modell, zunächst über die Aufgabenstellung nachzudenken oder zu abstrahieren
- Chain‑of‑Thought (CoT): Ausformulierung einer Gedankenkette im Prompt, um komplexe Schlussfolgerungen zu ermöglichen
- Self‑Consistency: Mehrfaches Ausführen eines CoT‑Prompts und Konsensbildung aus mehreren Begründungspfaden
- Tree‑of‑Thought: Erzeugung und Evaluierung mehrerer argumentativer Pfade zur Problemlösung
- ReAct: Kombination aus Reasoning und Acting, um datenbasierte Aktionen in das Prompting einzubetten
Fortgeschrittene Techniken, die Pompting Whitepaper angesprochen werden
Im Whitepaper finden sich
- Muster‑Prompts zur Fehleranalyse von Python‑Skripten, bei denen das Modell Bugs identifiziert, Code verbessert und robuste Exception‑Handhabung vorschlägt
- Multimodales Prompting wird als Ansatz diskutiert, bei dem neben Text auch Bilder, Audio oder Codefragmente als Eingabe dienen
- Variablen im Prompt ermöglichen dynamische Inhalte, ohne dass manuelle Änderungen nötig sind
- Informationen wie Strukturierte Ausgabeformate wie JSON oder XML helfen können, Halluzinationen einzudämmen und maschinenlesbare Resultate zu erzeugen
- Schließlich wird betont, dass das Experimentieren mit Modellen und Prompt‑Parametern (Temperatur, Top‑K, Top‑P) essenziell ist
Internet Archive
Herausforderungen beim Erstellen eines Prompts
Das Whitepaper spricht auch an, wie unpräzise oder zu allgemein formulierte Prompts f oft zu irrelevanten, unvollständigen oder falschen Antworten führen, da das Modell nicht eindeutig weiß, welche Informationen es nutzen soll
Zudem ändern sich Modellversionen und Trainingsdaten, sodass Prompts regelmäßig überprüft und angepasst werden müssen, um optimale Ergebnisse zu liefern
Abschließend findet man im Whitepaper auch Best Practices
- Prompts kurz und verständlich halten, komplexe Sprache vermeiden
Internet Archive - Spezifische Anweisungen formulieren statt vager Wünsche
- Positive Instruktionen („Tu dies“) vor Constraints („Tu nicht das“) stellen
- Maximale Token‑Länge kontrollieren, um überlange Antworten zu vermeiden
- Variablen nutzen, um Prompts dynamisch wiederzuverwenden
- Unterschiedliche Eingabe‑ und Ausgabeformate ausprobieren
- Alle Prompt‑Versuche dokumentieren und Versionen mit Metadaten (Modell, Parameter, Ergebnis) festhalten
Prompt Engineering Ausblick
Gezieltes Prompt Engineering bleibt eine iteratives Zusammenspiel aus Kreativität, Systematik und kontinuierlicher Anpassung. Die im Whitepaper vorgestellten Methoden und Best Practices bieten eine solide Grundlage, um LLMs effektiv und zuverlässig für vielfältige Anwendungsfälle einzusetzen
