# Prompt Engineering für Anfänger - Was ist Prompting? - Grundlagen - Fortgeschrittene Techniken --- # Was ist Prompting? Prompt Engineering bedeutet, in der Lage zu sein, KI dazu zu bringen, Dinge zu tun, die Sie wollen. Das beinhaltet: - Ziele setzen - Anforderungen definieren - Prozesse beschreiben --- ## Prompting Workflow Die Arbeit mit Sprachmodellen umfasst folgende Phasen: - Design - Evaluierung - Optimierung - Operationalisierung --- ## Technik: Googlen mit ChatGPT Googlen mit ChatGPT oder "Zero-Shot-Prompting" ist, wenn man der KI in einem Satz sagst, was man möchte. Wie googeln: ``` What markets are the most affected by AI ``` ![[Pasted image 20240903200532.png]] [Shared Chat](https://www.perplexity.ai/search/what-markets-are-the-most-affe-n2ZgtNvXQVqo_Xc0r_diAg) --- oder SQL-Coach: ``` SELECT VBFA.VBELV, VBFA.POSNV FROM VBFA GROUP BY VBFA.VBELV, VBFA.POSNV HAVING COUNT(DISINCT VBFA.VBELV || VBFA.POSNV) = 1; Execution error: ERROR: Syntax error at or near "VBFA" at character 94 help fix ``` Prompt ist "help fix", alles andere - Kontextinformationen, ein Beispiel für [[In-Context-Learning]]. --- ## Technik: Prompting mit Beispielen Prompting mit Beispielen oder "Few-Shot-Prompting" bedeutet, dass wir zumindest ein oder mehrere Beispiele von den Frage-Antwort-Paaren mitgeben. Aus unserem [Perplexity-Artikel](https://www.perplexity.ai/page/prompting-techniques-ZlSPZIfIRFWgFWUNo3gvjA): ``` Translate the following English phrases to French: English: Hello French: Bonjour English: Good morning French: Bon matin English: How are you? French: Comment allez-vous? English: Goodbye French: ``` Das ist eine mächtige Technik und in der Praxis sieht natürlich komplexer aus. Als Fragen und Antworten kann man größere Dokumente oder Vorlagen mitgeben. --- ## Technik: Rollenspiel Rollenspiel oder "Act as" beim Prompting ist eine Technik, die KI wie Sprachmodelle in spezifischen Rollen antworten lässt, um Antworten zu personalisieren und für verschiedene Szenarien anzupassen. Es fördert vielseitige und kontextbezogene Interaktionen. ``` Du bist der weltweit beste Experte für KI im Unternehmen, der sich auf Prozessautomatisierung mit LLMs spezialisiert. Erkläre die Bedeutung künstlicher Intelligenz für die Wettbewerbsfähigkeit moderner Firmen. ``` --- ## Technik: Chain of Thought Man sagt der KI "Denke Schritt für Schritt" am Ende der Anfrage, und sie vollbringt Wunder. ``` How many words of text would it approximately be if I would convert 20 gigabyte of mp3 data at 320 kilobit per second and 44.1 kilohertz? Quality of the recording is still quite poor, as the microphone of the device is poor as well. But it's usually more than enough for calling as well as speech recognition. Calculate step by step ``` [Shared Chat](https://chatgpt.com/share/c005e863-51af-4fc1-8c09-d597ddda7ea4) Achtung: Mittlerweile ist diese Technik in den meisten Chatbot-Lösungen bereits eingebaut und sie denken Schritt für Schritt im Hintergrund, ohne dass wir uns da spezifizieren müssen. Das ist aber nicht ganz robust und wird von Sprachmodellen manchmal nicht ausgeführt. --- ## Übung 1. Fragestellung überlegen 2. Mit ChatGPT (oder Perplexity, Claude) suchen 3. Weitere Fragen mit Beispielen Stellen 4. Fragestellung aus 1) in einem neuen Chat öffnen und dem Chatbot eine Rolle mitgeben, sowie "Denke Schritt für Schritt" hinzufügen --- # Fortgeschrittenes Prompting ## Technik: Outline Prompting Wenn man ausführliche Artikel erstellt oder Besprechungsnotizen zusammenfasst, neigt ChatGPT dazu, wesentlich besser zu funktionieren, wenn man ihm eine Struktur vorgibt. ![[Pasted image 20240903201843.png]] [Shared Chat](https://chatgpt.com/share/b7da1e8a-beec-4b02-8cf8-4625a88fdd10?oai-dm=1) Anwendungen: - Dokumentation erstellen - Detaillierte Suchanfrage spezifizieren - Projektplan erzeugen - Artikelentwurf erzeugen - Besprechungsnotizen strukturieren und formatieren --- ## Technik: Transformation der Inhalte ![[Pasted image 20240903202115.png]] [Shared Chat](https://chatgpt.com/share/7fb078ba-6c86-4578-8430-8ba2946cc4b0) Anwendungen: - Dokumente umwandeln (Auftrag zu Transportauftrag) - Quellformat ins Zielformat anpassen - Formulare ausfüllen (Support-Tickets oder Schadenmeldung) --- ## Technik: Perfect Prompt Structure In den letzten Monaten hat sich eine bestimmte Prompt-Struktur als sehr effektiv erwiesen, siehe [[prompt - process mining data analysis]] ``` Process Mining Datenanalyse * Role * Purpose * Task & Task planning * Instructions * Tools * Outcome * First message ``` Anwendungen: - Domänenspezifische Chatbots - Mehrschrittige Aufgaben - Vorhersehbares Verhalten des Chatbots --- ## Übung 1. Fragestellung überlegen oder die aus der vorherigen Übung nehmen 2. Sich Gedanken machen: 1. will ich von Null aus neue Inhalte erzeugen? 2. will ich bestehende Inhalte in eine neue Form bringen? 3. will ich ein komplexes Verhalten modellieren? 3. Eine fortgeschrittene Technik auswählen und testen --- # Mehr Prompting Einige Techniken passen nicht in den Scope dieser Schulung und werden hier nur kurz erwähnt. - Prompting in Production - Prompt Sequences - Structured Outputs - [[Retrieval Augmented Generation]] - Metaprompting, siehe [[prompt example - metaprompter]] - Evaluation (LGTM@10, Precision & Recall, LLM as Judge) - Prompt Apps - Language Models as Interpreters - XML Tags ``<app>prompt</app>`` - Komplexe Prozesse durch ``<routine>step 1, step 2, ...</routine>`` - In-Context Agents mit ``@agent`` - Screens in Markdown - Datenobjekte - Commands oder Schrägstrich-Befehle wie ``/start`` und ABC-Tasten wie "Wähle A, dann...") - --> siehe [[prompt - adwords planner app]] als Beispiel --- --end--