# Bots für Automatisierung - Regeln des Hackathons - Entwicklung eigener Build a Bot - Finale Pitches --- # Regeln des Hackathons ## Rückblick Was war unser Ziel am Anfang dieser Veranstaltung? Dieses gucken wir nochmal gemeinsam an. > > Sie sind in der Lage > KI in täglichen Prozessen einzusetzen > Wir haben bereits die Grundlagen künstlicher Intelligenz erlernt, können mit den wichtigsten LLM-Tools umgehen und wissen, wie Prompting Workflow funktioniert. Was bleibt denn übrig, um unser Ziel zu erreichen? --- ## Zielsetzung Diese Fähigkeiten müssen wir nun in die Praxis bringen. Dafür wird jeder einen Anwendungsfall nehmen und diesen als Bot konzipieren - als ein produktives Tool im Einsatz bei Ihrem Unternehmen. > > Sie haben ein Bot-Konzept ausgearbeitet > dieses designed und operationalisiert > --- ## Vorgehen 1. Jeder arbeitet alleine - von wegen Datenschutz 2. Idee für den Anwendungsfall kommt aus unserer Übung oder Erfahrung 3. Anwendungsfall wird im Prompting Workflow Verfahren entwickelt - 10 Min - Dozent präsentiert Module - 15 Min - Teilnehmende wenden die Fragen an den eigenen Fall an - 1 Min - Teilnehmende pitchen ihre Ergebnisse zu den jeweiligen Modulen - 1 Min - Teilnehmende erhalten Feedback von der Gruppe 4. Am Ende - 3 Min Pitch von A bis Z 5. Teilnehmende wählen die Sieger --- ## Preise Platz 1: 50€ OpenAI API Credits Platz 2: 25€ OpenAI API Credits Platz 3: 10€ OpenAI API Credits --- ## Module **Design** - Problem - Existierende Lösung - KI-Lösung - Daten - Workflow - Komponenten - Tools **Evaluierung** - Technische Metriken - Business Metriken **Optimierung** - Prompting - Modelle - Daten **Operationalisierung** - Individuell - Regelwerk des Teams - Automatisierung --- # Entwicklung des Bots ## Design ### Problem Was ist die Herausforderung? **Beschreibung**: - Welches operatives Problem in meinen Prozessen will ich lösen? - Welche Zielgruppe betrifft dieses Problem? - Was sind die Konsequenzen dieses Problems? - Was ist der Schwierigkeitsgrad? Ist die Lösung ein Vitamin oder ein Painkiller? **Relevant seit**: DATUM **Schweregrad**: Vitamin vs Pain Killer **Dringlichkeit**: jetzt vs später --- ### Existierende Lösung Wie wird das Problem momentan gelöst? **Beschreibung**: - Soweit haben wir es so gelöst ... - Dafür haben wir TOOL für ZIELGRUPPE entwickelt - Es kostet uns XY € pro Monat **Zufriedenheit**: 1-5, 5 max **Warum noch da**: teuer, historisch gewachsen, keine Alternative, ... --- ### KI-Lösung Wie kann KI und LLMs helfen? **Beschreibung**: - Wie kann KI und insbesondere LLMs bei der Lösung helfen? - Es ist möglich, dieses Problem mit reinem Prompting mit den Chatbots zu lösen? - als Prototypen, als produktive Lösung - Ist es eine Lösung für persönliche Nutzung oder für das ganze Team? --- ### Daten Wie kann KI und LLMs helfen? **Beschreibung**: - Was ist mein Arbeitsdokument? - Rechnung, Kundenauftrag, Support-Ticket, E-Mail, Dokumentation, ... - In welchem Dateiformat ist mein Dokument oder Dokumente zu finden? - txt, docs, xlsx, pptx, ... - Was gilt als Datenquelle? - Dateiablage, Datenbank, SAP, Internet, ... - Wo hole ich meine Dokumente zur Bearbeitung? - drag & drop, Datenextraktion, Websuche, ... --- ### Workflow Was genau wollen wir automatisieren? **Beschreibung**: - Wie sieht der Prozess aus? - Welche wichtigen Entscheidungen werden in diesem Prozess getroffen? - Was sind die einzelnen granulären Aktivitäten im Prozess? - Inklusive Daten kopieren, E-Mails verschicken, Dateien anhängen, Dateien vergleichen ... - Welche Aktivitäten in diesem Workflow lassen sich mit Sprachmodellen automatisieren? --- ### Komponenten Welche Promptkomponenten und Techniken können wir verwenden? **Beschreibung**: - Wie würde ich meinen Prompt kategorisieren? - Prozessautomatisierung, Chatbot, Suche, Produktfeature - Mit welcher grundlegenden Prompt Komponente kann ich anfangen? - Rollenspiel, Zielsetzung, Deliverable, ... - Wie integriere ich verschiedene Daten? - Text, JSON, Bilder - Welche Strukturen soll ich in meinen Prompt integrieren? - Routine, Outline, Zielvorlagen, Beispiele - Kann ich meine Aktivitäten in einem Prompt abbilden, oder brauche ich eine Prompt-Sequence? --- ### Tools Was genau wollen wir automatisieren? **Beschreibung**: - Welche Capabilities brauche ich, um meinen Workflow abzubilden? - Textgenerierung, Vision, Coding, Pro-Suche, Artifacts, mehrere Modalitäten (Text, Bild, Audio, Video), Bots / Apps / GPTs zur Veröffentlichung - Welche Tools bieten mir diese Capabilities an? - Wie kann ich diese Tools verbinden und meine Prompts in mehreren Tools ausführen? --- ### Übung - Problem - Daten - Workflow - Prompt Komponenten --- ### Theorie-Übung 15 Min + 5 Min Check-in + 15 Min + 5 Min Check-in Beschreiben Sie: - das Problem - existierende Lösung - KI-Lösung - notwendige Daten - den zu automatisierten Workflow - Prompt Komponenten - KI-Tools am besten schriftlich mit jeweils 3-5 Bulletpoints --- ### Praxis-Übung 10 Min + 5 Min Check-in + 10 Min Und jetzt entwickeln Sie den 1. Prompt-Entwurf und testen diesen! --- ### Pitching 1 Min sprechen 1 Min zuhören --- ## Evaluierung ### Technische Metriken - LGTM@10 - Precision & Recall - LLM as Judge --- ### Business Metriken - KPIs - Durchlaufzeiten - Automation Rate - Cost per Unit - ... - ROI --- ### Übung 15 Min Reflektieren Sie "Wie kann ich sicher sein, dass" - der Prompt auch nächste Woche funktioniert? - der Prompt für meine Team-Mitglieder funktioniert? - der Prompt auf neuen Dokumenten funktioniert? --- ### Diskussion 10 Min --- ## Optimierung ### Prompting - Prompt Compression - Prompt Sequencing - Neue Komponenten und Techniken - XML - Routinen - Prompt Validation --- ### Modelle **Anbieter**: ChatGPT, Claude, Perplexity mit Llama (Sonar Huge), Poe mit Mistral oder Gemini **Modellgröße**: 4o vs 4o-mini, Sonnet 3.5 vs Haiku 3, Llama 405B vs Llama 70B --- ### Daten **Beispiele**: Prompts müssen auf mehreren Beispielen getestet werden. Mindestens 10 Dokumente, besser sind 20 bis 30. **Vielfalt**: Wenn unsere Kundenaufträge von 20 Kunden kommen und wir haben unsere Prompts nur auf zwei getestet, wird das in der Praxis kaum funktionieren. **Quellen**: Für eine tägliche Aufgabe, ohne nachzudenken, können wir 5 verschiedene Quellen miteinbeziehen: Email, Dateiablage, Teams, SAP und Websuche - als Beispiel. Gibt es eine Möglichkeit, diese auch in unseren Prompts zu vereinen? --- ### Theorie-Übung 10 Min Überlegen Sie sich: - neue Prompting Ideen - andere Modelle - neue Daten am besten schriftlich mit jeweils 3-5 Bulletpoints --- ### Praxis-Übung 10 Min + 5 Min Check-in + 10 Min Jetzt passen Sie den 1. Prompt-Entwurf an! Versuchen Sie es, die Qualität der Antworten zu verbessern --- ## Operationalisierung Die Kernfrage ist, wie mache ich die Prompts für zur Erledigung wiederholenden Aufgaben geeignet? ### Individuell - txt oder docx Datei - Repository ### Regelwerk des Teams - geteilter Order mit Dateien - Confluence - Vault Unterlage ### Automatisierung - Entwicklung eines KI-Produktes --- ### Übung 10 Min Reflektieren Sie "Wie kann ich diesen Bot anderen zur Verfügung stellen?" - Brauche nur ich diesen Prompt oder das ganze Team? - Wie aufwändig ist es, alle Datenquellen zusammenzubringen? - Bin ich mit Prompting als Hilfsmittel zufrieden oder brauche ich eine vollständige Prozessautomatisierung? --- ### Diskussion 10 Min --- # Finale Pitches ## Vorbereitung 15 Min Fassen Sie Ihre Erkenntnisse auf 4 Folien zusammen 1 Modul - 1 Folie 1 Bullet - 1 Submodul --- ## Pitching 3 Min pro Person --- ## Voting --- ## Siegerkrönung --- --end--