Detaillierte Inhalte zum Seminar LLM gestützte
KI-Anwendungen mit Python entwickeln

 

Zu Beginn des Workshops erhalten die Teilnehmenden eine fundierte Einführung in Large Language Models (LLMs) und deren Einsatzmöglichkeiten in modernen Softwareanwendungen. Dabei wird erläutert, wie LLMs funktionieren, welche Aufgaben sie übernehmen können und in welchen Bereichen sie bereits erfolgreich eingesetzt werden.

 

Ein wichtiger Bestandteil dieser Einführung ist der Vergleich zwischen online verfügbaren LLMs und lokal betriebenen Modellen. Online-Systeme wie ChatGPT ermöglichen den schnellen Einstieg in die Nutzung von Sprachmodellen über APIs. Gleichzeitig gewinnen jedoch offline betriebene Modelle, beispielsweise über Plattformen wie Ollama, zunehmend an Bedeutung – insbesondere in Szenarien, in denen Datenschutz, Kostenkontrolle oder lokale Verarbeitung eine Rolle spielen.

 

Parallel dazu werden die grundlegenden Python-Konzepte vermittelt, die für die Entwicklung von KI-Anwendungen relevant sind. Die Teilnehmer lernen, welche Bibliotheken und Frameworks im Umfeld von LLM-Anwendungen eingesetzt werden und wie eine Entwicklungsumgebung eingerichtet wird. Dazu gehört unter anderem die Installation wichtiger Bibliotheken wie transformers, torch und weiterer Komponenten für das Arbeiten mit Sprachmodellen.

 

Der Einstieg schafft damit eine solide Grundlage für die praktische Arbeit mit LLM-gestützten Anwendungen in Python.

 

​

Nutzung von LLMs mit Python

 

Im nächsten Schritt arbeiten die Teilnehmer direkt mit Sprachmodellen innerhalb von Python-Anwendungen. Dabei wird zunächst gezeigt, wie online verfügbare LLMs über APIs angesprochen werden können. Anhand konkreter Beispiele wird demonstriert, wie Anfragen an ein Modell gesendet und die Antworten anschließend weiterverarbeitet werden können.

 

Darüber hinaus lernen die Teilnehmer, wie lokal ausgeführte Modelle in Python integriert werden können. Plattformen wie Ollama ermöglichen es, Sprachmodelle direkt auf lokalen Systemen zu betreiben und über standardisierte Schnittstellen in Anwendungen einzubinden. Dies eröffnet neue Möglichkeiten für Anwendungen, bei denen Daten nicht an externe Dienste übertragen werden sollen.

 

In praktischen Übungen entwickeln die Teilnehmer erste Python-Skripte, die mit LLMs interagieren. Dabei entstehen einfache Anwendungen wie:

    •    automatische Textgenerierung

    •    dialogbasierte Systeme

    •    einfache Analyse- und Auswertungsprozesse

 

Durch diese ersten praktischen Beispiele entsteht ein grundlegendes Verständnis dafür, wie LLMs in reale Anwendungen integriert werden können.

 

 

Arbeiten mit LlamaIndex und LangChain

 

Ein zentraler Bestandteil moderner LLM-Anwendungen ist die Nutzung spezialisierter Frameworks. Im Workshop werden deshalb LlamaIndex und LangChain als zwei wichtige Werkzeuge für die Entwicklung LLM-gestützter Anwendungen vorgestellt.

 

Die Teilnehmer lernen, wie diese Frameworks eingesetzt werden können, um Sprachmodelle mit externen Datenquellen zu verbinden. Dadurch lassen sich Anwendungen entwickeln, die nicht nur generative Fähigkeiten besitzen, sondern auch auf strukturierte oder unstrukturierte Daten zugreifen können.

 

Anhand praktischer Beispiele wird gezeigt, wie:

    •    Datenquellen eingebunden werden

    •    Inhalte strukturiert abgefragt werden können

    •    Sprachmodelle mit zusätzlichen Kontextinformationen arbeiten

 

Die Teilnehmer entwickeln erste kleine Anwendungen, die Daten analysieren, Informationen extrahieren oder Inhalte automatisch zusammenfassen. Dadurch wird deutlich, wie Frameworks wie LlamaIndex und LangChain die Entwicklung komplexerer KI-Anwendungen deutlich vereinfachen können.

 

 

Entwicklung einer LLM-gestützten Anwendung (Case Study)

 

Am Ende des ersten Workshop-Tages arbeiten die Teilnehmer an einer praxisnahen Fallstudie. Ziel ist es, das bisher Gelernte in einer realistischen Anwendung umzusetzen.

 

In kleinen Gruppen entwickeln die Teilnehmer eine LLM-gestützte Anwendung, die typische Aufgaben der Textverarbeitung oder Informationsanalyse automatisiert. Dabei können beispielsweise externe Datenquellen eingebunden, Texte analysiert oder automatisierte Auswertungen erstellt werden.

 

Die Ergebnisse werden anschließend gemeinsam präsentiert und diskutiert. Dadurch entsteht ein Austausch über unterschiedliche Lösungsansätze und mögliche Erweiterungen der entwickelten Anwendungen.

 

 

Fortgeschrittene Techniken mit Large Language Models

 

Der zweite Workshop-Tag vertieft die Arbeit mit Sprachmodellen und führt in fortgeschrittene Techniken ein. Ein wichtiger Schwerpunkt liegt auf Methoden wie Few-shot Learning und Zero-shot Learning, mit denen sich Sprachmodelle gezielt steuern und für spezifische Aufgaben einsetzen lassen.

 

Die Teilnehmer lernen, wie solche Techniken genutzt werden können, um bessere Ergebnisse aus LLM-Anwendungen zu erhalten. Dabei wird auch gezeigt, wie komplexere Workflows mit Hilfe von Frameworks wie LangChain aufgebaut werden können.

 

Darüber hinaus wird demonstriert, wie Sprachmodelle in bestehende Anwendungen integriert werden können. Typische Einsatzbereiche sind beispielsweise:

    •    Chatbots

    •    Textanalysen

    •    automatisierte Dokumentverarbeitung

    •    intelligente Assistenzsysteme

 

Durch diese Beispiele erhalten die Teilnehmer ein Verständnis dafür, wie LLMs in reale Softwareprojekte integriert werden können.

 

 

Optimierung und Performance-Management von LLM-Anwendungen

 

Ein weiterer wichtiger Aspekt bei der Entwicklung von LLM-Anwendungen ist die Optimierung der Performance. Im Workshop werden deshalb Strategien vorgestellt, mit denen sich Ergebnisse verbessern und Anwendungen effizienter gestalten lassen.

 

Die Teilnehmer lernen typische Herausforderungen kennen, die bei der Nutzung von Sprachmodellen auftreten können. Dazu gehören beispielsweise:

    •    Qualität der Modellantworten

    •    Geschwindigkeit der Verarbeitung

    •    Kosten bei API-basierten Modellen

    •    Skalierbarkeit von Anwendungen

 

In praktischen Übungen werden Best Practices umgesetzt, mit denen sich Ergebnisse verbessern und Anwendungen stabiler betreiben lassen.

 

 

Entwicklung interaktiver Anwendungen mit Streamlit

 

Damit LLM-Anwendungen nicht nur im Hintergrund laufen, sondern auch von Nutzern verwendet werden können, wird im Workshop eine Einführung in Streamlit gegeben. Streamlit ist ein Python-Framework zur Entwicklung einfacher Weboberflächen.

 

Die Teilnehmer lernen, wie sich mit wenigen Zeilen Python-Code interaktive Benutzeroberflächen erstellen lassen. Dadurch können LLM-Anwendungen beispielsweise über Webformulare, Chat-Interfaces oder interaktive Dashboards bedient werden.

 

In praktischen Übungen entwickeln die Teilnehmer kleine Webanwendungen, die Sprachmodelle im Hintergrund nutzen. Dadurch entsteht ein vollständiger Prototyp einer Anwendung, die sowohl die KI-Logik als auch eine nutzbare Benutzeroberfläche umfasst.

 

 

Erweiterte Case Study und Abschlussprojekt

 

Zum Abschluss des Workshops wird die Case Study aus dem ersten Tag weitergeführt und erweitert. Die Teilnehmer integrieren zusätzliche Funktionen in ihre Anwendungen und nutzen die im zweiten Tag erlernten Techniken.

 

Dabei können beispielsweise komplexere Workflows, optimierte Prompts oder interaktive Benutzeroberflächen integriert werden. Ziel ist es, eine vollständige LLM-gestützte Anwendung zu entwickeln, die reale Aufgabenstellungen abbildet.

 

Die finalen Projekte werden anschließend präsentiert und gemeinsam diskutiert. Diese Abschlussphase ermöglicht es den Teilnehmern, verschiedene Lösungsansätze kennenzulernen und zusätzliche Anregungen für eigene Projekte mitzunehmen.