Rückblick: Unser Vortrag bei der PyCon 2025

Am 24. April 2025 waren wir zu Gast auf der PyCon im Darmstadtium in Darmstadt. In unserem Vortrag haben wir gezeigt, wie wir in den letzten zwei Jahren aus schnellen Prototypen robuste Anwendungen entwickelt haben, die im Unternehmensalltag echten Mehrwert bringen.

Ausgangspunkt war unser Start im Juni 2023: einfache Streamlit Demos, präsentiert vor einer Gruppe von Geschäftsführern. Damals war ChatGPT für viele noch Neuland. Die Begeisterung für unsere Ideen führte zu unserem ersten Kundenprojekt und schließlich zu unserem AI-Sprint-Ansatz: Gemeinsam mit Kunden Use Cases identifizieren, Prototypen bauen, testen und bei Erfolg unternehmensweit ausrollen.

Ein zentrales Thema unseres Vortrags waren die größten Herausforderungen auf diesem Weg:

1. User Experience und Code Struktur: Streamlit is perfekt für schnelle Erfolge, doch bei wachsenden Anforderungen wurde der Code unübersichtlich. Wir setzten daher auf eine klare Trennung von Frontend und Backend mit FastAPI und einer API nach Industriestandard. Als Frontend kann je nach Anwendung Streamlit oder ein Interface wie OpenWebUI dienen.
2. Betrieb in der Kundeninfrastruktur: Besonders der deutsche Mittelstand legt großen Wert auf Datensicherheit. Viele Projekte erforderten eine vollständige On-Premise-Umsetzung. Das bedeutete Anpassungen an Netzwerke, Firewalls und bestehende Hardware sowie den Aufbau der Container- Infrastrukturen direkt beim Kunden.
3. Skalierung und intelligente Suche: Mit Embeddings, Vektordatenbanken (Qdrant) und Metadatenfiltern haben wir Lösungen entwickelt, die es ermöglichen, in großen Dokumentbeständen gezielt relevante Inhalte zu finden.

Heute reicht unsere Architektur von Frontend- und Backend-Containern über Datenbanklösungen bis hin zu Proxy-Systemen für die Kostenkontrolle.

Unser Fazit: Der Weg vom Prototyp zur produktiven Anwendung erfordert technische Expertise, ein tiefes Verständnis für Kundenprozesse und die Bereitschaft, flexibel auf neue technologische Entwicklungen zu reagieren.

Wer den kompletten Vortrag mit allen Insights, Praxisbeispielen und Architekturdetails sehen möchte, kann sich hier die Aufzeichnung ansehen.