Senior AI Engineer (Python)

Profil DDO-001 · Deep Data Ocean

Senior AI Engineer mit langjähriger Erfahrung in Softwareentwicklung, Cloud-Architektur und Data Engineering, seit 2018 mit Schwerpunkt Machine Learning. Baut produktionsreife KI-Systeme: LLM-gestützte Datenpipelines, Reinforcement-Learning-Trainingsumgebungen mit Backtesting, Echtzeit-Monitoring und On-Premise-Inferenz mit vLLM auf GPU-Clustern. Die Plattform dahinter entsteht aus einer Hand – Kubernetes, GitOps mit ArgoCD und Helm, Ansible-Provisionierung, Time-Series- und Vektordatenbanken. Davor viele Jahre als DevOps- und Cloud-Architekt für Behörden, Cloud-Provider und Industrieunternehmen (OpenShift, AWS, CI/CD) sowie als Big-Data-Architekt und Entwicklungsleiter in der Pharma-Marktforschung (Hadoop, Spark). Arbeitet hands-on in Python und Java, denkt in Architekturen und übernimmt Verantwortung von der Konzeption bis zum Betrieb.

Jahrgang 1972. Fehmarn. Deutsch (Muttersprache), Englisch (verhandlungssicher).

100 % Auslastung · remote mit Besuchen vor Ort · sofort · Tagessatz auf Anfrage

Projekte

Kunden nennen wir nach Branche, nicht mit Namen.

Senior AI Engineer — Project Outreach Desk – LLM-Agentensystem für Projektakquise und Beraterprofile

seit 09/2026

Project Outreach Desk ist ein LLM-Agentensystem, das ein Beratungsunternehmen bei der Akquise von Freelance-Projekten und der Präsentation seiner Berater unterstützt. Es liest eingehende Recruiter-E-Mails und Projektportale, extrahiert die Projektangebote, ordnet sie den Kandidaten des Unternehmens zu und bereitet vorlagenbasierte Bewerbungen vor. Ein zweiter Agent interviewt Berater im Chat, baut Schritt für Schritt ein vollständiges CV-Profil auf, prüft es gegen die Qualitätsregeln des Unternehmens und stellt Rückfragen, bis jedes Projekt sauber beschrieben ist. Fertige Profile werden anonymisiert auf der Unternehmenswebsite veröffentlicht und als gebrandete Word-Dokumente exportiert. Alles läuft auf eigener Hardware, sodass keine Kandidaten- oder Kundendaten das Haus verlassen.

Der Agentenkern von Project Outreach Desk – zwei zusammenarbeitende AI Agents, einer für Profile, einer für die Extraktion – ist eine zielgerichtete Mehrrunden-Schleife in Python: In jeder Runde erhält das Modell den Gesprächsverlauf, den aktuellen Entwurfszustand und die Liste offener Punkte und antwortet mit einer schemagebundenen JSON-Aktion – ein Patch des Entwurfs plus die Antwort –, erzwungen durch xgrammar Guided Decoding auf einem vLLM-Server. Eine Regel-Engine validiert den Entwurf nach jeder Runde (Satzanzahl, Technologieabdeckung, Vollständigkeit) und spielt die Befunde zurück, sodass der Agent gezielt nachfragt und sich selbst korrigiert; eine abschließende Apply-Aktion schreibt das Ergebnis in die Datenbank. Der Agent arbeitet in drei Modi – Profil anlegen, erweitern, einzelnes Projekt überarbeiten – und ist serverseitig auf den Bereich festgelegt, den er ändern darf.

Die Inferenz läuft on-premises: Qwen3-30B-A3B wird über vLLM auf einem NVIDIA DGX Spark (Ubuntu-basiertes DGX OS, CUDA) im Kubernetes-Cluster des Unternehmens bereitgestellt, sodass Lebensläufe das Netz nie verlassen. Ein zweiter Extraktions-Agent wandelt per Gmail API abgeholte Recruiter-E-Mails in strukturierte Projekt- und Kontaktdatensätze um, mit Claude Haiku 4.5 über das Anthropic SDK und Structured Outputs; Ein Playwright-basierter Collector speist externe Ausschreibungen in dieselbe Pipeline ein.

Das Backend ist FastAPI mit SQLAlchemy und Pydantic auf PostgreSQL, schemaversioniert mit Flyway; die Oberfläche ist eine schlanke Single-Page-App aus HTML, CSS und JavaScript mit Live-Entwurfsansicht neben dem Chat. Profile werden mit python-docx als gebrandete Word-Dokumente exportiert und anonymisiert über eine WordPress REST API veröffentlicht. Die Auslieferung ist GitOps: Multi-Architektur-Docker-Images aus GitLab CI, ausgerollt mit Helm und ArgoCD auf Kubernetes; die Qualität sichern pytest gegen eine echte PostgreSQL, ruff und mypy im Strict-Modus.

Technologien: Python, FastAPI, PostgreSQL, SQLAlchemy, Pydantic, Flyway, HTML, CSS, JavaScript, vLLM, Qwen3-30B-A3B, xgrammar, Claude Haiku 4.5, Anthropic SDK, Gmail API, Playwright, python-docx, WordPress REST API, Docker, Kubernetes, Helm, ArgoCD, GitLab CI, NVIDIA DGX Spark, CUDA, Ubuntu, pytest, ruff, mypy, AI Agents

Senior AI Engineer — trAIder News-Data-Loader

seit 10/2024

trAIder ist ein künstlich-intelligentes Handelssystem, das marktbewegende Ereignisse und Kursdynamiken mithilfe von Reinforcement Learning erkennt. Der News Data Loader bildet die zentrale Datenpipeline, die weltweite Finanznachrichten automatisiert erfasst, bereinigt, strukturiert und in semantische Vektoren umwandelt. Diese Daten dienen als Grundlage für die Eingabe in das AI-Modell und ermöglichen eine präzise Erkennung von Marktbewegungen in Echtzeit.

Für dieses Projekt habe ich eine skalierbare News-Verarbeitungspipeline in Python implementiert, die bislang 2,65 Millionen Artikel verarbeitet hat. Die Pipeline ist modular aufgebaut und trennt klar zwischen Download, LLM-basierter Textbereinigung, Vektorisierung und Persistenz.

Zur Entfernung von Werbung und Boilerplate-Inhalten wird ein quantisiertes Sprachmodell über vLLM betrieben. Der Inference-Service läuft containerisiert auf Kubernetes (Ubuntu-Knoten) und wurde durch optimiertes Batching sowie horizontale Skalierung der Worker-Pods auf hohen Durchsatz ausgelegt. Modellintegration und weiterführende Trainingskomponenten basieren auf PyTorch.

Strukturierte Metadaten wie Ticker, Zeitstempel und Verarbeitungsstatus werden in einer TimescaleDB / PostgreSQL gespeichert, um zeitbasierte Abfragen für RL-Episoden und Event-Alignment effizient zu unterstützen. Die Bereinigung und Strukturierung der Nachrichten erfolgt über Python-Scripte, die auf den Rohdaten basieren. Die bereinigten Artikel werden zusätzlich als semantische Vektoren in Qdrant persistiert und für retrieval-basierte Feature-Generierung im Training genutzt. Für performante Offline-Analysen und reproduzierbare Trainingsläufe werden strukturierte Datensnapshots im Parquet-Format in einem MinIO (S3)-basierten Object Storage abgelegt.

Die Containerisierung, Konfiguration und das Deployment der Services erfolgen über Helm Charts, während die Synchronisation der Kubernetes-Ressourcen GitOps-basiert mittels ArgoCD umgesetzt wird.

Technologien: Python, TimescaleDB, PostgreSQL, Qdrant, Parquet, Minio (S3), vLLM, PyTorch, Kubernetes, ArgoCD, Helm Charts, Ubuntu

Senior AI Engineer — RL Training Environment & Backtesting Engine

10/2024 – 03/2025

Im Rahmen des AI-gestützten Trading-Systems trAIder wurde eine skalierbare Reinforcement-Learning-Trainingsumgebung zur Simulation und Optimierung algorithmischer Handelsstrategien entwickelt. Ziel war es, Markt- und News-Daten reproduzierbar in RL-Episoden zu überführen und Trainings- sowie Backtesting-Prozesse performant und deterministisch auszuführen. Die Umgebung ermöglicht es Quant-Entwicklern, neue Handelsalgorithmen sicher zu testen, ohne echte Marktrisiken einzugehen, und liefert verlässliche Metriken zur Leistungsbewertung von Strategien über verschiedene Marktphasen hinweg. Im Kern ist es ein agentenbasiertes System: Reinforcement-Learning-Agenten beobachten Markt- und Nachrichtenzustände, führen Handelsaktionen in einer simulierten Umgebung aus und werden am Ergebnis belohnt, sodass Strategien aus der eigenen Erfahrung der Agenten entstehen statt aus handgeschriebenen Regeln.

Die Trainingsumgebung wurde in Python implementiert und modular aufgebaut, um flexible Experimentier- und Erweiterungsmöglichkeiten zu gewährleisten. Zeitreihenbasierte Markt- und Feature-Daten werden aus einer TimescaleDB / PostgreSQL geladen, die als persistente Speicherung für historische Kursdaten, Event-Informationen und Trainingszustände dient. Für reproduzierbare Trainingsläufe und performante Offline-Analysen werden Trainingsdatensnapshots zusätzlich im Parquet-Format abgelegt.

Die Trainingslogik basiert auf PyTorch und umfasst eigene Training-Loops für DQN-basierte AI Agents, inklusive Replay-Buffer-Integration, Target-Network-Synchronisation und kontrollierten Epsilon-Decay-Strategien. Für numerische Berechnungen, Feature-Transformationen und Datenaggregation werden NumPy und Pandas eingesetzt.

Ein besonderer Fokus lag auf leakage-sicherem Dataset-Design: Trainings- und Testzeiträume werden strikt getrennt, Look-ahead-Bias wird systematisch vermieden und Backtesting-Runs versioniert und reproduzierbar ausgeführt. Rolling-Window-Aggregationen und ereignisbasierte Segmentierung ermöglichen eine strukturierte Generierung konsistenter RL-Episoden.

Zur Integration in die Gesamtarchitektur stellt die Trainingsumgebung API-basierte Schnittstellen bereit, die mit FastAPI implementiert wurden. Darüber können Trainingskonfigurationen übergeben, Experimente gesteuert und Performance-Metriken wie NAV-Verläufe oder Reward-Statistiken abgefragt werden.

Technologien: Python, PyTorch, TimescaleDB, PostgreSQL, Parquet, FastAPI, NumPy, pandas, AI Agents

Senior AI Engineer — AI Training GUI & Real-Time Monitoring System

10/2024 – 03/2025

Zur Analyse und Bewertung von Reinforcement-Learning-Trainingsläufen wurde ein webbasiertes Monitoring- und Visualisierungssystem entwickelt, das Trainingsmetriken, Marktverläufe und Modellentscheidungen in Echtzeit darstellt. Ziel war es, Trainingsprozesse transparent zu machen, Lernverhalten systematisch auszuwerten und Fehlentwicklungen frühzeitig zu erkennen. Das System wurde von Data Scientists und Quantitative Analysten genutzt, um die Effizienz von Handelsstrategien zu überwachen und die Qualität von Lernprozessen zu bewerten. Durch die Echtzeit-Visualisierung konnten sie Anpassungen an Hyperparametern oder Umgebungsbedingungen schnell vornehmen und so die Trainingsqualität signifikant verbessern. Es ist die Beobachtungsebene eines agentenbasierten Systems: Jede Entscheidung der Handelsagenten lässt sich live verfolgen, vom beobachteten Zustand bis zur gewählten Aktion, was das Verhalten der Agenten für das Team nachvollziehbar macht.

Das Backend wurde in Python implementiert und nutzt FastAPI zur Bereitstellung von REST- sowie WebSocket-Schnittstellen. Über WebSockets werden Trainingsmetriken, NAV-Verläufe und Statusinformationen während laufender Trainingsprozesse kontinuierlich an das Frontend gestreamt, wodurch eine Echtzeit-Überwachung von Trainingsfortschritt, Reward-Entwicklung und Modellperformance ermöglicht wird.

Für die Visualisierung der Daten wurden interaktive Frontend-Komponenten in JavaScript umgesetzt. Chart-Bibliotheken wie Chart.js sowie TradingView Lightweight Charts werden eingesetzt, um Kursverläufe, Trades, Positionswechsel und modellgenerierte Signale synchron darzustellen. Dadurch können Marktmetriken und die Metriken der AI Agents gemeinsam analysiert werden.

Zusätzlich wurde ein Live-Monitoring für Modellentscheidungen implementiert, das auf Inferenz-Ergebnissen von PyTorch-basierten Modellen aufsetzt. Wahrscheinlichkeitsverteilungen und Aktionsentscheidungen können während Simulationsläufen nachvollzogen und zur Bewertung von Trainingsstrategien genutzt werden.

Die Architektur ist modular aufgebaut und ermöglicht über definierte API-Schnittstellen die Integration weiterer Trainings- oder Inferenz-Services.

Technologien: Python, FastAPI, WebSockets, JavaScript, Chart.js, TradingView Lightweight Charts, PyTorch, AI Agents

Senior AI Engineer — AI Infrastructure & ML Platform Setup

10/2024 – 03/2025

Die Plattform dient als zentrale Infrastruktur für das AI-basierte Trading-System trAIder und wird von Data Scientists und ML-Engineern genutzt, um Modelle zu trainieren und in Produktion zu bringen. Sie ermöglicht die skalierbare Ausführung von ML- und LLM-Workloads mit GPU-Beschleunigung und unterstützt den gesamten Lebenszyklus von Modellen – von der Entwicklung über das Training bis zur Bereitstellung im Produktivbetrieb. Durch die automatisierte Bereitstellung und Verwaltung der Ressourcen wird die Zeit für die Modellentwicklung erheblich verkürzt und die Reproduzierbarkeit von Experimenten sichergestellt.

Die gesamte Infrastruktur wurde automatisiert mittels Ansible provisioniert. Dazu gehörten die Installation und Konfiguration von Kubernetes, Container Runtime, CNI-Plugins sowie die Integration von NVIDIA GPU-Treibern und CUDA-Unterstützung für ML-Workloads. Zusätzlich wurden Netzwerk- und DNS-Komponenten eingerichtet, um interne Service-Kommunikation und externe Erreichbarkeit sicherzustellen.

Zur Orchestrierung und GitOps-basierten Verwaltung der Cluster-Ressourcen wurde ArgoCD eingesetzt. Damit wurden Applikationen wie TimescaleDB (PostgreSQL) für Zeitreihendaten, Qdrant als Vector Database sowie Inference-Services wurden über Helm Charts deployt und versioniert verwaltet.

Die Plattform unterstützt containerisierte PyTorch-Trainingsjobs, LLM-Inferenz-Services sowie skalierbare Data-Pipelines und wurde hinsichtlich Ressourcenallokation, GPU-Nutzung und horizontaler Skalierbarkeit optimiert. Python wurde als Hauptentwicklungssprache für Skripte, Pipeline-Logik und Integrationen verwendet. Docker wurde genutzt, um ML-Modelle und Dienste in isolierten Containern zu verpacken und bereitzustellen. Linux (Ubuntu) bildet die Basis des Betriebssystems für alle Knoten im Cluster und gewährleistet Stabilität und Performance. Networking wurde speziell für hohe Durchsatzraten und geringe Latenz bei Datenübertragungen zwischen Diensten konfiguriert.

Technologien: Python, Ansible, Kubernetes, Docker, NVIDIA GPU, CUDA, ArgoCD, Helm Charts, TimescaleDB, PostgreSQL, Qdrant, Linux, DNS, Networking, Ubuntu

Senior DevOps Architekt bei einem Bundesamt — Enterprise OpenShift Plattform Engineering & Betrieb

05/2023 – 01/2025

AI Engineer — AI-basierte Klassifikation von Finanztransaktionen

05/2023 – 08/2023

Zur Automatisierung der Verarbeitung und semantischen Klassifikation von Kontoumsätzen wurde eine Datenpipeline für Analyse- und Reportingzwecke entwickelt. Das System integriert sich direkt in Bankenschnittstellen, um Kontoumsätze abzurufen und in strukturierte Datensätze für die Weiterverarbeitung zu überführen. Durch die automatische Kategorisierung von Transaktionen mit Hilfe von KI konnten Finanzberater und Controller ihre Berichterstattung erheblich beschleunigen und die Genauigkeit der Auswertungen verbessern. Insbesondere bei unstrukturierten Buchungstexten wie 'Einkauf im Supermarkt' oder 'Geldüberweisung an Max Mustermann' wurde die Zuordnung zu korrekten Kategorien wie 'Lebensmittel' oder 'Privatüberweisung' signifikant präziser und schneller.

Die Verarbeitungspipeline wurde in Python implementiert und nutzt REST APIs, um Transaktionsdaten automatisiert von einer deutschen Großbank abzurufen. Die eingelesenen Buchungen werden normalisiert, angereichert und über die Google Sheets API in Google Sheets bereitgestellt, um transparente Finanzübersichten und kollaborative Auswertungsprozesse zu ermöglichen.

Zur automatisierten Kategorisierung der Finanztransaktionen wurde ein Large Language Model (LLM) in den Verarbeitungsprozess integriert. Das Modell analysiert Buchungstexte semantisch und ordnet diese vordefinierten Einnahmen- und Ausgabenkategorien zu. Dadurch konnte der manuelle Aufwand für die Klassifikation von Kontobewegungen deutlich reduziert und die Konsistenz der finanziellen Auswertung verbessert werden. Für eine stabile und kosteneffiziente Inferenz wurden Prompt-Design sowie Batch-Verarbeitungsstrategien implementiert. Spätere Versionen der Lösung nutzten Llama-3-1-8B-Instruct als Sprachmodell.

Die Architektur basiert auf modularen Data Processing Pipelines und unterstützt asynchrone Verarbeitung, erweiterbare Klassifizierungslogik sowie die Integration zusätzlicher Finanzdatenquellen. Das Projekt demonstriert den produktiven Einsatz von LLMs zur strukturierten Extraktion und Klassifikation von Finanzdaten.

Technologien: Python, REST APIs, Google Sheets API, Data Processing Pipelines, LLM, Llama-3-1-8B-Instruct

Senior DevOps Architekt / Engineer bei einem Cloud Provider — Automatisierte Bereitstellung Air-Gapped OpenShift Plattformen

10/2022 – 08/2023

Senior Java Spring Boot Architekt & Entwickler bei Deep Data Ocean — Microservice Factory – Plattform zur automatisierten Generierung von Spring-Boot-Microservices

08/2021 – 05/2023

DevOps Architekt / Engineer bei einem Logistikunternehmen — Cloud-Native Transformation eines Legacy-Monolithen zu Kubernetes-basierten Microservices

03/2021 – 09/2022

AI Engineer — AI-basierte Skill-Klassifikation und Ressourcen-Matching

10/2019 – 02/2020

Die Anwender waren HR-Experten, die für die Besetzung von Projekten mit fachlich geeigneten Beratern verantwortlich waren. Das System unterstützte sie dabei, durch automatisierte Klassifikation von Projektanforderungen und Kandidatenprofilen, die Zuordnung von Fachkräften deutlich schneller und präziser vorzunehmen. Dadurch konnte der manuelle Aufwand bei der Suche nach passenden Ressourcen reduziert und die Zeit bis zur Projektbesetzung signifikant verkürzt werden.

Projektanforderungen aus unterschiedlichen Quellen wurden über eine in Python implementierte Natural Language Processing (NLP)-Pipeline eingelesen und verarbeitet. Dabei kamen Verfahren zur Textnormalisierung, Tokenisierung sowie Data Preprocessing & Feature Engineering zum Einsatz, um unstrukturierte Projektbeschreibungen in modellgeeignete Repräsentationen zu überführen.

Zur automatisierten Klassifikation der Inhalte wurde ein Deep-Learning-Modell auf Basis eines Recurrent Neural Networks (RNN) entwickelt. Das Modell ordnet Projektbeschreibungen vordefinierten Skill-Kategorien zu und ermöglicht dadurch die automatische Identifikation passender Kandidatenprofile.

Die trainierte Lösung erlaubte die konsistente Verarbeitung großer Mengen von Projektanfragen und unterstützte nachgelagerte Automatisierungsschritte wie die gezielte Auswahl geeigneter Lebensläufe sowie die teilautomatisierte Erstellung von Projektbewerbungen. Die Optimierung und Evaluation des Modells konzentrierte sich insbesondere auf die Verbesserung der Klassifikationsgenauigkeit für domänenspezifische Fachbegriffe und heterogene Projektbeschreibungen.

Das Projekt demonstriert den praktischen Einsatz von Deep Learning und Text Classification Pipelines zur Automatisierung von Geschäftsprozessen sowie zur skalierbaren Zuordnung von Fachkräften in projektgetriebenen Organisationen.

Technologien: Python, Natural Language Processing, Text Classification Pipelines, Data Preprocessing & Feature Engineering, Deep Learning, RNN

DevOps Architekt / Engineer bei einem Bundesunternehmen für Sicherheitsdokumente — Enterprise CI/CD und OpenShift Plattform Enablement

09/2019 – 02/2021

Cloud & DevOps Architekt bei einem Schulbuchverlag — Migration eines C#-Monolithen in eine verteilte AWS-Architektur

07/2019 – 07/2019

Cloud Operations Engineer bei einem IT-Dienstleister — Migration eines Java-Monolithen auf eine verteilte AWS-Plattform

10/2018 – 06/2019

Cloud Operations Engineer bei Deep Data Ocean — Modernisierung einer Predictive-Maintenance-Plattform

08/2018 – 09/2018

Big Data Architekt bei einem Automobilzulieferer — IoT-Plattform zur Verwaltung von Fahrzeugmessdaten

06/2018 – 10/2018

Big Data Architekt (Automobilindustrie) — Vehicle Data Lake & Streaming Pipeline Plattform

03/2018 – 06/2018

Big Data Entwickler bei Deep Data Ocean — Predictive-Maintenance-Prototyp

02/2018 – 03/2018

AI Engineer bei Deep Data Ocean — Besucheranalyse im Einzelhandel

01/2018 – 02/2018

AI Engineer bei Deep Data Ocean — Neural Network Playground

01/2018 – 02/2018

AI Engineer bei Deep Data Ocean — OCR für pharmazeutische Rezepte

01/2018 – 02/2018

Big Data Architekt bei einem deutschen Marktforschungsunternehmen — Verteilter FTP File Watcher zur Hadoop-Datenintegration

04/2017 – 05/2017

Big Data Entwickler bei einem Marktforschungsunternehmen — Analytics-Plattform für den regionalen Pharmamarkt

07/2016 – 12/2017

Big Data Entwickler bei einem Marktforschungsunternehmen — Migration einer Legacy-ETL-Plattform auf Hadoop & Spark

01/2016 – 07/2016

Business Technology Partner Central Europe (Entwicklungsleiter) bei einem globalen Pharma-Marktforschungsunternehmen — Business Technology Partner Central Europe (Entwicklungsleiter)

01/2014 – 12/2016

Director Business Technology Partner Central East & South Europe (Head of Development) bei einem globalen Pharma-Marktforschungsunternehmen — Unternehmensweite Migration von Legacy Data Warehouses auf Hadoop- und Spark-basierte Big-Data-Plattformen in 35 Ländern

09/2013 – 12/2017

Projektmanager bei einem Pharma-Marktforschungsunternehmen — Projektmanager – Marktanalyse-Produkt für die Pharmabranche

05/2013 – 12/2013