AI Platform Engineer (m/w/d)

Job summary

Die AI Platform Engineer entwickelt und betreibt eine zentrale KI-Plattform als Grundlage für sichere, skalierbare und wirtschaftliche KI-Anwendungen. Zu den Aufgaben gehören der Ausbau von Open WebUI, LiteLLM und Microsoft AI Foundry, die Entwicklung wiederverwendbarer Software-Komponenten und Schnittstellen sowie RAG-Lösungen mit sicherer Anbindung interner Datenquellen wie SharePoint und Datenbanken. Außerdem unterstützt die Rolle interne Teams bei der Nutzung der Plattform.

Benefits

Qualifications

• Praxiserfahrung mit KI- und LLM-Systemen, einschließlich RAG, Agenten, Tools, Modell-APIs und MCP
• Erfahrung im Betrieb und in der Weiterentwicklung von IT-Infrastruktur, Systemintegration oder Softwareentwicklung
• Fundierte Kenntnisse in Linux-Administration, Docker, Python und REST-APIs
• Kenntnisse in Cloud-Services, insbesondere Microsoft Azure
• Erfahrung mit Open WebUI oder LiteLLM ist von Vorteil
• Sehr gute Deutsch- und Englischkenntnisse
• Abgeschlossenes Studium der (Wirtschafts-)Informatik, IT-Ausbildung oder vergleichbare Qualifikation

Responsibilities

• Aufbau, Betrieb und Weiterentwicklung der zentralen KI-Infrastruktur vom Benutzerinterface bis zum Modellzugang
• Betreuung und Ausbau von Open WebUI, LiteLLM und Microsoft AI Foundry
• Entwicklung wiederverwendbarer Software-Komponenten und Schnittstellen
• Aufbau von RAG-Lösungen und sichere Anbindung interner Datenquellen und Systeme, etwa SharePoint, Datenbanken und Fachanwendungen
• Beratung und Unterstützung interner Teams bei der Nutzung der KI-Plattform

Skills

Degrees

Languages

Work schedule

Industry

Relocation