TUM Klinikum / Rechts der Isar

IT-Mitarbeiter (m/w/d) - KI in der IT

Voll- oder Teilzeit | unbefristet | Geschäftsbereich Informationstechnologie (GBIT)

Ihre Aufgaben

Aufbau, Betrieb und Skalierung von LLM‑Plattformen und On‑Prem GPU‑Clustern für LLM‑Workloads (NVIDIA)
Monitoring von Token‑Durchsatz, Latenzen, GPU‑Auslastung und Kosten
Aufbau von Hybrid‑Architekturen (Cloud + On‑Prem)
Umsetzung von Compliance‑, Datenschutz‑ und AI‑Governance‑Vorgaben
Enge Zusammenarbeit mit Data Scientists, KI‑Entwicklern und Fachbereichen
Beratung bei Modellwahl, Architekturentscheidungen und Einsatzszenarien sowie Bewertung neuer LLM‑Technologien und Frameworks

Ihr Profil

Abgeschlossenes Studium der Informatik, Data Science oder vergleichbare Qualifikation
Erfahrung mit mindestens einer Cloud‑Plattform (Azure, AWS oder GCP), idealerweise mit Managed AI Services oder GPU‑Instanzen
Sehr gute Kenntnisse in Infrastructure as Code (Terraform, Bicep, o. Ä.), Containerisierungs-Technologien und Linux-Administration
Erfahrung mit LLM‑Inference‑Stacks (z. B.: vLLM, TGI, Triton Inference Server, Ray) und/oder Kenntnisse in LLMOps / MLOps (z. B.: MLflow, Kubeflow, Hugging Face, Weights & Biases) sind wünschenswert
Von Vorteil ist ein gutes Verständnis von RAG‑Architekturen, Vektordatenbanken und Prompting‑Strategien
Sehr gute Deutsch- (mind. C1 Niveau) und gute Englischkenntnisse (mind. C1 Niveau)

Wir bieten Ihnen

EGYM-Wellpass, Corporate Benefits, sowie Rabatte (z.B. Käfer), Mensa, Sport- und Kulturangebote, Jobrad
Arbeiten im Herzen Münchens am Max-Weber-Platz mit sehr guter Erreichbarkeit durch öffentliche Verkehrsmittel wie U-Bahn, S-Bahn oder Tram
Betriebliche Altersvorsorge über die Versorgungsanstalt des Bundes und der Länder (VBL)
Selbstverwirklichung durch eine abwechslungsreiche und fachlich anspruchsvolle Tätigkeit mit interdisziplinärer Zusammenarbeit verschiedener Abteilungen des TUM Klinikum Rechts der Isar

Wir freuen uns darauf Sie kennenzulernen!

Kontakt: Frau Gabriele Ziehnert | 089 / 4140 -4369 | Geschäftsbereich Informationstechnologie (GBIT)

Geschäftsbereich Informationstechnologie (GBIT)

TUM Klinikum
Rechts der Isar
Ismaninger Straße 22
81675 München

Schwerbehinderte Bewerber*innen werden bei ansonsten im Wesentlichen gleicher Eignung bevorzugt berücksichtigt.

Bewerbungskosten können leider nicht erstattet werden.