Remote Jobs RockRemote Jobs Rock

AI Solution Architect (m/w/d)

📅 Jul 14
AI ArchitectureML EngineeringMicrosoft AzureMlops

📜 Description

  • Design and develop the AI/ML architecture as an enterprise AI platform focusing on Microsoft Azure.
  • Lead ML pipeline projects, particularly in training, deployment, monitoring, and drift detection.
  • Conceptualize and optimize RAG architectures regarding chunking, retrieval, guardrails, and context orchestration.
  • Define and evolve MLOps strategies, including CI/CD for models, experiment tracking, and model registry.
  • Lead and coordinate interdisciplinary teams of ML/AI Engineers, LLM Engineers, and MLOps Engineers.
  • Advise internal and external stakeholders on AI architectures and present technical concepts to IT management and departments.

🛠️ Requirements

  • Extensive experience with cloud-based AI/ML solutions, ideally on Microsoft Azure.
  • Practical experience with MLOps concepts and tools like MLflow, Kubeflow, or Azure ML Pipelines.
  • Experience in building RAG architectures and prompt engineering.
  • Knowledge in integrating and orchestrating language models, preferably with frameworks like LangChain or LlamaIndex.
  • Experience with CI/CD for ML applications and strong Python skills.
  • Practical experience with at least two common machine learning frameworks, such as scikit-learn, PyTorch, or TensorFlow.
  • Experience in building enterprise architectures in cloud environments.
  • Knowledge in related areas like data platforms, containerization, and observability tools.

✨ Benefits

  • Flexible working hours and remote work options.
  • Individual hardware budget for a personalized workspace.
  • Mental health support with free access to professional psychological assistance.
  • Personalized training budget for certifications or language courses.
  • Employee PC program for leasing devices for personal use.
  • Support for mobility options like JobRad or company car.
Full job description

Als IT-Dienstleister treiben wir die Digitalisierung des öffentlichen Sektors voran und schaffen echten Mehrwert für Millionen Menschen in Deutschland. Wir können vieles richtig gut, aber eben noch nicht alles. Darum suchen wir immer wieder neue Kolleg:innen, die mit ihren Ideen, ihrem Können und Engagement etwas bewegen wollen. Fühlst du dich angesprochen? Dann gestalte Deine Welt zum Besseren und werde Teil unseres Customer Cluster Environment, Transportation & Energy.

DEINE MISSION

Als AI Solution Architect (m/w/d) gestaltest Du die KI-/ML-Gesamtarchitektur für komplexe Enterprise-Umgebungen in der Cloud mit Schwerpunkt Microsoft Azure. Du verbindest fundiertes Know-how in ML Engineering, RAG-Architekturen und MLOps, um KI-Lösungen produktionsreif, skalierbar und sicher umzusetzen. Dabei arbeitest Du eng mit technischen Expert:innen, Fachbereichen und Entscheidungsträgern zusammen und trägst maßgeblich dazu bei, innovative KI-Lösungen erfolgreich zu etablieren.

Deine Aufgaben:

  • Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur als Enterprise-KI-Plattform mit Schwerpunkt Microsoft Azure

  • Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection

  • Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration

  • Definition und Weiterentwicklung von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry

  • Technische Führung und Koordination interdisziplinärer Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers

  • Beratung interner und externer Stakeholder zu KI-Architekturen sowie Präsentation technischer Konzepte gegenüber IT-Leitung und Fachbereichen

DAS IST UNS WICHTIG

  • Fundierte Erfahrung mit cloudbasierten KI-/ML-Lösungen, idealerweise auf Microsoft Azure, insbesondere Azure Machine Learning und Azure OpenAI Service. Kenntnisse weiterer Cloud- und AI-Services sind von Vorteil.

  • Praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen wie MLflow, Kubeflow oder Azure ML Pipelines.

  • Erfahrung im Aufbau von RAG-Architekturen, Prompt Engineering und im Umgang mit Vektordatenbanken.

  • Kenntnisse in der Integration und Orchestrierung von Sprachmodellen, idealerweise mit Frameworks wie LangChain oder LlamaIndex.

  • Erfahrung mit CI/CD für ML-Anwendungen sowie sehr gute Python-Kenntnisse.

  • Praktische Erfahrung mit mindestens zwei gängigen Machine-Learning-Frameworks, beispielsweise scikit-learn, PyTorch oder TensorFlow.

  • Erfahrung im Aufbau von Enterprise-Architekturen in Cloud-Umgebungen.

  • Kenntnisse in angrenzenden Bereichen wie Datenplattformen, Containerisierung, Container-Orchestrierung, Infrastructure as Code und Observability sind von Vorteil, beispielsweise mit Databricks, Azure Data Factory, Azure Data Lake, Docker, Kubernetes, Terraform, Prometheus, Grafana oder Application Insights.

  • Grundlegendes Verständnis von AI Governance, Responsible AI sowie Sicherheits- und Datenschutzanforderungen im Enterprise-Umfeld.

  • Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen.

  • Erfahrung in einer technischen Leitungs- oder Architekturrolle ist wünschenswert.

  • Azure-, AWS- oder Google-Cloud-Zertifizierungen sind ein Plus.

  • Idealerweise Erfahrung in der Energiebranche oder Versorgungswirtschaft sowie mit datengetriebenen Anwendungsfällen.

  • Sehr gute Deutschkenntnisse (C2-Niveau) sowie gute Englischkenntnisse.

DEIN NEUER ARBEITSPLATZ

  • Was bei uns zählt? Klar definierte Rollen, echtes Miteinander und ein gemeinsames Ziel. Wir nennen das Responsiveness – transparent, wertschätzend und zielorientiert.

  • Hier bist du am Wandel direkt beteiligt, wenn du möchtest. – Nimm Teil an Projekten, die uns als Unternehmen weiterentwickeln.

  • Flexible Arbeitszeiten und Remote Work? – Sind selbstverständlich.

  • Individuelles Hardware-Budget? – Stell dir deinen Arbeitsplatz so zusammen, wie du dich am wohlsten fühlst.

  • Mental Health? – Dein mentales Wohlbefinden ist uns wichtig. Mit OpenUp unterstützen wir dich und bieten dir jederzeit kostenlosen Zugang zu professioneller psychologischer Unterstützung.

  • Individuelles Weiterbildungsbudget? – Egal ob die nächste Zertifizierung oder ein lang ersehnter Sprachkurs – du entscheidest, worin und wann du dich weiterbildest.

  • Mitarbeiter:innen-PC-Programm? – Lease dir dein nächstes Device zur rein privaten Nutzung einfach über virtual7.

  • JobRad oder Firmenwagen? – Wir helfen dir dabei, so mobil zu sein, wie du es brauchst.

Sopra Steria

Architecte Sécurité de l'Intelligence Artificielle - Cybersécurité - Ile-de-France

🕒 4 days ago
Sopra Steria👥 10,000+ employees🏢 Information Technology And Services

As an AI Security Architect, you will design and secure AI systems, ensuring compliance and risk management while leading the implementation of advanced machine learning solutions.

AI ArchitectureMachine LearningGenerative AIMlops
Atlas Technica

Sr. AI Architect - Future Opportunity

🕒 yesterday
Atlas Technica👥 201 - 500 employees🏢 Information Technology And Services

The Senior AI Architect will lead the design of secure AI solutions, guide AI Engineers, and translate business needs into practical AI architectures for financial services clients.

AI ArchitectureMicrosoft AzureMachine LearningData Integration
RR Donnelley

AI Architect / Technical Lead

🕒 3 days ago
RR Donnelley👥 10,000+ employees🏢 Consumer Goods

The Technical Lead is responsible for defining architectural patterns and ensuring the technical quality of AI workflows in client engagements, guiding teams to deliver scalable and secure solutions.

AI ArchitectureCloud ArchitectureEnterprise IntegrationIntegration Engineering

Trusted by Remote Workers