Desenvolve soluções backend ponta a ponta para um cliente global de comércio eletrônico, desde discovery e arquitetura de novas funcionalidades até observabilidade, mitigação de problemas e resolução de causas-raiz.
Senior Backend IA Developer, Brazil
📜 Description
- Desenvolver componentes centrais da plataforma de IA, incluindo governança de modelos, provedores, tenants e políticas de uso.
- Projetar mecanismos de roteamento, balanceamento de carga, fallback e controle de consumo e custos de LLMs.
- Integrar LiteLLM e provedores de modelos em ambientes de nuvem pública.
- Evoluir APIs, serviços e observabilidade para garantir desempenho, disponibilidade, escalabilidade e confiabilidade.
- Investigar incidentes em produção, identificar causas-raiz e propor melhorias estruturais.
- Contribuir para decisões arquiteturais, padrões de engenharia e suporte técnico aos times consumidores da plataforma.
🛠️ Requirements
- Experiência sólida em desenvolvimento backend com Kotlin/Java e/ou Node.js.
- Experiência com sistemas distribuídos, APIs e serviços de alta disponibilidade.
- Experiência com nuvem pública, Docker, Kubernetes e pipelines de CI/CD.
- Conhecimento de LLMs, IA generativa e integração com provedores como Azure OpenAI, Azure AI Foundry, AWS Bedrock ou GCP Vertex AI.
- Conhecimento de roteamento, fallback, streaming e gerenciamento de consumo de LLMs.
- Experiência com observabilidade e troubleshooting usando métricas, logs e traces; conhecimento de PostgreSQL e/ou MongoDB.
- Conhecimento de RAG, AI Agents e Agentic AI.
- Experiência em decisões técnicas e arquiteturais e atuação como referência técnica.
Full job description
Na CI&T , ajudamos grandes empresas a transformar o potencial da AI em impacto real nos negócios com AI Deployment, execução AI-native e tech-integrated business solutions.
Com 30 anos de experiência em transformação tecnológica, aceleramos inovação com expertise em agentic SDLC, application modernization, Data & AI, martech e business strategy.
Somos 8.000 CI&Ters em mais de 25 países, colaborando para construir soluções com impacto real. AI já faz parte da forma como trabalhamos, evoluímos e inovamos todos os dias.
Estamos em busca de uma pessoa Backend Developer para atuar na evolução dos componentes core da AI Platform do CI&T Flow, com foco na orquestração de modelos, integração com provedores de LLM e construção de uma plataforma multi-cloud, observável, resiliente e escalável.
Atuar no desenvolvimento e evolução de soluções internas para o time de governança, com foco em ferramentas, automações e fluxos que sustentem as políticas de IA, controle de custos, conformidade e gestão de modelos da plataforma corporativa.
A posição terá atuação direta na criação e sustentação de aplicações voltadas para governança, exigindo proximidade com as demandas internas da equipe de governança, entendimento dos processos de controle e capacidade de projetar e implementar melhorias operacionais e sistêmicas.
Essa pessoa será referência técnica na evolução da plataforma, atuando no desenvolvimento de novas funcionalidades, decisões arquiteturais e resolução de problemas complexos. Buscamos alguém com sólida experiência em engenharia de software e sistemas distribuídos, além de conhecimento em Inteligência Artificial Generativa e arquiteturas baseadas em LLMs.
Responsabilidades
Desenvolver e evoluir os componentes core da AI Platform, incluindo governança de modelos, provedores, tenants e políticas de utilização.
Projetar e evoluir mecanismos de roteamento, load balancing, fallback e controle de consumo e custos de LLMs.
Desenvolver integrações com LiteLLM e diferentes provedores de modelos em ambientes de cloud pública.
Evoluir APIs, serviços e mecanismos de observabilidade, garantindo performance, disponibilidade, escalabilidade e confiabilidade da plataforma.
Investigar incidentes e problemas complexos em produção, identificando causas raiz e propondo melhorias estruturais.
Participar das decisões arquiteturais, avaliando trade-offs, riscos técnicos e impactos nos diferentes produtos consumidores da plataforma.
Atuar como referência técnica para o time, contribuindo para padrões de engenharia, boas práticas e evolução técnica das pessoas desenvolvedoras.
Colaborar com os times consumidores da plataforma no refinamento de soluções e resolução de problemas de integração.
Requisitos para este desafio
Experiência sólida em desenvolvimento backend com Kotlin/Java e/ou Node.js.
Experiência com arquitetura e desenvolvimento de sistemas distribuídos, APIs e serviços de alta disponibilidade.
Experiência com cloud pública, Docker, Kubernetes e pipelines de CI/CD.
Conhecimento em LLMs e arquiteturas de aplicações baseadas em Inteligência Artificial Generativa.
Experiência com integração de modelos utilizando ao menos um dos principais provedores de LLM em cloud, como Azure OpenAI, Azure AI Foundry, AWS Bedrock ou GCP Vertex AI.
Conhecimento de mecanismos relacionados à operação de LLMs, como routing, fallback, streaming e gerenciamento de consumo.
Experiência com observabilidade e troubleshooting de sistemas distribuídos utilizando métricas, logs e traces.
Conhecimento de PostgreSQL e/ou MongoDB.
Conhecimento dos principais conceitos relacionados a RAG, AI Agents e Agentic AI.
Experiência em decisões técnicas e arquiteturais, atuando como referência técnica em ambientes de alta complexidade.
Diferenciais
Experiência prática com LiteLLM e arquiteturas de AI Gateway, LLM Gateway ou Model Gateway.
Experiência com múltiplos provedores de LLM em ambientes de produção.
Conhecimento de MCP (Model Context Protocol).
Experiência com LangChain, LangGraph, Semantic Kernel ou frameworks similares.
Conhecimento de LLM Observability, utilizando ferramentas como Langfuse, OpenTelemetry, Prometheus ou Grafana.
Conhecimento de vector databases, busca semântica e arquiteturas RAG.
Experiência com guardrails, segurança e controle de acesso em aplicações de IA.
Experiência com Helm, GitOps ou desenvolvimento de ferramentas e agents para AI Coding.
Similar jobs
Search more Backend Engineer jobsJava Backend Developer Sênior - REMOTO
Desenvolve e mantém soluções Java escaláveis, APIs RESTful e microsserviços, garantindo desempenho, segurança e qualidade, enquanto define boas práticas e orienta desenvolvedores juniores e plenos.
Build and operate reliable backend systems for complex government and enterprise integrations, automating support workflows and establishing reusable patterns for asynchronous processing, observability, and platform reliability.
Build and own production Node.js services, APIs, and Salesforce integrations for enterprise SaaS, while contributing to Vue.js interfaces, event-driven systems, and developer infrastructure.
Build and own production Node.js services, APIs, and Salesforce integrations, while contributing to Vue.js interfaces, CI/CD tooling, and event-driven systems for enterprise SaaS customers.
