O que construí.

Projetos práticos em infraestrutura de dados, sistemas de IA e computação distribuída.


01

Digiage Technologies · seguradora multinacional · 06/2024 - Atual

Data Lake e Observabilidade de ETLs em Escala

Um data lake de ~900 TB em constante crescimento, com múltiplas squads gerando ETLs, tinha detecção de falhas puramente reativa — problemas só apareciam quando um usuário de negócio reportava dado incorreto ou ausente, muitas vezes dias depois da falha original.

  • Liderei squad de 5-8 engenheiros na arquitetura e governança do lake, com padronização de camadas (bronze/silver/gold) e dos Glue Workflows/Jobs.
  • Implantei observabilidade do zero: biblioteca Python compartilhada entre os jobs Glue, com alertas via Lambda no Microsoft Teams (detalhes do erro + link direto para o CloudWatch).
  • Padronizei o processo de triagem: qualquer falha chega ao time com contexto suficiente para diagnóstico imediato.

Detecção reativa por incidente → resolução proativa, antes da percepção do usuário final.

AWSGlue WorkflowsGlue JobsData CatalogPythonLambdaCloudWatch
02

Digiage Technologies · seguradora multinacional · 06/2024 - Atual

Pipeline CDC em Tempo Real para Dados de Apólices

Dados cadastrais, de apólices e de reclamações precisavam chegar a sistemas de atendimento (CRM) em tempo próximo ao real, além de atender exigências regulatórias de troca de dados entre seguradoras (Open Insurance/SUSEP).

  • Mantive e evoluí um pipeline de Change Data Capture com Apache Kafka, capturando mudanças em dados cadastrais, apólices e reclamações direto na origem.
  • Disponibilizei os dados processados em DynamoDB, servidos via APIs consumidas pelo CRM de atendimento.
  • Gerenciei a integração com o Open Insurance: recepção de dados de outras seguradoras e envio no padrão regulatório exigido pela SUSEP.

Dados de apólices e reclamações em tempo próximo ao real para o atendimento; conformidade regulatória mantida na troca entre seguradoras.

Apache KafkaDynamoDBAWSAPIs RESTOpen Insurance
03

Inovia · part-time · 05/2025 - Atual

Pipeline de Produção Multi-LLM para Análise de Documentos

Um estudo de ciência de dados havia validado hyperparameters promissores para análise de documentos com LLMs open-source, mas não existia caminho de produção: sem API de predição, sem orquestração de modelos/versões, sem infraestrutura para servir clientes externos.

  • Construí o pipeline de produção para os 3 modelos, incluindo orquestração de qual modelo/versão atende cada predição.
  • Desenvolvi APIs de consumo e gerenciamento de predições, desacoplando o time de ciência de dados da complexidade de infraestrutura.
  • Gerencio a infraestrutura em nuvem que serve os modelos a clientes externos e integrei IA generativa (Claude e agentes) ao fluxo de engenharia — code review, qualidade, segurança e testes.

Estudo de pesquisa transformado em produto servindo clientes externos; tempo de revisão de código reduzido com fluxo assistido por IA generativa.

GemmaLlamaQwenAPIs de prediçãoCloudClaude
04

Lima Consulting · 04/2023 - 06/2024

Real-Time CDP para Operadora de Telecom com 80M de Clientes

Uma operadora de telecom de grande porte (~80 milhões de clientes) precisava consolidar dados de clientes, campanhas e segmentos vindos de fontes batch e streaming heterogêneas, e ativar jornadas de comunicação multicanal de forma confiável.

  • Modelei schemas XDM com schema evolution e construí ingestões batch (BigQuery/CSV) e em streaming, configurando Kafka do lado do cliente integrado ao AEP.
  • Criei jornadas de ativação multicanal no Adobe Journey Optimizer (e-mail, push e SMS), incluindo estratégias de IP warming de domínios.
  • Construí pipelines de dados complementares com Airflow e Redshift em ambientes AWS e GCP.

Plataforma de CDP em produção para uma base de ~80 milhões de clientes, com ingestão unificada e jornadas multicanal ativas.

Adobe Experience PlatformXDMBigQueryApache KafkaAdobe Journey OptimizerAirflowRedshift
05

Boa Vista SCPC · atual Equifax Brasil · 03/2021 - 04/2023

Migração de BigQuery para Spark: de Dias para Horas

O cálculo de variáveis de similaridade e segmentação rodava em BigQuery com execuções que levavam dias, sujeitas a falhas e reinícios frequentes, gerando custos cloud elevados e atrasando a disponibilização de variáveis para os modelos.

  • Refatorei o cálculo de variáveis de BigQuery para Spark/Scala, rodando em cluster Dataproc de 10 a 15 nós.
  • Criei uma Feature Store interna para cadastro e gestão de modelos e variáveis, com autenticação OAuth 2.0 integrada ao GCP.
  • Desenvolvi APIs REST em Flask e DAGs no Airflow para orquestrar o processamento, com deploys via CI/CD.

Tempo de execução reduzido de dias (com falhas e reinícios) para cerca de 4 horas, com corte de custos cloud.

BigQueryApache SparkScalaDataprocFlaskAirflowGCP

06
Em Andamento

AI Orchestrator

Processamento assíncrono e distribuído de jobs com pipeline RAG

Este projeto nasceu de um estudo de pesquisa: um Cientista de Dados ajustou o modelo e encontrou hyperparameters que funcionavam bem. Meu trabalho foi pegar esse estudo e transformá-lo em produto. O resultado é um orquestrador distribuído que gerencia jobs e workers de forma assíncrona através de uma API REST construída com FastAPI, usando Redis como state store e fila de jobs. Os workers processam documentos PDF através de um pipeline RAG e reportam os resultados de volta ao orquestrador. Tudo roda em Docker, gerenciado por um serviço systemd na AWS EC2 que inicia automaticamente no boot. O próximo passo é um painel de monitoramento para que qualquer pessoa do time possa checar execuções de jobs, status e uso de recursos sem precisar acessar a API diretamente.

  • API REST assíncrona com FastAPI
  • Redis como state store + fila de jobs
  • Processamento de PDFs via pipeline RAG
  • Docker + systemd na AWS EC2
  • Painel de monitoramento (em breve)
FastAPIRedisRAGDockerEC2PythonAWS

Mais projetos serão documentados aqui conforme atingirem um estado compartilhável.