Hoe jij bijdraagt in je rol
Als data engineer ben je (mede-)verantwoordelijk voor het ontwerpen, beheren en optimaliseren van real-time datastromen en de datakwaliteit van onze producten. Je werkt aan dataverwerking in verschillende formats en protocollen, en zorgt ervoor dat onze data compleet, actueel en betrouwbaar is. Dit doe je zowel voor externe afnemers als voor interne teams die historische en analytische toepassingen bouwen.
Je dagelijkse werk omvat onder andere:
- Het testen en beheren van dataverbindingen: het uitvoeren van aansluittesten en valideren van de integratie van externe verkeersdataleveranciers met onze systemen.
- Het automatiseren van datakwaliteitscontroles: volledigheid, trendbreukdetectie, plausibiliteitschecks en latency-monitoring.
- Het ontwikkelen van Python-scripts en SQL-queries voor transformaties, validaties en analyses.
- Het monitoren en verbeteren van dataproducten, met gebruik van observability tools zoals Prometheus, Grafana en Loki.
- Het doen van incidentanalyses en herstel van datasets, inclusief replay- en herstelstrategieën.
- Het samenwerken met andere ontwikkelteams, onder meer teams die historische aggregaties en kaartvisualisaties bouwen.
- Het aanspreekpunt zijn voor binnenkomende meldingen over datastromen en die omzetten in acties of verbeteringen.
- Werken met hoogfrequente real time verkeersdata waarbij de maatschappelijke impact direct voelbaar is
- Zowel bouwen als bewaken van dataproducten waarbij je meewerkt aan datakwaliteit én productieomgevingen
- Samenwerken in een DevOps team dat end to end verantwoordelijk is voor de volledige dataketen van binnenkomst tot publicatie
- Het combineren van data engineering met moderne manieren van meten en sturen op betrouwbaarheid en prestaties
- De kans krijgen om te leren en te experimenteren met technologieën als Apache Kafka, Avro en Kubernetes waardoor je je technische vakmanschap verder verdiept