Pres J V Wierdsmastraat 138 | 3151 EG | Hoek van Holland
Voor een eindklant zijn wij op zoek naar een Senior Data Engineer
- Startdatum: Asap
- Einddatum: 1-4-27
- Uren per week: 32 a 36
- Optie: ja, in overleg
- Locatie: Amsterdam en remote
- Aanvraag sluit op 6-10 om 9:00 uur
De Data & Analyse teams spelen een sleutelrol om data van interne en externe bronnen te ontsluiten naar de afnemers binnen de Centrale Bank. Deze data omvatten kritische financiële informatie die beschikbaar gesteld moet worden voor de operatie en voor analyse doeleinden. De teams hebben een goedlopende agile BizDevOps werkwijze, en werken met moderne tooling in de Azure Cloud omgeving. Als senior data engineer kun jij met je kennis en ervaring een goede bijdrage leveren aan de teams. Je zal starten in het D&A ‘World of Warehousing’ team dat een nieuw analyseplatform aan het bouwen is voor de cash-stromen van DNB, een platform dat geheel wordt gebouwd in Azure Databricks.
In dat team zijn daarnaast meerdere grote en kritische cloud datawarehouses in beheer op basis van Synapse, Azure SQL Server en ADF. Het tweede D&A team (‘Lake of Legends’), waar je ook voor kan worden ingezet, heeft een nog sterkere focus op Azure Databricks.
Functieomschrijving: moet overeenkomen met je werkervaring
- Ontwerpen, ontwikkelen en optimaliseren van data pipelines binnen Azure Databricks.
- Realiseren van data-ingestie-, transformatie- en verrijkingsprocessen met Python, PySpark en SQL.
- Inrichten en beheren van lakehouse-architecturen volgens medallion architectuur.
- Ontwikkelen en onderhouden van Databricks notebooks, workflows en Unity Catalog-structuren.
- Implementeren van Infrastructure as Code (IaC) en CI/CD-processen binnen Azure DevOps.
- Kennis van dimensioneel modelleren.
- Opzetten en uitvoeren van unit-, integratie- en regressietesten.
- Toepassen van software engineering best practices, waaronder versiebeheer, code reviews, linting en security scanning.
- Samenwerken met data-engineers, analisten en platformteam om hoogwaardige data-oplossingen te realiseren.
Functie eisen : Neem deze vragen over en puntsgewijs beantwoorden met de jaartallen
- Minimaal 5 jaar aantoonbare werkervaring met Data Engineering in de Azure Cloud omgeving.
- Minimaal 5 jaar aantoonbare werkervaring met Python en PySpark
- Minimaal 5 jaar aantoonbare werkervaring met SQL in een enterprise omgeving
- Minimaal 3 jaar aantoonbare werkervaring met Databricks notebooks, pipelines en Unity Catalog
- Minimaal 3 jaar aantoonbare werkervaring met infra-ascode (IAC) en Azure DevOps CI/CD pipelines
- Minimaal 2 jaar aantoonbare werkervaring met data lakehouses (bijv. medaillon structuur)
- Aantoonbare werkervaring met testen (unit testen, regressietesten)
- Aantoonbare ervaring met Git, code linting en code scanning
- Aantoonbare werkervaring met het ontwerpen en bouwen van dimensionale modellen.
- Minimaal 2 jaar werkervaring met Data Vault 2.0
- Minimaal 3 jaar werkervaring met data engineering / BI in een complexe Enterprise organisatie in de financiële sector
- Minimaal 3 jaar werkervaring met Azure Data Factory 10
- Minimaal 3 jaar werkervaring met Azure Synapse Analytics
- Minimaal HBO denk- en werkniveau
- Goede schriftelijke en mondelinge vaardigheden in de Nederlandse taal
- Relevante Databricks certificering (Data engineer Associate of Professional)