Maziyar Khorrami-Senior Data Engineer
Tagessatz prüfen
Erfahrungen
Data Engineer
MSD Germany
- Lead-Architekt für die Gestaltung und Umsetzung des Data Lake und der ETL-Pipeline mit dem AWS-Stack
- Leistungsoptimierung der Datenaufnahme der ETL-Pipeline
- Entwicklung der Datenvalidierung mit Great Expectations
- Leitung der Datenmigration für zwei Quellsysteme
- Datenmodellierung in AWS Redshift
MLOps
- Implementierung der Modell-Inferenz mit mlflow und AWS SageMaker
- Feature Engineering für die laufenden ML-Modelle (Recommender Engineer, Clustering)
- Implementierung von Model Registry und Artifactory mit mlflow
- Historisierung und Profiling der Eingabedaten mit AWS Glue Crawler und AWS Data Catalog
- Feature Importance mit mlflow
Tech. Stack: Python 3, AWS Glue, AWS Step Function, AWS Lambda, AWS EventBridge, AWS IAM Role, AWS SageMaker, AWS EC2, AWS Glue Crawler, AWS CloudWatch, MLFlow, ETL, Data Lake, GitHub Action, Terraform, Jenkins, Ansible Playbooks (Infrastructure as Code), CI/CD, GitLab, SQL, PySpark, Scrum, Agile, Jira, Big Data, VSCode, DBeaver, MSSQL, MySQL, Grafana, Docker, Linux, Bash, MapReduce, Datenmodellierung (ORM), Pandas, YAML, SQL-Alchemy
Self-Training Cloud
- Microsoft Azure Data Engineering Zertifizierung
- Azure Synapse Analytics, Azure Data Factory, Azure Databricks, Azure SQL Database, Azure Blob Storage, Azure HDInsight, Azure Stream Analytics, Azure Cosmos DB, Azure Machine Learning, Azure Data Lake Storage
- Google Cloud Platform (GCP), BigQuery, Vertex, BigTable, Cloud Dataflow
Personal Sabbatical
Persönliche Auszeit von 8 Monaten, um eine familiäre Pause zu machen und Zeit mit meinen Liebsten zu verbringen, meine Work-Life-Balance zu stärken und meine Motivation für neue berufliche Herausforderungen zu steigern.
Data Engineer
dmTech
- Entwicklung und Implementierung von Datenpipelines und ETL-Prozessen mit Apache Spark, Python und SQL für verschiedene Datenquellen wie SAS Viya, Data Warehouses, Hadoop HDFS und Hive.
- Enge Zusammenarbeit mit Stakeholdern zur Analyse von Datenanforderungen und Entwicklung passender Lösungen.
- Entwurf und Implementierung von Datenpipelines und POCs für ETL-Prozesse mit Microsoft Azure Blob Storage, Microsoft Azure Functions, Microsoft Azure Data Factory, Microsoft Azure Synapse Analytics, Microsoft Azure Data Catalog, Microsoft Azure Event Grid.
- Verantwortlich für Deployment und Debugging von PEX-Dateien für CLI-Komponenten.
- Erfolgreiche Leitung der Migration eines älteren Hadoop-Clusters auf einen neuen Hadoop-Cluster. Dazu gehörten die Übertragung aller Daten, Formate, Pipelines, CLI-Integrationen, Zeitpläne, Airflow DAGs, DB-Verbindungen und mehr.
- Entwicklung von PEX-Dateien und Durchführung von Tests zur Sicherstellung der Robustheit.
- Implementierung und Entwicklung eines Data Lake für effiziente Datenspeicherung und -verarbeitung.
- Erfolgreiche Umsetzung von Datenschutzrichtlinien gemäß DSGVO.
- Implementierung von IAM und Authentifizierung für die Zugriffskontrolle.
- Entwicklung von Konzepten für Data Mesh für ein effektives Datenmanagement.
- Implementierung von Datenmodellen wie ORM.
Datenanalyse
- Erstellung von Grafana-Dashboards zur Überwachung des Datenflusses und zur Analyse von Metriken.
- Entwicklung von DataDog-Dashboards zur Überwachung des Datenflusses und verschiedener Metriken wie Partitionsgröße, Tracking kleiner Dateien und Knoten im Hadoop-Cluster.
- Analyse von Kundendaten und Suchdaten, um kleinere Fehler in den Daten zwischen verschiedenen Zonen im Data Lake zu identifizieren.
- Analyse großer Datensätze, um Trends und Verbesserungspotenziale zu erkennen.
- Erstellung von Datenvisualisierungen und Dashboards zur Darstellung von Datenerkenntnissen.
- Entwicklung von Berichten und Präsentationen, um Datenergebnisse an Stakeholder zu kommunizieren.
DevOps
- Nutzung von GitLab CI/CD für automatisierte Pipeline-Deployments.
- Entwurf und Implementierung von Docker-Containern und deren Vorlagen.
- Entwicklung und Verbesserung von Ansible Playbooks für Ressourcen- und Paketverwaltung.
- Entwicklung und Einsatz von Jenkins für die kontinuierliche Integration verschiedener PEXs.
- Durchführung von POCs für Kubernetes und Terraform für Container- und Ressourcenmanagement in Microsoft Azure mit Microsoft Azure Blob Storage, Microsoft Azure Functions, Microsoft Azure Data Factory, Microsoft Azure Synapse Analytics, Microsoft Azure Data Catalog, Microsoft Azure Event Grid.
- Entwicklung von Bash-Skripten unter Linux für verschiedene Zwecke, einschließlich Automatisierung von Zeitplänen.
Projektleitung
- Entwurf, Entwicklung und Durchführung einer End-to-End-Test-Suite, um den vollständigen und fehlerfreien Eingang der Daten vom gesamten ETL-Prozess in die Zielsysteme zu prüfen.
- Budgetverwaltung von Projekten.
- Management des Projektumfangs und Einhaltung regulatorischer Fristen, um die Anforderungen der Projekt-Stakeholder zu erfüllen.
- Teamleitung und Aufgabenverteilung.
- Definition von Stories und Epics mit agilen Methoden.
- Schulung von Teammitgliedern im Umgang mit den entwickelten Tools.
- Dokumentation und Präsentation der Ergebnisse für Product Owner.
Tech. Stack: Python 3, Hadoop Ecosystem HTP zu CDH, ETL, Terraform, Microsoft Azure Blob Storage, Microsoft Azure Functions, Microsoft Azure Data Factory, Microsoft Azure Synapse Analytics, Microsoft Azure Data Catalog, Microsoft Azure Event Grid, AWS, Data Lake, PEX, CLI, Jenkins, Ansible Playbooks (Infrastructure as Code), Ambari, CI/CD, GitLab, SQL, Hive ORC / External, PySpark, Airflow, DAG, Scrum, Kanban, Agile, Jira, Big Data, Pro-PyCharm, DBeaver, MSSQL, MySQL, Grafana, DataDog, Docker, Linux, Bash, MapReduce, Datenmodellierung (ORM), Json, YAML, SQL-Alchemy
Projektleitung
NORD/LB
- ETL-Prozesse im Hadoop-Cluster entworfen und konzipiert und das Team geleitet.
- Projektbudgets verwaltet.
- Das Projektumfangsmanagement überwacht.
- Dem Team Führung gegeben und neue Mitarbeitende eingearbeitet.
- Stories und Epics mit agilen Methoden definiert.
- Aufgabenverteilung gesteuert.
- Release-Management übernommen.
- Ergebnisse für Product Owner dokumentiert und präsentiert.
Data Engineer
- Eine Python-basierte ETL-Datenpipeline über verschiedene Datenquellen hinweg (z. B. NiFi, Qlik, HBase) für unterschiedliche Produktzonen mit PySpark und Hive entworfen und entwickelt.
DevOps
- Leistung des Hadoop-Clusters gewartet und verbessert.
- Airflow DAGs entworfen und implementiert.
- CI/CD-Pipelines mit Git implementiert.
Tech und Skill Stack: Data Lake, Python, Jupyter Notebook, RStudio, Hadoop Ecosystem, ETL, CI/CD auf GitHub, SQL, Hive ORC / External, PySpark, Airflow, NiFi, Scrum, Agile, Jira, Big Data, Pro-PyCharm, Linux, Bash, MapReduce, Citrix
Data Engineer
Telefonica Germany (O2)
- Weiterentwicklung einer analytischen Datenpipeline auf Basis von Python (ETL, ML-Feature-Preprocessing, Training von ML-Modellen, Monitoring der Ergebnisse), ausgelegt für die Verwaltung von Zeitreihen- oder ereignisbasierten Datensätzen.
- Datenmodellierung für Dimensionen und Fakten.
- Umfangreicher Einsatz von Oracle PL/SQL-Paketen zur Vorbereitung von Datamarts.
- Datenmodellierung mit ORM (Object-Relational Mapping).
- Proof of Concept (POC) für die Nutzung von AWS mit StepFunction, Lambda, S3, Redshift und EC2 für eine cloudbasierte Umsetzung von ETL und Datenspeicherung.
- IaC mit Terraform
- Implementierung von Kafka-Topics für die Live-Stream-Datenpipeline.
Datenanalyse
- Große Datensätze analysiert, um Trends und Verbesserungspotenziale zu erkennen.
- Datenanalysen und Dashboards erstellt, um Erkenntnisse aus den Daten darzustellen.
- Berichte und Präsentationen entwickelt, um Daten-Ergebnisse an Stakeholder zu kommunizieren.
Data Science
- Vorhersagemodelle entwickelt (Neural Network, Random Forest, XGBoost, Linear Regression, Stacked Models), um zukünftige Trends und Verhaltensweisen vorherzusagen (Zeitreihen, Kundendaten).
- Erkenntnisse und Empfehlungen aus Daten an Stakeholder präsentiert.
- Feature Engineering für Machine-Learning-Modelle durchgeführt.
- Machine-Learning-Modelle mit Hilfe von Feature Importance analysiert.
- Dataiku für Prototyping genutzt, POCs für Machine-Learning-Modelle erstellt sowie Features analysiert und verschiedene Methoden und Modelle getestet.
MLOps
- Machine-Learning-Modelle (Neural Network, Random Forest, XGBoost, Linear Regression) produktiv mit AWS Sagemaker, AWS CloudWatch, AWS S3, AWS RedShift, AWS StepFunction, AWS Lambda, AWS Glue eingesetzt.
- Machine-Learning-Modelle in der Produktionsumgebung mit neuen Daten nachjustiert.
- Regelmäßiges Nachtrainieren.
Team Lead
- Projektumfang gesteuert.
- Neue Teammitglieder geführt und eingearbeitet.
- Stories und Epics nach agilen Methoden definiert.
- Aufgaben unter den Teammitgliedern verteilt.
- Ergebnisse dokumentiert und für Product Owner präsentiert.
Tech und Skill Stack: Python, Hadoop Ecosystem, Machine Learning, Supervised Learning, Jupyter Notebook, RStudio, AWS Sagemaker, Terraform, AWS CloudWatch, AWS S3, AWS RedShift, AWS StepFunction, AWS Lambda, AWS Glue, ETL, Kafka, CI/CD auf GitLab, Dataiku, Zeitreihen, Oracle, SQL, Hive, Pandas, PySpark, HBase, Tableau, SCRUM, Kanban, Agile, Jira, BigData, Pro-PyCharm, Anforderungsanalyse, Numpy, Scikit, GridSearch, Anomaly Detection, statistische Modellierung, multivariate Analyse, explorative Datenanalyse, XGBoost, Random Forest, Matplotlib, Seaborn, Linux, Bash, R, RStudio, MapReduce PowerBI, Tableau, Confusion Matrix, Feature Importance, Neural Network, XGBoost, Decision Tree, Time Series, Grid Search, Model Fine Tuning, Random Forests, Logistic Regression, Stacked Models, Models Nachtrainieren, Dataiku, MIFlow, Scikit-Learn, Pandas, Python, Jupyter Notebook
Preisträger [Als Mitglied des ChurnLab-Teams] des People Award 2020 von Telefónica Germany für eine ausgezeichnete Reduzierung der Kundenabwanderung
Senior Data Scientist
Coliquio
Einrichtung und Design des neuen ETL-Systems und DWH. Außerdem Wartung des alten ETL in Python und Entwicklung der Datenbank.
Python, NiFi, MySQL, PostgreSQL, Docker, AWS Glue, SCRUM, GitLab, Matplotlib, Linux, Bash, PowerBI
Webentwickler
Assystem Germany
Entwicklung von Webanwendungen.
NodeJS, React, Git, VSCode, SCRUM
Data Scientist
Assystem Germany
Entwicklung eines Empfehlungssystems für eine Android-Anwendung, um Nutzern zu helfen, die schnellste und bequemste Route (abhängig von Wetter und Verkehr) zu ihrem Ziel zu finden.
Python, Machine Learning, Keras, TensorFlow, Matplotlib, Seaborn, Pandas, Numpy, Microservices, Thrift, NATS, NodeJS, Marathon, Mesos, Cassandra, SCRUM, GitLab
Full Stack Developer
Assystem Germany
Anwendungsentwicklung in MVC mit JEE7 und PrimeFaces.
JEE7 (JPA, JSF, EJB), Primefaces, OmniFaces, Maven, SVN, MySQL, SCRUM, Payara
Full-Stack-Entwickler - Architekt
Bridging IT
Entwicklung eines Proxy-Servers.
Java 8, SCRUM, Eclipse, Tomcat 8, Maven, CXF, JAX-WS, JAX-RS, WSDL, SOAP-UI, SOAP, RESTful, Jira, SAS CI, SUSE Linux Enterprise 12, Shell Scripting, Bash
Backend-Entwickler
Bridging IT
Backend-Entwicklung für die Dokumentenmanagement-Abteilung in JEE 7.
JEE7 (EJB, JPA), SCRUM, Hibernate, JBoss5, Maven, Solid DB, WSDL, XSD, Eclipse, Git, Jira, Mockito, Arquillian, SOAP-UI, SOAP, AXIS II
Softwareberater
ConSol
Softwareentwicklung in einem Client-Server-Projekt mit JEE7 im Backend und AngularJS (als Single-Page-Application) im Frontend.
JEE7, MVC, IntelliJ IDEA, JPA, JSF, MySQL, JPQL, EJB, Maven, Git, AngularJS, JavaScript, NodeJS, Bower, CSS, HTML, Glassfish
Systemingenieur
ISS
Softwareentwicklung im Frontend.
Vaadin 7, Java, Eclipse, JPA, MSSQL, PostgreSQL, JPQL, Hibernate, Maven, Git, Glassfish
Datenbank- und Webentwickler
Jazz & Rock Schools
Datenbankentwicklung von MS Access zu MySQL und Webanwendung mit Vaadin.
Vaadin 7, Java, Eclipse, JPA, MySQL, JPQL, Hibernate, Apache Tomcat 7.4, IvyDE, GitHub
Entwickler
Center for Biosystem Analysis, University of Freiburg
Fehlersuche bei Tivoli Storage Management (IBM Software).
Ubuntu 12.04, Linux, Ubuntu 10.4, TSM, SSH, Bash, Vim
Branchenerfahrung
Sieh, in welchen Branchen dieser Freelancer den Großteil seiner beruflichen Laufbahn verbracht hat.
Erfahren in Pharmazeutika, Informationstechnologie (IT), Telekommunikation, Professionelle Dienstleistungen, Einzelhandel und Bildung.
Erfahrung nach Fachbereich
Zeigt, in welchen Abteilungen und Funktionen dieser Freelancer am meisten mitgewirkt hat.
Erfahren in Informationstechnologie (IT), Projektmanagement, Business Intelligence, Produktentwicklung und Forschung und Entwicklung (F&E).
Fähigkeiten
Data Python, Mlops, Kubernetes, Docker, Aws, Microsoft Azure, Gcp, Bigquery, Terraform, Ansible, Jenkins, Git, Hive, Hdfs, Hadoop, Pig, Datadog, Grafana, Tableau, Powerbi, Sql, Snowflake, Pycharm, Intellij Idea, Vim, Vscode, Dbeaver, Ambari, Mysql, Mssql, Oracle, Pyspark, Spark, Map Reduce, Hive, Orc, Hortonworks, Cloudera, Data Lake, Iaac, Big Data, Nosql, Linux, Bash, Ci/Cd, Kafka, Sas, Nifi, Qlik, Pytest, Black, Pipeline-Automatisierung, Airflow, Dag, Cli, Pex, Data Modeling, Orm, Dataiku, Dwh, Hue, Zeppelin
Docker, Terraform, Ansible, Ci/Cd, Kubernetes, Helm, Argocd, Iaas, Paas, Saas, Vscode, Vim
Tensorflow, Pytorch, Scikit-Learn, Machine Learning, Pandas, Numpy, Seaborn, Matplotlib, Jupyternotebook, Dataiku, Histogramm, Datenanalyse
Agile, Scrum, Kanban, Jira, Confluence, Projektleitung, Story-Definition, Budgetabstimmung, Definition Der Engineering-Roadmap, Analyse Von Projektanforderungen, Microservices, Grpc
Sprachen
Ausbildung
Albert-Ludwigs-Universität Freiburg
MSc. · Angewandte Informatik · Deutschland
Azad University of Najaf-Abad (IAUN)
BEng. · Software Engineering · Najafabad, Iran, Islamische Republik
Zertifikate & Bescheinigungen
Microsoft Azure Data Engineering Certification
Statistiken
Erfahrung
Globale Erfahrung
Fachkenntnisse
Qualifikationen
Profil
Häufig gestellte Fragen
Du hast Fragen? Hier findest du mehr.
Gehalts- / Tagessatzverteilung
Die angegebenen Tagessätze entsprechen der typischen Marktspanne für Freelancer in dieser Position, basierend auf aktuellen Projekten auf unserer Plattform.
Die tatsächlichen Tagessätze können je nach Dienstalter, Erfahrung, Fachkenntnissen, Projektkomplexität und Auftragsdauer variieren.
Durchschnittlicher Tagessatz für ähnliche Positionen
Die Tagessätze basieren auf aktuellen Projekten und enthalten keine FRATCH-Marge.
Der durchschnittliche Tagessatz ist der Mittelwert aller Tagessätze aus aktuellen Verträgen vergleichbarer Freelancer auf unserer Plattform.
Der Median-Tagessatz ist der mittlere Wert aller Tagessätze – die Hälfte der vergleichbaren Freelancer verlangt weniger, die andere Hälfte mehr. Anders als der Durchschnitt wird er von Ausreißern kaum beeinflusst.
Die tatsächlichen Tagessätze können je nach Dienstalter, Erfahrung, Fachkenntnissen, Projektkomplexität und Auftragsdauer variieren.
Ähnliche Freelancer
Entdecke andere Experten mit ähnlichen Qualifikationen und Erfahrungen
Experten, die kürzlich an ähnlichen Projekten gearbeitet haben
Freelancer mit praktischer Erfahrung in vergleichbaren Projekten als Data Engineer
Freelancer in der Nähe
Fachkräfte, die in oder in der Nähe von Taufkirchen, Deutschland arbeiten
