# Gjorde pipelinen för geodata 50 gånger snabbare genom bättre SQL‑programmering och datamodellering i PostgreSQL, MS SQL och Google Cloud BigQuery.

2022 – 2024

**Situation.** Organisationen hade betydande förseningar i bearbetningen av stora mängder geografiska data, vilket påverkade effektiviteten i datadrivna beslutsprocesser och analytisk rapportering.

**Uppgift.** Målet var att optimera pipelinen för geografiska data för att förbättra prestandan och korta bearbetningstiden, så att dataanalyser kunde utföras effektivare och i realtid.

**Handling.** De befintliga strukturerna för SQL‑programmering och datamodellering i PostgreSQL, MS SQL och Google Cloud BigQuery analyserades noggrant, vilket blottlade flaskhalsar i form av ineffektiva indexeringsstrategier, suboptimalt utformade SQL‑frågor och avsaknad av lämpliga integritetsvillkor. För att komma till rätta med problemen:
- Datamodellerna gjordes om för att normalisera kritiska dataset, och partitioneringsstrategier infördes för att korta tiderna för datahämtning.
- Tillämpade avancerade indexeringstekniker, bl.a. B‑tree- och GiST‑index för PostgreSQL, filtrerade index i MS SQL och klustring i BigQuery.
- Optimerade komplexa SQL‑frågor genom att refaktorera underfrågor, minska antalet join‑operationer och använda materialiserade vyer där det var relevant.
- Etablerade integritetsvillkor som främmande nycklar och CHECK‑villkor för att säkerställa datakonsistens utan att ge avkall på prestandan.

**Resultat.** De omfattande optimeringarna gjorde pipelinen för geografiska data 50 gånger snabbare och minskade bearbetningstiden avsevärt. Förbättringen möjliggjorde realtidsanalys, gav bättre rapporteringsmöjligheter och försåg intressenterna med snabba, datadrivna insikter, vilket i slutänden bidrog till bättre underbyggda strategiska beslut.

---

- Roll: Dataingenjör
- Kategorier: [Databaser](https://engineer.company/sv/categories/databases/), [PostgreSQL](https://engineer.company/sv/categories/postgresql/), [SQL](https://engineer.company/sv/categories/sql/), [Datalager](https://engineer.company/sv/categories/data-warehousing/), [Data engineering](https://engineer.company/sv/categories/data-engineering/), [Datapipelines (ETL/ELT)](https://engineer.company/sv/categories/data-pipelines/), [Datastyrning](https://engineer.company/sv/categories/data-governance/), [Prestandaoptimering](https://engineer.company/sv/categories/performance/), [GIS / geodata](https://engineer.company/sv/categories/gis/)
- Tjänster: [GIS- och geodatalösningar](https://engineer.company/sv/services/gis-geospatial/), [Optimering av databasprestanda](https://engineer.company/sv/services/database-performance/), [Utveckling av datapipelines (ETL/ELT)](https://engineer.company/sv/services/data-pipeline-development/), [Design av datalager](https://engineer.company/sv/services/data-warehousing/)

<https://engineer.company/sv/portfolio/accelerated-geographical-data-pipeline-performance-by-50x-by-5/>
