# PostgreSQL・MS SQL・BigQueryのデータウェアハウス100個を運用

主にGIS・時系列データを扱うPostgreSQL、MS SQL、Google BigQueryのデータウェアハウス100個を設計・構築・管理し、性能と拡張性を最適化した。

2022 – 2024

**状況.** 急成長する技術企業で、PostgreSQL、Microsoft SQL Server、Google BigQueryにまたがる100個以上の多様なデータベースを構築・管理・最適化する必要があった。主な対象は、空間座標や位置に基づく分析などのGISデータと、センサー値、ログ、リアルタイム指標などの時系列データだった。データ量が指数関数的に増えるなか、既存インフラには拡張性、クエリ性能、データの一貫性の課題があった。信頼性を確保し、運用費用を抑える堅実な設計が必要だった。

**課題.** GIS・時系列データに適した、拡張可能で高性能なデータウェアハウス環境を設計・実装・管理することが主目的だった。具体的には次を含んだ:
- 複雑な空間・時間クエリの性能上のボトルネックに対応する。
- 費用対効果を保ちながら、増えるデータ量に対応する拡張性を確保する。
- データサイエンティストやプロダクトマネージャーなどと部門横断で協働し、設計を業務ニーズに合わせる。

**行動.** 目標に向け、次を実施した:
1. 拡張可能な設計:
  - PostgreSQLとSQL Serverに正規化・非正規化スキーマを作成し、PostgreSQLのPostGISなどの空間インデックスと時系列パーティションで性能を最適化した。
  - BigQueryの時間パーティション・クラスタ化テーブルで、大規模時系列データを効率的に扱った。
2. 最適化方針の実装:
  - インデックス、マテリアライズドビュー、キャッシュで、GIS・時系列クエリの遅延を減らした。
  - BigQueryにデータ圧縮と列指向保存を適用し、保存費用とスキャン時間を削減した。
3. 異なる基盤間の連携:
  - GIS・時系列データモデリングの適切な実務慣行を記録し、今後のプロジェクトの指針とした。

**結果.** 取り組みにより、次の改善を得た:
- 性能: GIS・時系列のクエリ応答時間を40–60%減らし、分析と判断を迅速化した。
- 運用の信頼性: 自動監視で停止時間を50%削減し、標準化した工程でチームの生産性を高め、誤りを減らした。
- 事業への効果: 最適化した基盤によってリアルタイム分析ダッシュボードなどの新しいデータ製品を公開でき、データガバナンスに関する規制要件への対応も可能になった。

複雑なデータ課題に対応する組織の力を確かなものにした。

---

- 役割: データベースエンジニア
- カテゴリー: [プラットフォーム設計](https://engineer.company/ja/categories/platform-architecture/), [データベース](https://engineer.company/ja/categories/databases/), [PostgreSQL](https://engineer.company/ja/categories/postgresql/), [SQL](https://engineer.company/ja/categories/sql/), [データウェアハウス](https://engineer.company/ja/categories/data-warehousing/), [データエンジニアリング](https://engineer.company/ja/categories/data-engineering/), [データガバナンス](https://engineer.company/ja/categories/data-governance/), [信頼性・バックアップ](https://engineer.company/ja/categories/reliability/), [性能改善](https://engineer.company/ja/categories/performance/), [GIS・地理空間情報](https://engineer.company/ja/categories/gis/)
- サービス: [GIS・地理空間ソリューション](https://engineer.company/ja/services/gis-geospatial/), [データベース設計・モデリング](https://engineer.company/ja/services/database-design/), [データベース管理（DBA）](https://engineer.company/ja/services/database-administration/), [データベース性能改善](https://engineer.company/ja/services/database-performance/), [データウェアハウス設計](https://engineer.company/ja/services/data-warehousing/)

<https://engineer.company/ja/portfolio/ran-100-postgresql-ms-sql-bigquery-warehouses/>
