Aller au contenu

DuckDB et les données spatiales#

📆 Date de publication initiale : 19 décembre 2023

Introduction#

logo DuckDB

Si depuis quelques semaines, vous voyez passer beaucoup de choses sur des sujets comme DuckDB, les fichiers Parquet ou encore les données d’Overture Maps, mais sans trop comprendre de quoi il s’agit, vous êtes au bon endroit !

Commenter cet article


DuckDB c’est quoi ?#

DuckDB est un SGBD (système de gestion de base de données) relationnel principalement écrit en C++ et open source publié souslicence MIT. Le projet a débuté en 2018 et vit beaucoup. Il fait l'objet de releases fréquentes (13 300 étoiles sur GitHub le 09/12/23) et en est à la version 0.9.2.

Ce SGBD a la particularité d'être sous forme de fichier portable (comme les bases GeoPackage, File GeoDatabase d'ESRI ou encore Access MDB) ce qui simplifie les échanges. Cette portabilité présente cependant un défaut : la non rétrocompatibilité entre les différentes versions de DuckDB. Un fichiers produit avec une version de DuckDB ne peut actuellement pas être lu avec une autre version de DuckDB.

Les performances#

Au niveau des performances, DuckDB est particulièrement adapté au traitement des gros volumes de données. Son architecture diffère d'ailleurs sensiblement de SGBDs comme PostgreSQL ou MySQL qui attaquent majoritairement les données par ligne, car DuckDB traite les données en colonnes. La finalité permise : un grand lot de valeurs est traité en une seule opération rapporte le le site officiel de DuckDB : on traite seulement les colonnes utiles à la requête et cela optimise et accélère le temps de réponse. Alors qu'avec une architecture plus traditionnelle, on va venir traiter l'intégralité des données de chaque ligne pour éxécuter la requête.

Comment l’utiliser#

Le support est multi-plateforme (Windows, Linux et MacOS) et DuckDB est utilisable de plusieurs façons via des installations bien documentées. Il y a un CLI si vous êtes un adepte du terminal et de nombreux langages peuvent l'utiliser (parmi lesquels Python, C++, R, Node.js ou encore Rust). Si vous êtes plus à l’aise avec les gestionnaires de base de données avec interface graphique, DBeaver ou DataGrip proposent eux aussi le support des bases de données DuckDB.

Enfin, indépendamment du client de votre choix, DuckDB fonctionne en SQL. Dans la suite de cet article, mes exemples reposeront sur des commandes en utilisant le CLI ou le paquet Python.

Les fonctions spatiales#

Les fonctions spatiales de DuckDB sont rassemblées dans une extension et sont pour la plupart issues de la librairie GEOS. Néanmoins, toutes ne sont pas implémentées nativement dans le cœur de DuckDB. Si vous êtes un habitué des fonctions spatiales de PostGIS vous ne serez pas dépaysé en utilisant les fonctions spatiales du canard : la syntaxe et le nom des fonctions est extrêmement proche.

On retrouve ainsi une bonne soixantaine de fonctions dont la star de la jointure spatiale ST_Intersects(GEOMETRY, GEOMETRY).

Ces fonctions ne sont donc pas natives mais s'implémentent avec un simple INSTALL spatial, qui équivaut (coucou les géomaticien.ne.s) à un CREATE EXTENSION postgis pour obtenir l’extension spatiale PostGIS dans PostgreSQL. À chaque utilisation, cette extension s'appelle par la commande LOAD spatial.

Les formats de données spatiales pris en charge#

Au niveau des formats de données spatiales, beaucoup de choix également. Une cinquantaine sont supportés en lecture ou import dont les classiques Shapefile, GeoJSON, GPX ou encore KML, ainsi que des formats de base de données spatiales comme Spatialite ou GeoPackage. Enfin, pour les OSM addicts, en mode expérimental, DuckDB est capable de lire et intégrer des fichiers PBF (.osm.pbf) via une fonction nommée ST_ReadOSM().

Les colonnes de géométries et la non prise en charge des projections#

Une des particularités des colonnes de géométrie sur DuckDB spatial est l'absence de définition du type de géométrie (contrairement à PostGIS par exemple). Une même colonne de géométrie contiendra aussi bien des points, des lignes, des polygones, etc.

Il y a quand même un hic dans tout ça : une colonne de géométrie n'a pas de système de projection dans sa définition ! Conséquences, il n'y a :

  • pas de définition de projection comme contrainte pour une colonne
  • pas d'attribution d'une projection lors d'un export

Il est bien possible de projeter une géométrie (fonction ST_Transform) mais cela nécessite de connaître l'EPSG de la géométrie source, celle-ci ne sera pas détectée automatiquement et l'information n'est pas portée dans la définition de la colonne.

Il faut définir manuellement (et avec rigueur) vos projections en dehors de DuckDB car il ne les différencie pas. Si cette réflexion tombe sous le sens du point de vue "administrateur de données", les utilisateurs moins avertis peuvent avoir quelques surprises en mélangeant des projections.

Les fichiers Parquet, c'est quoi ?#

logo Parquet

Parquet est un format de fichier open source poussé par la fondation Apache depuis 2013, qui a la particularité de stocker des données avec efficacité... via une architecture en colonne 😉. Il est notamment utilisé pour le big data. À la base, ces « parquet files » étaient utilisés pour l'échange de données et non pour travailler dessus mais les schémas de compression et de codage de données qu'ils mobilisent les rendent très performants pour la gestion massive de données complexes.

Pour aller plus loin#

Sur ce répertoire Github est maintenue une liste de projets, outils, ou ressources développés autour de DuckDB. Petit coup de ❤ pour Harlequin, qui est un IDE pour terminal destiné à l’utilisation de DuckDB et simple d'installation.

Screenshot Harlequin DuckDB

Ailleurs sur DuckDB et le spatial#

La série d'articles de Éric Mauvière sur le même sujet : Interroger des fichiers distants et Butiner des API JSON.

Mark Litwintschik utilise DuckDB et ses fonctions spatiales dans ces articles, on peut en trouver un sur l'exploration du suivi des vols à l'échelle mondiale ou encore les données de Natural Earth.

Enfin un article sur le même thème que l'exemple pratique qui va suivre, l'exploration des données de Overture Maps Foundation avec DuckDB.


Exemple pratique#

Pré requis#

  • L’exécutable DuckDB pour utiliser la CLI :
v0.9.2 3c695d7ba9
Enter ".help" for usage hints.
Connected to a transient in-memory database.
Use ".open FILENAME" to reopen on a persistent database.
D

ou

  • Un environnement Python intégrant le paquet duckdb. DuckDB utilisant de nombreuses dépendances, il est fortement conseillé d’utiliser un environnement virtuel pour éviter les conflits de dépendances.
pip install duckdbInstalling collected packages: duckdb
Successfully installed duckdb-0.9.2

Création d’une base de données, ou l’ouvrir si elle existe déjà#

import duckdb

con = duckdb.connect("./overture_maps-transportation.db")
D .open overture_maps-transportation.db

Installer puis charger l’extension spatiale#

con.sql("INSTALL spatial; LOAD spatial ; LOAD httpfs ;")
D INSTALL spatial ;
D LOAD spatial ;
D LOAD httpfs ;

Importer un CSV et créer la géométrie#

La fonction read_csv_auto nous permet de pouvoir importer un CSV sans avoir à créer la table au préalable. Cette fonction détecte automatiquement la structure du CSV.

con.sql("CREATE TABLE airports AS FROM read_csv_auto('[https://davidmegginson.github.io/ourairports-data/airports.csv](https://davidmegginson.github.io/ourairports-data/airports.csv)', HEADER=True, DELIM=',') ;")
con.sql("ALTER TABLE airports ADD COLUMN the_geom GEOMETRY ;")
con.sql("UPDATE airports SET the_geom = ST_POINT(longitude_deg, latitude_deg) ;")
D CREATE TABLE airports AS FROM read_csv_auto('[https://davidmegginson.github.io/ourairports-data/airports.csv](https://davidmegginson.github.io/ourairports-data/airports.csv)', HEADER=True, DELIM=',') ;
D ALTER TABLE airports ADD COLUMN the_geom GEOMETRY ;
D UPDATE airports SET the_geom = ST_POINT(longitude_deg, latitude_deg) ;

Traiter des données parquet d'Overture Maps avec DuckDB#

Les données d’Overture Maps sont fournies sous forme de fichier Parquet (décrites ici), nous allons donc importer ces données dans une base pour les consulter.

Importer les données dans la base#

Dans cet exemple, on récupère 100 bâtiments aléatoirement ; environ une minute de traitement chez moi.

query_buildings = ("CREATE TABLE buildings AS ( "  
"SELECT type, version, CAST(updatetime as varchar) as updateTime, "
"height, numfloors as numFloors, level, class, "
"ST_GeomFromWKB(geometry) as geometry "
"FROM read_parquet('s3://overturemaps-us-west-2/release/2023-11-14-alpha.0/theme=buildings/type=*/*', hive_partitioning=1) "
"LIMIT 1 ); ")

con.sql(query_admins)
D. CREATE TABLE buildings AS (  
    SELECT type, version, CAST(updatetime as varchar) as updateTime,
    height, numfloors as numFloors, level, class,
    ST_GeomFromWKB(geometry) as geometry
    FROM read_parquet('s3://overturemaps-us-west-2/release/2023-11-14-alpha.0/theme=buildings/type=*/*', hive_partitioning=1)
    LIMIT 1
);

Dans cet autre exemple, on récupère les bâtiments d’une partie de Manhattan en indiquant les coordonnées d’un rectangle (attention requête assez longue)

query_buildings = ("CREATE TABLE buildings AS ( "  
"SELECT type, version, CAST(updatetime as varchar) as updateTime, "
"height, numfloors as numFloors, level, class, "
"ST_GeomFromWKB(geometry) as geometry "
"FROM read_parquet('s3://overturemaps-us-west-2/release/2023-11-14-alpha.0/theme=buildings/type=*/*', hive_partitioning=1) "
"WHERE bbox.minx > -73.9967900 "
"AND bbox.maxx < -73.9967900 "
"AND bbox.miny > 40.7373325 "
"AND bbox.maxy < 40.7373325 ); ")

con.sql(query_admins)
D. CREATE TABLE buildings AS (  
    SELECT type, version, CAST(updatetime as varchar) as updateTime,
        height, numfloors as numFloors, level, class,
    ST_GeomFromWKB(geometry) as geometry
    FROM read_parquet('s3://overturemaps-us-west-2/release/2023-11-14-alpha.0/theme=buildings/type=*/*', hive_partitioning=1)
    WHERE bbox.minx > -73.9967900
        AND bbox.maxx < -73.9967900
        AND bbox.miny > 40.7373325
        AND bbox.maxy < 40.7373325 );

Visualiser les données dans QGIS#

Pour cela, installer le plugin QGIS QDuckDB, en cochant la case Afficher les extensions expérimentales dans l'onglet Paramètres du gestionnaire d'extensions.

qduckdb

Transparence

Attention, cette extension est encore expérimentale (je suis bien placé pour le savoir puisque j'en suis l'un des principaux développeurs 😉). N'hésitez pas à la tester et à nous faire des retours !
J'en profite pour préciser que cet article est une initiative personnelle de ma part. En aucun cas cet article est rédigé ou financé dans le cadre de mes activités chez Oslandia en tant que développeur du plugin.

Convertir les données en un GeoJSON en utilisant DuckDB#

Un des atouts de DuckDB est qu'en plus d’intégrer des données pour les traiter en base, il peut servir d’outil de conversion pour des données Parquet. Exemple : si on me donne des données en Parquet et je souhaite des GeoJSON, DuckDB peut les convertir sans créer de table ni de base !

query_export_buildings = ("COPY ( "  
"SELECT type, version, CAST(updatetime as varchar) as updateTime, "
"height, numfloors as numFloors, level, class, "
"ST_GeomFromWKB(geometry) as geometry "
"FROM read_parquet('s3://overturemaps-us-west-2/release/2023-11-14-alpha.0/theme=buildings/type=*/*', hive_partitioning=1) "
"WHERE bbox.minx > -73.9967900 "
"AND bbox.maxx < -73.9967900 "
"AND bbox.miny > 40.7373325 "
"AND bbox.maxy < 40.7373325 )  "
"TO 'new_york_buildings.geojson' "
" WITH (FORMAT GDAL, DRIVER 'GeoJSON', SRS 'EPSG:4326'); ")

con.sql(query_export_buildings)
D. COPY (
    SELECT type, version, CAST(updatetime as varchar) as updateTime,
        height, numfloors as numFloors, level, class,
        ST_GeomFromWKB(geometry) as geometry
    FROM read_parquet('s3://overturemaps-us-west-2/release/2023-11-14-alpha.0/theme=buildings/type=*/*', hive_partitioning=1)
    WHERE bbox.minx > -73.9967900
        AND bbox.maxx < -73.9967900
        AND bbox.miny > 40.7373325
        AND bbox.maxy < 40.7373325 )  
        TO 'new_york_buildings.geojson'
        WITH (FORMAT GDAL, DRIVER 'GeoJSON', SRS 'EPSG:4326');

💡 Également possible d'exporter en Shapefile, pour cela, il faut remplacer les deux dernières lignes par celles-ci :

) TO 'new_york_buildings.shp'
WITH (FORMAT GDAL, DRIVER 'ESRI Shapefile');

Auteur#

Florent Fougères#

Portrait Florent Fougères

Géographe et Géomaticien de formation issu du Master SIGAT, j'ai commencé ma carrière professionnelle en tant que Géomaticien dans un bureau d'études sur des projets de fibre optique. Désormais, je travaille chez Oslandia en tant que développeur SIG. Je blog ici sur mon temps libre, sans lien avec mon employeur.

Passionné de géographie, de sport et d'informatique, j'aime jouer avec les données géographiques (open source si possible) pour les traiter et les représenter. Je suis actif sur X et Linkedin.

Licence #

Ce contenu est sous licence Creative Commons International 4.0 BY-NC-SA, avec attribution et partage dans les mêmes conditions, sauf dans le cadre d'une utilisation commerciale.
Les médias d'illustration sont potentiellement soumis à d'autres conditions d'utilisation.

Détails

Vous êtes autorisé(e) à :

  • Partager : copier, distribuer et communiquer le matériel par tous moyens et sous tous formats
  • Adapter : remixer, transformer et créer à partir du matériel pour toute utilisation, exceptée commerciale.

Citer cet article :

"DuckDB et les données spatiales" publié par Florent FOUGÈRES sur Geotribu sous CC BY-NC-SA - Source : https://geotribu.fr/articles/2023/2023-12-19_duckdb-donnees-spatiales/

Commentaires

Afin de favoriser les échanges constructifs, merci de préférer le pseudonymat à l'anonymat. Pour rappel, l'adresse mail n'est pas exposée publiquement. Consulter la page sur la confidentialité et les données personnelles.
Une version minimale de la syntaxe markdown est acceptée pour la mise en forme des commentaires.
Propulsé par Isso.

Ce contenu est sous licence Creative Commons BY-NC-SA 4.0 International Pictogramme Creative Commons Pictogramme Creative Commons BY Pictogramme Creative Commons NC Pictogramme Creative Commons SA