Catalogues - Configurer un connecteur Google Cloud Storage

Dans ce tutoriel, nous allons découvrir comment configurer un connecteur Google Cloud pour importer des données dans Data Fair.

Dans ce cours, nous allons importer un jeu de données depuis un de nos sites. Pour ce faire, vous devrez :

  1. Accedez à votre projet, créez un bucket sur Google Cloud et importez un fichier
  2. Créez un compte service et donnez les droits au compte service
  3. Configurez le connecteur sur Data Fair
  4. Importez un fichier

1. Accédez à votre projet, créez un bucket sur Google Cloud et importez un fichier

Le connecteur Google Cloud Stocrage permet d'acceder aux fichiers d'un bucket d'un projet.

Vous pouvez créer un bucket sur cette page en selectionnant le projet qui vous interesse.

Page des buckets
Créez votre bucket

  1. Selectionnez votre projet
  2. Créer un bucket
Caractéristiques de votre bucket
  1. Renseignez le nom de votre bucket
  2. Finalisez votre bucket

Il est également possible de choisir la région de stockage de vos données lors de ce parcours.

Le nom nouveau-bucket-10 sera utilisé dans la section 3 de configuration du connecteur dans Data Fair.

Chargez des données dans votre bucket

Importez un fichier ou un dossier de votre ordinateur.

Celui-ci sera disponible après l'import :

Fichier importé dans votre bucket

Nous allons configurer un compte services pour avoir accès aux données du bucket.

2. Créez un compte service et donnez les droits au compte service

Sur la page des Comptes de service selectionnez le projet dans lequel est présent votre bucket.

Sélection du projet
Sélectionnez votre projet

Sur la page de création du compte service :

  1. Renseignez le nom du compte service
  2. Cliquez sur Créer et continuer
Configuration d'un compte service
Créez votre compte service

Dans la section Selectionnez un rôle d'Autorisations recherchez et selectionnez l'autorisaions de Lecteur d'objets storage dans la section Cloud Storage.

Autorisation du compte service
Donnez des droits sur votre compte service

Une fois les autorisations séléctionnées, finalisez votre compte de service à l'aide du bouton OK.

Votre compte de service pour le projet est alors créé, vous pouvez créer la clé d'accès JSON à l'aide des Actions sur la ligne correspondante.

Gérez vos clés

Ajoutez Créez une clé ...

Créez une clé JSON

... et sauvegardez le fichier JSON qui est créé.

Format de la clé

Nous possedons la clé au format JSON ainsi que le nom de notre bucket nouveau-bucket-10

3. Configurez le connecteur sur Data Fair


Rendez vous sur la page de création des connecteurs sur Data Fair et créez votre connecteur.

Configuration de votre connecteur
Configuration de votre connecteur

Dans la configuration de votre connecteur

  1. Renseignez le nom de votre connecteur
  2. Renseignez le nom du bucket que vous avez créé
  3. Collez la valeur de la clé que vous avez créé au format JSON { }
  4. Cliquez sur Créer

4. Importez un fichier

Nous allons importez le fichier disponible dans notre bucket.

Sur la page de votre catalogue sur Data Fair, cliquez sur Créer un nouvel import

Page des imports
Bouton pour créer un import

Vous êtes redirigé vers la liste des jeux de données disponibles sur votre bucket.

Sélectionnez le fichier que vous souhaitez importer.

Sélection du fichier

Pour cette dernière étape, vous avez la possibilité de mettre à jour un jeu de données ou de planifier une mise à jour automatique.

Ces étapes ne seront pas abordées dans ce chapitre, vous pouvez donc cliquer sur le bouton Importer.

Page d'imports des jeux de données
Page d'imports des jeux de données

L'import se lance au moment de cliquer sur le bouton importer. L'import peut etre assez long si vous avez choisir un fichier de plusieurs Mo ou Go.

Une fois l'import términé, les étapes d'execution [1] sont disponibles sur la page. Les boutons pour acceder au jeu de données sur Data Fair [2].

Si vous avez des remarques sur ce cours, n'hésitez pas à nous les communiquer.