Extraire le jeu de données bigquery et la liste des tables avec python et la sortie en CSV

Produit un fichier CSV avec le nom de l'ensemble de données dans la colonne A et le nom de la table dans la colonne B. Le projet cible sera celui qui s'affiche lorsque vous tapez ce qui suit dans le terminal.

gcloud config list

code

import datetime
import pandas as pd
from google.cloud import bigquery

bigquery_data = pd.DataFrame(
    index   = [] ,
    columns = ['dataset','table']
)

client = bigquery.Client()
datasets = list(client.list_datasets())
project = client.project

for dataset in datasets:
    dataset_id = '{}.{}'.format(project , dataset.dataset_id)
    dataset = client.get_dataset(dataset_id)
    tables = list(client.list_tables(dataset))
    for table in tables:
        dataset_table = pd.Series({'dataset' : dataset.dataset_id ,'table' : table.table_id})
        bigquery_data = bigquery_data.append(dataset_table , ignore_index = True)
make_day = datetime.datetime.today().strftime('%Y-%m-%d')
bigquery_data.to_csv('bigquery_data_{}.csv'.format(make_day) , index = False)

Recommended Posts

Extraire le jeu de données bigquery et la liste des tables avec python et la sortie en CSV
Lire JSON avec Python et générer un CSV
Extraire le résultat de la commande TOP avec USER et le sortir au format CSV
En Python, les éléments de la liste sont triés et sortis sous forme d'éléments et de multiples.
Sortie vers un fichier csv avec Python
Lire et écrire du CSV avec Python
Extraire des tables de base de données avec CSV [connexion ODBC de R et python]
Lisez le fichier CSV avec Python et convertissez-le en DataFrame tel quel
Sortie CSV de la recherche Google avec [Python]! 【Facile】
Grattage de la nourriture avec python et sortie en CSV
[Automation] Extraire le tableau en PDF avec Python
Exemple de lecture et d'écriture de CSV avec Python
[Python] Comment nommer les données de table et les sortir avec csv (méthode to_csv)
Extraire "date actuelle uniquement" et "date et heure actuelles" avec python datetime.
Extraire le tableau des fichiers image avec OneDrive et Python
Procédure pour charger MNIST avec python et sortie en png
Un script python qui importe un fichier csv daté dans BigQuery en tant que table de partition de temps
Lisez et analysez l'ensemble de données au format arff avec python scipy.io
[Python] Lire le csv japonais avec des pandas sans caractères déformés (extraire davantage les colonnes écrites en japonais)
entrée et sortie python
Lire le fichier json avec Python, le formater et générer le json
[Python-pptx] Afficher les informations de police PowerPoint au format csv avec python
Initialiser la liste avec python
Obtenez une liste des métriques CloudWatch et une table de correspondance des unités unitaires avec Python boto
[Python] Lisez le fichier csv et affichez la figure avec matplotlib
Résolution avec Ruby et Python AtCoder ABC138 D Liste adjacente
Programmation avec Python et Tkinter
Connectez-vous à BigQuery avec Python
Chiffrement et déchiffrement avec Python
Lire csv avec des pandas python
Python et matériel - Utilisation de RS232C avec Python -
Extraire les données Twitter avec CSV
Essayez la sortie Python avec Haxe 3.2
Écrire en csv avec Python
Liste Python et tapples et virgules
Notation et générateur d'inclusion de liste Python
python avec pyenv et venv
Télécharger le fichier csv avec python
Fonctionne avec Python et R
Extraire les données csv et calculer
[Python] Comment récupérer un fichier html local et le générer au format CSV à l'aide de Beautiful Soup
Faites fonctionner Jupyter avec l'API REST pour extraire et enregistrer le code Python
Comment importer des fichiers CSV et TSV dans SQLite avec Python
Extraire le texte du pdf [python] et lire les caractères à haute voix avec Open-Jtalk
Répertorier les chaînes de fractionnement et de jointure avec fractionnement et jointure (Perl / PowerShell / Java / Kotlin / Python)
Résolution avec Ruby, Python et networkx AtCoder ABC168 D Liste adjacente
[python3] Implémentez facilement la fonction de sortie du journal de débogage avec journalisation et cliquez sur
Exportez le rapport au format PDF à partir de DB avec Python et attachez-le automatiquement à un e-mail et envoyez-le
[Python] Comment créer une liste de types de dictionnaire, ajouter / modifier / supprimer des éléments et extraire avec une instruction for
Communiquez avec FX-5204PS avec Python et PyUSB
Extraire plusieurs doublons de liste en Python
Briller la vie avec Python et OpenCV
Extraire le fichier xz avec python
Robot fonctionnant avec Arduino et python
Installez Python 2.7.9 et Python 3.4.x avec pip.
Différence entre list () et [] en Python
Sortie de la liste du vendredi Premium 2017 en Python
Image en niveaux de gris et enregistrer au format csv
Réseau neuronal avec OpenCV 3 et Python 3
Modulation et démodulation AM avec python