製品をチェック

Google Data Catalog Connector の30日間無償トライアルをダウンロード

 30日間の無償トライアルへ

製品の詳細

Google Data Catalog アイコン Google Data Catalog Python Connector 相談したい

Google Data Catalog データ連携用のPython コネクタライブラリ。Google Data Catalog データをpandas、SQLAlchemy、Dash、petl などの人気のPython ツールにシームレスに統合。

Python pandas を使ってGoogle Data Catalog データを可視化・分析する方法

CData Python Connector を使えば、Python でGoogle Data Catalog をpandas などのライブラリで呼び出してデータ分析や可視化を実行できます。

加藤龍彦
デジタルマーケティング

最終更新日:2023-09-23
googledatacatalog ロゴ

CData

python ロゴ画像
Python ロゴ

こんにちは!ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。

Python エコシステムには多くのライブラリがあり、開発やデータ分析を行う際には必須と言っていいライブラリも多く存在します。CData Python Connector for GoogleDataCatalog は、pandas、Matplotlib、SQLAlchemy から使用することで Google Data Catalog にデータ連携するPython アプリケーションを構築したり、Google Data Catalog データの可視化を実現します。本記事では、pandas、SQLAlchemy、およびMatplotlib のビルトイン機能でGoogle Data Catalog にリアルタイムアクセスし、クエリを実行して結果を可視化する方法を説明します。

CData Python Connectors の特徴

CData Python Connectors は、以下のような特徴を持った製品です。

  1. Google Data Catalog をはじめとする、CRM、MA、会計ツールなど多様なカテゴリの270種類以上のSaaS / オンプレデータソースに対応
  2. pandas をはじめとする多様なデータ分析・BI ツールにGoogle Data Catalog データを連携
  3. ノーコードでの手軽な接続設定

CData Python Connectors では、1.データソースとしてGoogle Data Catalog の接続を設定、2.Python からPython Connectors との接続を設定、という2つのステップだけでデータソースに接続できます。以下に具体的な設定手順を説明します。

以下の手順に従い、必要なライブラリをインストールし、Python オブジェクト経由でGoogle Data Catalog にアクセスします。

必要なライブラリのインストール

pip で、pandas & Matplotlib ライブラリおよび、SQLAlchemy をインストールします。

pip install pandas
pip install matplotlib
pip install sqlalchemy

次にライブラリをインポートします。

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engine

Python でGoogle Data Catalog データを可視化

次は接続文字列を作成してGoogle Data Catalog に接続します。create_engine 関数を使って、Google Data Catalog に連携するEngne を作成します。以下はサンプルの接続文字列になりますので、環境に応じてクレデンシャル部分を変更してください。

engine = create_engine("googledatacatalog:///?ProjectId=YourProjectId&InitiateOAuth=GETANDREFRESH&OAuthSettingsLocation=/PATH/TO/OAuthSettings.txt")

Google Data Catalog 接続プロパティの取得・設定方法

認証プロパティを追加する前に、次の接続プロパティを設定してください。

  • OrganizationId:接続するGoogle Cloud Platform の組織リソースに関連付けられたID。これはGCP コンソールに移動して確認してください。 「プロジェクト」ドロップダウンメニューを開き、リストから組織へのリンクをクリックします。このページから組織ID を取得できます。
  • ProjectId:接続するGCP のプロジェクトリソースに関連付けられたID。GCP コンソールのダッシュボードに移動し、「プロジェクトを選択」のメニューからお好みのプロジェクトを選択して確認してください。プロジェクトID は、「プロジェクト情報」項目に表示されます。

Google Data Catalog への認証

CData 製品は、認証にユーザーアカウント、サービスアカウント、およびGCP インスタンスアカウントの使用をサポートします。

OAuth の設定方法については、ヘルプドキュメントの「OAuth」セクションを参照してください。

Google Data Catalog にアクセスするSQL を実行

pandas のread_sql 関数を使って好きなSQL を発行して、DataFrame にデータを格納します。

df = pandas.read_sql("""SELECT Type, DatasetName FROM Schemas WHERE ProjectId = 'bigquery-public-data'""", engine)

Google Data Catalog データを可視化

DataFrame に格納されたクエリ結果に対して、plot 関数をつかって、Google Data Catalog データをグラフ化してみます。

df.plot(kind="bar", x="Type", y="DatasetName")
plt.show()
Google Data Catalog データ in a Python plot (Salesforce is shown).

Google Data Catalog からPython へのデータ連携には、ぜひCData Python Connector をご利用ください

このようにCData Python Connector と併用することで、270を超えるSaaS、NoSQL データをPython からコーディングなしで扱うことができます。30日の無償評価版が利用できますので、ぜひ自社で使っているクラウドサービスやNoSQL と合わせて活用してみてください。

日本のユーザー向けにCData Python Connector は、UI の日本語化、ドキュメントの日本語化、日本語でのテクニカルサポートを提供しています。



ソースコード

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engin

engine = create_engine("googledatacatalog:///?ProjectId=YourProjectId&InitiateOAuth=GETANDREFRESH&OAuthSettingsLocation=/PATH/TO/OAuthSettings.txt")
df = pandas.read_sql("""SELECT Type, DatasetName FROM Schemas WHERE ProjectId = 'bigquery-public-data'""", engine)

df.plot(kind="bar", x="Type", y="DatasetName")
plt.show()

関連コンテンツ

トライアル・お問い合わせ

30日間無償トライアルで、CData のリアルタイムデータ連携をフルにお試しいただけます。記事や製品についてのご質問があればお気軽にお問い合わせください。