Yahoo! JAPAN DATA SOLUTION のデータをPowerShell でMySQL にレプリケーションする方法

こんにちは！ドライバー周りのヘルプドキュメントを担当している古川です。

CData Cmdlets for YahooDS を使えば、PowerShell からYahoo! JAPAN DATA SOLUTION のデータ データにリアルタイムで連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for YahooDS およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でYahoo! JAPAN DATA SOLUTION への接続を行います。レプリケーションは4つのステップがあります。

認証するには、次のプロパティを指定する必要があります。

• AppID：アプリケーションID は認証に使用されます。取得するには、Yahoo! JAPAN データソリューションのサポートチームにリクエストを送信してください。

Yahoo! JAPAN DATA SOLUTION のデータの取得

1. モジュールのインストール:

   Install-Module YahooDSCmdlets

2. Yahoo! JAPAN DATA SOLUTION への接続:

   $yahoods = Connect-YahooDS -AppID $AppID

3. 取得ターゲットのリソースの取得:

   $data = Select-YahooDS -Connection $yahoods -Table "SearchRanking"

   Invoke-YahooDS cmdlet を使って、SQL-92 クエリを使用することもできます:

   $data = Invoke-YahooDS -Connection $yahoods -Query 'SELECT * FROM SearchRanking WHERE SearchKeyword = @SearchKeyword' -Params @{'@SearchKeyword'='yahoo'}

4. 戻り値からカラム名のリストを保存します。

   $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

Yahoo! JAPAN DATA SOLUTION のデータをMySQL データベースにレプリケーション

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

1. モジュールのインストール:

   Install-Module MySQLCmdlets

2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

   $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port

3. Yahoo! JAPAN DATA SOLUTION、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、Yahoo! JAPAN DATA SOLUTION のリソース（SearchRanking）と同じテーブル名を持っている必要があります。

   $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "SearchRanking" -Columns $columns -Values $values }

次回以降のレプリケーションをシンプルに実現

• 一度PowerShell でYahoo! JAPAN DATA SOLUTION とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

  Select-YahooDS -Connection $yahoods -Table "SearchRanking" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "SearchRanking" -Columns $columns -Values $values }

• 別のPowerShell モジュールで、Yahoo! JAPAN DATA SOLUTION を別のデータベースに複製する場合、Select-YahooDS cmdlet のデータから、カラム、接続およびテーブルを除外しておきましょう。これらのデータはデータ移動のときだけ必要となるためです。

  $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}

おわりに

これで、Yahoo! JAPAN DATA SOLUTION のデータをMySQL に複製できました。分析、BI などでYahoo! JAPAN DATA SOLUTION のデータをMySQL から使うことができるようになります。