Apache Spark でSAP Ariba Source データをSQL で操作する方法

こんにちは！リードエンジニアの杉本です。

Apache Spark は大規模データ処理のための高速エンジンです。CData JDBC Driver for SAPAribaSource と組み合わせると、Spark はリアルタイムでSAP Ariba Source データに連携して処理ができます。本記事では、Spark シェルに接続してSAP Ariba Source をクエリする方法について解説します。

CData JDBC Driver は、最適化されたデータ処理がドライバーに組み込まれているため、リアルタイムSAP Ariba Source と対話するための高いパフォーマンスを提供します。SAP Ariba Source に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計など、サポートされているSQL操作を直接SAP Ariba Source にプッシュし、組込みSQL エンジンを使用してサポートされていない操作（SQL 関数やJOIN 操作）をクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータ型を使用してSAP Ariba Source を操作して分析できます。

CData JDBC Driver for SAPAribaSource をインストール

まずは、本記事右側のサイドバーからSAPAribaSource JDBC Driver の無償トライアルをダウンロード・インストールしてください。30日間無償で、製品版の全機能が使用できます。

Spark Shell を起動してSAP Ariba Source データに接続

1. ターミナルを開き、Spark shell でCData JDBC Driver for SAPAribaSource JAR file をjars パラメータに設定します: $ spark-shell --jars /CData/CData JDBC Driver for SAPAribaSource/lib/cdata.jdbc.saparibasource.jar
2. Shell でJDBC URL を使ってSAP Ariba Source に接続し、SQL Context load() function でテーブルを読み込みます。

   SAP Ariba Source に接続するには、以下を設定します。

   • API：本製品にSAP Ariba データを取得させたいAPI を指定。ビジネスロールに基づき、Supplier、Sourcing Project Management、またはContract API を選択します（可能な値は、SupplierDataAPIWithPaginationV4、SourcingProjectManagementAPIV2、または ContractAPIV1 です）。
   • DataCenter：アカウントのデータがホストされているデータセンター。
   • Realm：アクセスしたいサイト名。
   • Environment：テスト環境、または本番環境のいずれかに指定。（可能な値は、TEST またはPRODUCTION）。

   Supplier Data API またはContract API に接続する場合は、さらに以下を設定します。

   • User：API 呼び出しを行うユーザーのId。
   • PasswordAdapter：認証するUser に関連付けられたパスワード。

   Supplier API に接続している場合は、ProjectId をデータを取得したいソーシングプロジェクトのId に設定します。

   OAuth 認証

   接続プロパティを設定した後、認証のためにOAuth 接続を設定する必要があります。

   • AuthScheme をOAuthClient に設定します。
   • サービスにアプリケーションを登録し、APIKey、OAuthClientId、およびOAuthClientSecret を取得する必要があります。

     OAuth アプリケーションの作成について、詳しくはヘルプドキュメントを参照してください。

   OAuth の自動リフレッシュ

   以下を設定して、接続してください。

   • APIKey：アプリケーション設定のApplication key。
   • OAuthClientId：アプリケーション設定のOAuth Client Id。
   • OAuthClientSecret：アプリケーション設定のOAuth Secret。

   接続すると、本製品は自動でOAuth プロセスを完了します。

   1. 本製品はSAP Ariba からアクセストークンを取得し、それを使ってデータをリクエストします。
   2. 本製品はアクセストークンの期限が切れると自動的にリフレッシュします。
   3. OAuth 値はOAuthSettingsLocation で指定された場所に基づいてメモリに保存されます。

   組み込みの接続文字列デザイナー

   JDBC 接続文字列URL の作成には、SAP Ariba Source JDBC Driver にビルトインされたデザイナを使用できます。JAR ファイルをダブルクリックするか、コマンドラインでJAR ファイルを実行するとデザイナが開きます。

   java -jar cdata.jdbc.saparibasource.jar

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   scala> val saparibasource_df = spark.sqlContext.read.format("jdbc").option("url", "jdbc:saparibasource:API=SupplierDataAPIWithPagination-V4;APIKey=wWVLn7WTAXrIRMAzZ6VnuEj7Ekot5jnU;Environment=SANDBOX;Realm=testRealm;AuthScheme=OAuthClient;").option("dbtable","Vendors").option("driver","cdata.jdbc.saparibasource.SAPAribaSourceDriver").load()
3. 接続が完了し、データがロードされたら、テーブルスキーマが表示されます。

4. SAP Ariba Source をテンポラリーテーブルとして登録します:

   scala> saparibasource_df.registerTable("vendors")

5. データに対して、次のようなカスタムSQL クエリを実行します。

   scala> saparibasource_df.sqlContext.sql("SELECT SMVendorID, Category FROM Vendors WHERE Region = USA").collect.foreach(println)

   コンソールで、次のようなSAP Ariba Source データを取得できました！これでSAP Ariba Source との連携は完了です。

CData JDBC Driver for SAPAribaSource をApache Spark で使って、SAP Ariba Source に対して、複雑かつハイパフォーマンスなクエリを実行できます。30日の無償評価版 をダウンロードしてぜひお試しください。