Apache Spark でSAP Ariba Procurement データをSQL で操作する方法

こんにちは！リードエンジニアの杉本です。

Apache Spark は大規模データ処理のための高速エンジンです。CData JDBC Driver for SAPAribaProcurement と組み合わせると、Spark はリアルタイムでSAP Ariba Procurement データに連携して処理ができます。本記事では、Spark シェルに接続してSAP Ariba Procurement をクエリする方法について解説します。

CData JDBC Driver は、最適化されたデータ処理がドライバーに組み込まれているため、リアルタイムSAP Ariba Procurement と対話するための高いパフォーマンスを提供します。SAP Ariba Procurement に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計など、サポートされているSQL操作を直接SAP Ariba Procurement にプッシュし、組込みSQL エンジンを使用してサポートされていない操作（SQL 関数やJOIN 操作）をクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータ型を使用してSAP Ariba Procurement を操作して分析できます。

CData JDBC Driver for SAPAribaProcurement をインストール

まずは、本記事右側のサイドバーからSAPAribaProcurement JDBC Driver の無償トライアルをダウンロード・インストールしてください。30日間無償で、製品版の全機能が使用できます。

Spark Shell を起動してSAP Ariba Procurement データに接続

1. ターミナルを開き、Spark shell でCData JDBC Driver for SAPAribaProcurement JAR file をjars パラメータに設定します: $ spark-shell --jars /CData/CData JDBC Driver for SAPAribaProcurement/lib/cdata.jdbc.saparibaprocurement.jar
2. Shell でJDBC URL を使ってSAP Ariba Procurement に接続し、SQL Context load() function でテーブルを読み込みます。

   SAP Ariba Procurement に接続するには以下を設定します。

   • ANID：Ariba Network ID。
   • API：本製品にSAP Ariba データを取得させたいAPI を指定。ビジネスロールに基づき、Buyer またはSupplier API を選択します（可能な値は、PurchaseOrdersBuyerAPIV1、または PurchaseOrdersSupplierAPIV1 です）。
   • Environment：接続先がテスト環境か本番環境かを指定（可能な値は、TEST またはPRODUCTION です）。

   OAuth 認証

   接続プロパティを設定した後、認証のためにOAuth 接続を設定する必要があります。

   • AuthScheme をOAuthClient に設定します。
   • サービスにアプリケーションを登録し、APIKey、OAuthClientId、およびOAuthClientSecret を取得する必要があります。

     OAuth アプリケーションの作成について、詳しくはヘルプドキュメントを参照してください。

   OAuth の自動リフレッシュ

   以下を設定して、接続してください。

   • APIKey：アプリケーション設定のApplication key。
   • OAuthClientId：アプリケーション設定のOAuth Client Id。
   • OAuthClientSecret：アプリケーション設定のOAuth Secret。

   接続すると、本製品は自動でOAuth プロセスを完了します。

   1. 本製品はSAP Ariba からアクセストークンを取得し、それを使ってデータをリクエストします。
   2. 本製品はアクセストークンの期限が切れると自動的にリフレッシュします。
   3. TOAuth 値はOAuthSettingsLocation で指定された場所に基づいてメモリに保存されます。

   組み込みの接続文字列デザイナー

   JDBC 接続文字列URL の作成には、SAP Ariba Procurement JDBC Driver にビルトインされたデザイナを使用できます。JAR ファイルをダブルクリックするか、コマンドラインでJAR ファイルを実行するとデザイナが開きます。

   java -jar cdata.jdbc.saparibaprocurement.jar

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   scala> val saparibaprocurement_df = spark.sqlContext.read.format("jdbc").option("url", "jdbc:saparibaprocurement:ANID=AN02000000280;API=PurchaseOrdersBuyerAPI-V1;APIKey=wWVLn7WTAXrIRMAzZ6VnuEj7Ekot5jnU;AuthScheme=OAuthClient;").option("dbtable","Orders").option("driver","cdata.jdbc.saparibaprocurement.SAPAribaProcurementDriver").load()
3. 接続が完了し、データがロードされたら、テーブルスキーマが表示されます。

4. SAP Ariba Procurement をテンポラリーテーブルとして登録します:

   scala> saparibaprocurement_df.registerTable("orders")

5. データに対して、次のようなカスタムSQL クエリを実行します。

   scala> saparibaprocurement_df.sqlContext.sql("SELECT DocumentNumber, Revision FROM Orders WHERE OrderStatus = CHANGED").collect.foreach(println)

   コンソールで、次のようなSAP Ariba Procurement データを取得できました！これでSAP Ariba Procurement との連携は完了です。

CData JDBC Driver for SAPAribaProcurement をApache Spark で使って、SAP Ariba Procurement に対して、複雑かつハイパフォーマンスなクエリを実行できます。30日の無償評価版 をダウンロードしてぜひお試しください。