ノーコードでクラウド上のデータとの連携を実現。
詳細はこちら →CData
こんにちは!ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。
Elasticsearch は、人気の分散型全文検索エンジンです。データを一元的に格納することで、超高速検索や、関連性の細かな調整、パワフルな分析が大規模に、手軽に実行可能になります。Elasticsearch にはデータのローディングを行うパイプラインツール「Logstash」があります。CData Drivers を利用することができるので、30日の無償評価版をダウンロードしてあらゆるデータソースを簡単にElasticsearch に取り込んで検索・分析を行うことができます。
この記事では、CData Driver for ExactOnline を使って、Exact Online のデータをLogstash 経由でElasticsearch にロードする手順を説明します。
それでは、Logstash でElasticsearch にExact Online データの転送を行うための設定ファイルを作成していきます。
Exact Online はOAuth 認証標準を使用します。InitiateOAuth 接続プロパティはOAuth フローを容易にします。デフォルトではGETANDREFRESH です。埋め込みクレデンシャルを使用する、またはExact にOAuth アプリを登録して独自のクレデンシャルを取得することもできます。 OAuth 値に加え、Region を指定します。Division が設定されない場合は、デフォルトのDivision が使用されます。
詳しくは、ヘルプドキュメントの「はじめに」を参照してください。
input { jdbc { jdbc_driver_library => "../logstash-core/lib/jars/cdata.jdbc.exactonline.jar" jdbc_driver_class => "Java::cdata.jdbc.exactonline.ExactOnlineDriver" jdbc_connection_string => "jdbc:exactonline:Region='United States';Division=5512;InitiateOAuth=REFRESH" jdbc_user => "" jdbc_password => "" schedule => "*/30 * * * * *" statement => "SELECT Name, CreditLinePurchase FROM Accounts" } } output { Elasticsearch { index => "exactonline_Accounts" document_id => "xxxx" } }
それでは作成した「logstash.conf」ファイルを元にLogstash を実行してみます。
> logstash-7.8.0\bin\logstash -f logstash.conf
成功した旨のログが出ます。これでExact Online データがElasticsearch にロードされました。
例えばKibana で実際にElasticsearch に転送されたデータを見てみます。
GET exactonline_Accounts/_search { "query": { "match_all": {} } }
データがElasticsearch に格納されていることが確認できました。
CData JDBC Driver for ExactOnline をLogstash で使うことで、Exact Online コネクタとして機能し、簡単にデータをElasticsearch にロードすることができました。ぜひ、30日の無償評価版をお試しください。