RapidMiner からHDFS のデータに連携

こんにちは！ドライバー周りのヘルプドキュメントを担当している古川です。

この記事では、CData JDBC Driver for HDFS をRapidMiner のプロセスと簡単に統合する方法を示します。この記事では、CData JDBC Driver for HDFS を使用してHDFS をRapidMiner のプロセスに転送します。

RapidMiner のHDFS にJDBC Data Source として接続する

以下のステップに従ってHDFS へのJDBC 接続を確認できます。

1. HDFS 用の新しいデータベースドライバーを追加します。［Connections］->［Manage Database Drivers］とクリックします。
2. 表示されるウィザードで［Add］ボタンをクリックし、接続に名前を入力します。
3. JDBC URL のプレフィックスを入力します。 jdbc:hdfs:
4. インストールディレクトリのlib サブフォルダにあるcdata.jdbc.hdfs.jar ファイルにパスを入力して下さい。
5. ドライバークラスを入力します。 cdata.jdbc.hdfs.HDFSDriver
6. 新しいHDFS 接続を作成します。［Connections］->［Manage Database Connections］とクリックします。
7. 接続の名前を入力します。
8. データベースシステムの場合は、以前構成したHDFS ドライバーを選択します。
9. Host ボックスで接続文字列を入力します。

   HDFS 接続プロパティの取得・設定方法

   HDFS への認証には、次の接続プロパティを設定します。

   • Host：HDFS インスタンスのホストに設定してください。
   • Port: HDFS インスタンスのポートに設定してください。デフォルトのポートは"50070" です。

   ビルトイン接続文字列デザイナ

   JDBC URL の構成については、HDFS JDBC Driver に組み込まれている接続文字列デザイナを使用してください。JAR ファイルのダブルクリック、またはコマンドラインからJAR ファイルを実行します。

   java -jar cdata.jdbc.hdfs.jar

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   以下は一般的な接続文字列です。

   Host=sandbox-hdp.hortonworks.com;Port=50070;Path=/user/root;User=root;
10. 必要であればユーザー名とパスワードを入力します。

プロセス内の様々なRapidMiner オペレーターとのHDFS 接続を使用できます。HDFS を取得するには、［Operators］ビューから［Retrieve］をドラッグします。 ［Retrieve］オペレータを選択した状態で、［repository entry］の横にあるフォルダアイコンをクリックして［Parameters］ビューで取得するテーブルを定義できます。表示されるRepository ブラウザで接続ノードを展開し、目的のサンプルセットを選択できます。

最後に、［Retrieve］プロセスから結果に出力をワイヤリングし、プロセスを実行してHDFS を確認します。