三歩あるけば物も忘れる

お腹のお肉がメタボックル

ユーザ用ツール

サイト用ツール


Aws:ElasticSearch:Pipeline

4.Pipeline

ドキュメントを登録する際に、指定したPluginで指定したFieldを処理する際にPipelineを使います。

大項目

description

Pipelineの説明(詳細割愛)

processors

前処理について記載します。

Pluginの利用

日本語抽出に利用するingest-attachmentを例に記載しています。
https://www.elastic.co/guide/en/elasticsearch/plugins/current/using-ingest-attachment.html
その他のプラグインはプラグインのガイドの記載方に合わせてください。
[“field” : “message”]の部分がdocument登録の際、pluginに渡されるFieldになります。messageはLogstashからESに渡す際のfield

{
  "attachment" : {
    "description" : "Extract attachment information",
    "processors" : [
      {
        "attachment" : {
          "field" : "message",
          "indexed_chars" : -1,
          "properties" : [
            "content",
            "content_type",
            "title",
            "author",
            "keywords",
            "date",
            "content_length",
            "language"
          ]
        }
      }
    ]
  }
}

Processorsの利用

区切り文字で分割するsplitプロセッサを例に記載しています。
https://www.elastic.co/guide/en/elasticsearch/reference/current/split-processor.html
その他のプロセッサはプロセッサのガイドの記載方に合わせてください。

{
  "description": "Extract attachment information",
  "processors": [
    {
      "split": {
        "field": "data",
        "separator": ",",
        "preserve_trailing": true
      }
    }
  ]
}

Aws/ElasticSearch/Pipeline.txt · 最終更新: 2021/06/28 by 127.0.0.1