☰

Influx への JSON データを含む Telegraf Tail ファイル

tag-icon • tag-icon json telegraf
Influx への JSON データを含む Telegraf Tail ファイル

JSON データを含むファイルを tail して、JSON データを Influx に抽出するにはどうすればよいですか?

例えば：

私のログは次のようになります:

2020-12-01T18:34:06+02:00 10.132.90.194 {"wfd_successful_hits_sec": "0", "sql_hits_sec_max": "0", "timestamp": "2020/12/01 18:34:01", "connection_sec_max": "1922", "http_hits_sec_max": "1106", "http_hits_sec": "106", "wfd_successful_hits_sec_max": "0", "sql_hits_sec": "0", "sql_audit_phase2_events_sec_max": "0", "hdfs_hits_sec": "0", "connection_sec": "26"}

JSON 部分を抽出して Influx に送信する方法はありますか?

grok パターンが(\{.*\})$JSON 部分を抽出することはわかっています。

私の設定は次のようになります:

[global_tags]
[agent]
  interval = "10s"
  round_interval = true
  metric_batch_size = 1000
  metric_buffer_limit = 10000
  collection_jitter = "0s"
  flush_interval = "10s"
  flush_jitter = "0s"
  precision = ""
  hostname = ""
  omit_hostname = false
[[inputs.tail]]
  files = ["/opt/share/host*log"]
  data_format = "json"
[[outputs.influxdb_v2]]
  urls = ["http://localhost:8086"]
  token = "TOKEN"
  organization = "ORG"
  bucket = "performance_stats

答え1

JSON 出力にタイムスタンプ フィールドが含まれているためです。

rsyslogの設定を変更してsyslogを保存しrawmsg、最初の一致から保存するようにしました。{

$Template tpl,"%rawmsg:R,ERE,0,DFLT:(\{.*)--end%\n"

関連情報