Logstash-ログの収集

さまざまなサーバーまたはデータソースからのログは、荷送人を使用して収集されます。配送業者は、サーバーにインストールされているLogstashのインスタンスであり、サーバーログにアクセスして、特定の出力場所に送信します。

主に出力をElasticsearchに送信して保存します。Logstashは、次のソースから入力を受け取ります-

  • STDIN
  • Syslog
  • Files
  • TCP/UDP
  • MicrosoftWindowsのイベントログ
  • Websocket
  • Zeromq
  • カスタマイズされた拡張機能

Apache Tomcat7サーバーを使用したログの収集

この例では、ファイル入力プラグインを使用してWindowsにインストールされたApache Tomcat 7サーバーのログを収集し、他のログに送信しています。

logstash.conf

ここで、Logstashは、ローカルにインストールされたApache Tomcat7のアクセスログにアクセスするように構成されています。ファイルプラグインのパス設定では、ログファイルからデータを取得するために正規表現パターンが使用されます。これには名前に「access」が含まれ、apacheタイプが追加されます。これは、一元化された宛先ソースでapacheイベントを他のイベントと区別するのに役立ちます。最後に、出力イベントがoutput.logに表示されます。

input {
   file {
      path => "C:/Program Files/Apache Software Foundation/Tomcat 7.0/logs/*access*"
      type => "apache"
   }
} 
output {
   file {
      path => "C:/tpwork/logstash/bin/log/output.log"
   }
}

Logstashを実行する

次のコマンドを使用して、Logstashを実行できます。

C:\logstash\bin> logstash –f  Logstash.conf

ApacheTomcatログ

Apache TomcatサーバーとそのWebアプリにアクセスします(http://localhost:8080)ログを生成します。ログ内の更新されたデータは、Logstashによってリアルタイムで読み取られ、構成ファイルで指定されているようにoutput.logに格納されます。

Apache Tomcatは、日付に従って新しいアクセスログファイルを生成し、そこでアクセスイベントをログに記録します。私たちの場合、それはlocalhost_access_log.2016-12-24.txtでした。logs ApacheTomcatのディレクトリ。

0:0:0:0:0:0:0:1 - - [
   25/Dec/2016:18:37:00 +0800] "GET / HTTP/1.1" 200 11418
0:0:0:0:0:0:0:1 - munish [
   25/Dec/2016:18:37:02 +0800] "GET /manager/html HTTP/1.1" 200 17472
0:0:0:0:0:0:0:1 - - [
   25/Dec/2016:18:37:08 +0800] "GET /docs/ HTTP/1.1" 200 19373
0:0:0:0:0:0:0:1 - - [
   25/Dec/2016:18:37:10 +0800] "GET /docs/introduction.html HTTP/1.1" 200 15399

output.log

出力イベントで確認できます。タイプフィールドが追加され、イベントがメッセージフィールドに表示されます。

{
   "path":"C:/Program Files/Apache Software Foundation/Tomcat 7.0/logs/
   localhost_access_log.2016-12-25.txt",
   "@timestamp":"2016-12-25T10:37:00.363Z","@version":"1","host":"Dell-PC",
   "message":"0:0:0:0:0:0:0:1 - - [25/Dec/2016:18:37:00 +0800] \"GET /
   HTTP/1.1\" 200 11418\r","type":"apache","tags":[]
}
{
   "path":"C:/Program Files/Apache Software Foundation/Tomcat 7.0/logs/
   localhost_access_log.2016-12-25.txt","@timestamp":"2016-12-25T10:37:10.407Z",
   "@version":"1","host":"Dell-PC",
   "message":"0:0:0:0:0:0:0:1 - munish [25/Dec/2016:18:37:02 +0800] \"GET /
   manager/html HTTP/1.1\" 200 17472\r","type":"apache","tags":[]
}
{
   "path":"C:/Program Files/Apache Software Foundation/Tomcat 7.0/logs/
   localhost_access_log.2016-12-25.txt","@timestamp":"2016-12-25T10:37:10.407Z",
   "@version":"1","host":"Dell-PC",
   "message":"0:0:0:0:0:0:0:1 - - [25/Dec/2016:18:37:08 +0800] \"GET /docs/
   HTTP/1.1\" 200 19373\r","type":"apache","tags":[]
}
{
   "path":"C:/Program Files/Apache Software Foundation/Tomcat 7.0/logs/
   localhost_access_log.2016-12-25.txt","@timestamp":"2016-12-25T10:37:20.436Z",
   "@version":"1","host":"Dell-PC",
   "message":"0:0:0:0:0:0:0:1 - - [25/Dec/2016:18:37:10 +0800] \"GET /docs/
   introduction.html HTTP/1.1\" 200 15399\r","type":"apache","tags":[]
}

STDINプラグインを使用したログの収集

このセクションでは、を使用してログを収集する別の例について説明します。 STDIN Plugin

logstash.conf

これは非常に単純な例であり、Logstashはユーザーが標準入力で入力したイベントを読み取っています。この場合、これはコマンドプロンプトであり、output.logファイルにイベントを保存します。

input {
   stdin{}
}
output {
   file {
      path => "C:/tpwork/logstash/bin/log/output.log"
   }
}

Logstashを実行する

次のコマンドを使用して、Logstashを実行できます。

C:\logstash\bin> logstash –f  Logstash.conf

コマンドプロンプトに次のテキストを入力します-

ユーザーは次の2行を入力しました。Logstashは、区切り文字設定によってイベントを区切り、その値はデフォルトで '\ n'です。ユーザーは、ファイルプラグインの区切り文字の値を変更することで変更できます。

Tutorialspoint.com welcomes you
Simply easy learning

output.log

次のコードブロックは、出力ログデータを示しています。

{
   "@timestamp":"2016-12-25T11:41:16.518Z","@version":"1","host":"Dell-PC",
   "message":"tutrialspoint.com welcomes you\r","tags":[]
}
{
   "@timestamp":"2016-12-25T11:41:53.396Z","@version":"1","host":"Dell-PC",
   "message":"simply easy learning\r","tags":[]
}