­

浏览器动态显示服务器日志信息集成工具实践

  • 2019 年 10 月 22 日
  • 筆記

这个任务可以完全只有一句命令行就搞定:

tail -f -n 500 /smapp/servers/tomcat/apache-tomcat-7.0.72/logs/catalina.out  

然而 实际上我们的系统是一个超级分布式的系统,单是内网测试环境涉及的服务器达到20+这个量级,于是单是找某一个服务器的地址也成了一个工作负担

我们运维采用了设置一个跳板机来处理这个事儿

登录跳板机——>SSH 登录到指定服务器

中间还得再输一次账号、密码,记服务器名称,记host也是个头疼的工作,这是我制作这样一个工具的原因之一

另外一点,Xshell 还是  WinSCP 都没法对日志信息为所欲为,我在测试调度功能时日志书写很快很快,看了一上午的调度日志,眼睛也痛了。痛定思痛,思前想后还得自己写个工具。

下面言归正传,说一说整体的实现:

1.后端部分

找到想要打印日志的服务器 ,在这个服务器上运行一个websocket进程供前端请求,而这个websocket执行服务器上的一个shell脚本,这个脚本打印我想要的日志

下载一个websocketd 程序到  /usr/local/websocketd 目录,这个程序不需要编译,可以直接运行

创建一个cmd.sh 这个脚本完成打印我们想要日志的工作

#!/bin/bash  while :; do       tail -f -n200 /smapp/servers/tomcat/apache-tomcat-7.0.72/logs/catalina.out 
done

 

命令行运作:

./websocketd --port=8008 --staticdir=. ./cmd.sh

 

这个时候输出的就是打印日志的内容,这里需要注意端口不要与其他进程冲突了

ctrl+C 退出后进程就会结束,但是实际上我们想要这个进程一直一直在运行,所有需要优化下命令行

nohup ./websocketd --port=8008 --staticdir=. ./cmd.sh &

 

运行后不再打印输出,我们可以退出服务器连接,这个进程将会在后台一直跑

2.前端部分

首先得有台网页服务器放我们的导航页面,我找了内网151这台机,找到 /usr/local/nginx/conf 下面的 nginx.conf

添加一个 location 

       location /download {             autoindex on;             alias   /var/www/html/download/;             index  index.html index.htm;  }

 

把导航页放在 

/var/www/html/download/  这个路径下

导航页简陋一点,就是一些超链接,页面如下
<!doctype html>  <html>      <head>          <meta http-equiv="Content-Type" content="text/html"; charset="UTF-8"/>          <title>日志中心</title>          <style type="text/css">          .table1{              width:100%;              border-bottom:1px;              background:#f3f3f3 ;              text-align:center;          }            </style>      </head>      <body>          <div id="test">              <hr>              <p style=" text-align:center;">测试环境专车日志</p>              <hr>                  <table class="table1" cellspacing="1" cellpadding="4" border="1">                  <tr>                      <th>乘客端</th>                      <th>司机端</th>                      <th>调度</th>                      <th>订单</th>                      <th>用户中心</th>                      <th>管理系统</th>                  </tr>                  <tr>                      <th><a href="http://192.168.3.151:9000/download/log/log_PassengerProvider.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/log_driverProvider.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/log_dispatch.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/log_orderProvider.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/log_UserCenterProvider.html" target="_blank">provider</a></th>                      <th></th>                  </tr>                  <tr>                          <th><a href="http://192.168.3.151:9000/download/log/log_gwPassenger.html" target="_blank">gw</a></th>                          <th><a href="http://192.168.3.151:9000/download/log/log_gwDriver.html" target="_blank">gw</a>   <a href="http://192.168.3.151:9000/download/log/log_code_driver.html" target="_blank">验证码</a></th>                          <th><a href="http://192.168.3.151:9000/download/log/visual_dispath.html" target="_blank">调度可视化</a></th>                          <th></th>                          <th><a href="http://192.168.3.151:9000/download/log/log_code.html" target="_blank">验证码</a></th>                          <th></th>                  </tr>                  </table>            </div>          <hr>          <div id = "taxi">              <p style=" text-align:center;">测试环境出租车日志</p>              <hr>              <table class="table1" cellspacing="1" cellpadding="4" border="1">                  <tr>                      <th>乘客端</th>                      <th>司机端</th>                      <th>调度</th>                      <th>订单</th>                      <th>中控</th>                      <th>管理系统</th>                  </tr>                  <tr>                      <th><a href="http://192.168.3.151:9000/download/log/taxi_log_PassengerProvider.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/taxi_log_driverProvider.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/taxi_log_dispatch.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/taxi_log_orderProvider.html" target="_blank">provider</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/taxi_log_centorcontrolprovider.html" target="_blank">provider</a></th>                      <th></th>                  </tr>                  <tr>                          <th><a href="http://192.168.3.151:9000/download/log/taxi_log_gwPassenger.html" target="_blank">gw</a></th>                          <th><a href="http://192.168.3.151:9000/download/log/taxi_log_gwDriver.html" target="_blank">gw</a></th>                          <th><a href="http://192.168.3.151:9000/download/log/visual_taxi_dispath.html" target="_blank">调度可视化</a></th>                          <th></th>                          <th><a href="http://192.168.3.151:9000/download/log/taxi_log_centorcontrolgw.html" target="_blank">gw</a></th>                          <th></th>                  </tr>                  </table>          </div>      <hr>      <div id = "Pre-release">          <p style=" text-align:center;">预发布专车日志</p>          <hr>          <table class="table1" cellspacing="1" cellpadding="4" border="1">              <tr>                  <th>乘客端</th>                  <th>司机端</th>                  <th>调度</th>                  <th>订单</th>                  <th>用户中心</th>                  <th>管理系统</th>              </tr>              <tr>                  <th><a href="http://192.168.3.151:9000/download/log/pre-log_PassengerProvider.html" target="_blank">provider</a></th>                  <th><a href="http://192.168.3.151:9000/download/log/pre-log_driverProvider.html" target="_blank">provider</a></th>                  <th><a href="http://192.168.3.151:9000/download/log/pre-log_dispatch.html" target="_blank">provider</a></th>                  <th><a href="http://192.168.3.151:9000/download/log/pre-log_orderProvider.html" target="_blank">provider</a></th>                  <th><a href="http://192.168.3.151:9000/download/log/pre-log_UserCenterProvider.html" target="_blank">provider</a></th>                  <th></th>              </tr>              <tr>                      <th><a href="http://192.168.3.151:9000/download/log/pre-log_gwPassenger.html" target="_blank">gw</a></th>                      <th><a href="http://192.168.3.151:9000/download/log/pre-log_gwDriver.html" target="_blank">gw</a>   <a href="http://192.168.3.151:9000/download/log/pre-log_code_driver.html" target="_blank">验证码</a></th>                      <th></th>                      <th></th>                      <th><a href="http://192.168.3.151:9000/download/log/pre-log_code.html" target="_blank">验证码</a></th>                      <th></th>              </tr>              </table>      </div>      <hr>      <p style=" text-align:right;">技术支持请联系:老王</p>      <p style=" text-align:right;">QQ:316707959</p>      </body>  </html>

 

实际页面效果

每一个超链接对应着一个html页面,这个html页面读取websocket的输出信息并且显示在网页上,代码如下

<!DOCTYPE html>  <html>  <head>  <title>dispatch-provider实时日志</title>  <meta http-equiv="Content-Type" content="text/html"; charset="UTF-8"/>      <style>          body{              background-color: #0e1012;color: #ffffff;          }          *{              margin: 0; padding: 0;          }          #msg{              overflow:auto; border:2px solid #303030; color:#ffffff; background-color: #2b2b2b; font-size: 15px; position: absolute; left: 8px; right: 8px; bottom: 8px; top: 40px; word-break:  break-all;          }          #log{              position: fixed; top: 0; left: 0; width: 100%; height: 40px; text-align: center; margin: 4px 0 0 8px;          }          #log b{              font-size: 26px;          }          .msgBtn1{              padding: 5px 10px; border: none; background: red; float: right; margin: 0 16px 0 0;          }      </style>  </head>  <body>      <div id="log"><span><b>测试环境dispatch-provider实时日志</b></span>          <button id="msgBtn" class="msgBtn1" type="button" >清空</button>          <button id="msgBtn_pause" class="msgBtn1" type="button" onclick="msgBtn_pause_click()">暂停</button>          <button id="startBtn" class="msgBtn1" type="button"          style="float: left" onclick="start_click()" >启动</button>          <button id="shutdownBtn" class="msgBtn1" type="button"          style="float: left" onclick="shutdown_click()" >关闭</button>          <button id="msgBtn_check_y" class="msgBtn1"           style="background:yellow;color:red" type="button" onclick="msgBtn_check_y_click()">高亮监控:黄</button>          <button id="msgBtn_check_b" class="msgBtn1"           style="background: blue;color:white" type="button" onclick="msgBtn_check_b_click()">高亮监控:蓝</button>      </div>      <div id="msg">          <ul class="list"></ul>      </div>      <script src="http://libs.baidu.com/jquery/1.9.1/jquery.min.js"></script>      <script>       var sw = 0;       var check_str_y =  localStorage.y;       var check_str_back_y =null;       var check_str_b = localStorage.b;       var check_str_back_b =null;       var but_pause = document.getElementById("msgBtn_pause");          $(document).ready(function() {                if (!window.WebSocket) {                  if (window.MozWebSocket) {                      window.WebSocket = window.MozWebSocket;                  } else {                      $('#msg').append("<p>你的浏览器不支持websocket</p>");                  }              }              var ws = new WebSocket('ws://10.28.17.190:8008/websocket/');              ws.onopen = function(evt) {                  $('.list').append('<li>连接成功,开始读取日志内容</li>');              }              ws.onmessage = function(evt) {  				if(evt.data.indexOf("ERROR") != -1 || evt.data.indexOf("Exception") != -1)                  {                      $('.list').append('<li style="color: yellow;background-color:red;font-size: 18px ">' + evt.data + '</li>');                  }                  else                  {  				if(evt.data.indexOf("at") != 1)  					{                          if(evt.data.indexOf(check_str_y) != -1||evt.data.indexOf(check_str_b) != -1)                          {                              if(evt.data.indexOf(check_str_y) != -1)                                  {                                  $('.list').append('<li style="color: red;background-color:yellow;font-size: 18px ">' + evt.data + '</li>');                                  }                              if(evt.data.indexOf(check_str_b) != -1)                                  {                                      $('.list').append('<li style="color: white;background-color:blue;font-size: 18px ">' + evt.data + '</li>');                                  }                          }                          else                          {                              $('.list').append('<li>' + evt.data + '</li>');                          }  					}                  }                  if(sw==0)                  {                  setTimeout(function(){                      $('#msg').scrollTop($('.list').height()-$('#msg').height());                  },                  100)                  }              }              $("#msgBtn").click(function(){                  $(".list").html("");              })            });          function msgBtn_pause_click(){              if(but_pause.innerText =="暂停")              {                  but_pause.innerText ="继续";                  but_pause.style = "background:green";                  sw = 1;              }              else              {                  but_pause.innerText ="暂停";                  but_pause.style = "background:red";                  sw = 0;              }             }             function msgBtn_check_b_click(){                 check_str_back_b =check_str_b;                 check_str_b = prompt("请输入需要高亮显示的文本行关键字:",check_str_b);                 if(check_str_b == null)                 {                  check_str_b = check_str_back_b;                 }                  localStorage.setItem('b',check_str_b);             }             function msgBtn_check_y_click(){                 check_str_back_y =check_str_y;                 check_str_y = prompt("请输入需要高亮显示的文本行关键字:",check_str_y);                 if(check_str_y == null)                 {                  check_str_y = check_str_back_y;                 }                 localStorage.setItem('y',check_str_y);             }             function start_click(){              var ws2 = new WebSocket('ws://10.28.17.190:8019/websocket/');             }             function shutdown_click(){              var ws3 = new WebSocket('ws://10.28.17.190:8029/websocket/');             }      </script>  </body>  </html>  

  实际效果如下:

 

 

在读取到websocket返回的信息后,我可以对信息进行各种各样我们想要的操作,过滤无用信息,标注重要信息,可以说是进退自如、为所欲为
这里我还加入了关键字的高亮监控,需要高亮显示的信息保存在本里缓存里,关闭、刷新浏览器也不会清除到这个内容,这个功能在日志书写较快,而关键信息稍纵即逝的场景里非常实用