kafka和websocket实时数据推送

时间 2019-11-08

标签 kafka websocket 实时数据推送栏目 Kafka 繁體版

原文原文链接

需求

已有Kafka服务，经过kafka服务数据（GPS）落地到本地磁盘（以文本文件存储）。现要根据echarts实现一个实时车辆的地图。javascript

分析

前端实时展示：使用websocket技术，实现服务器端数据推送到前端展示
经过Java的kafka client端获取数据，而且经过websock推送到前端。

websocket

简介

websocket是HTML5开始提供的一种在单位TCP链接上进行全双工通信的协议。在websocket api中，浏览器和服务器只须要作一次握手的动做，而后浏览器和服务器之间就造成了一条快速通道。二者之间就能够数据互相传送。html

开发

服务器端

package com.ykkj.weiyi.socket;
  import org.springframework.stereotype.Component;
  import org.springframework.web.socket.server.standard.SpringConfigurator;
  import javax.websocket.*;
  import javax.websocket.server.ServerEndpoint;
  import java.io.IOException;
  import java.util.concurrent.CopyOnWriteArraySet;

  /** * @ServerEndpoint 注解是一个类层次的注解，它的功能主要是将目前的类定义成一个websocket服务器端, * 注解的值将被用于监听用户链接的终端访问URL地址,客户端能够经过这个URL来链接到WebSocket服务器端 */
  @ServerEndpoint(value = "/websocket")
  public class CommodityServer {
      //静态变量，用来记录当前在线链接数。应该把它设计成线程安全的。
      private static int onlineCount = 0;

      //concurrent包的线程安全Set，用来存放每一个客户端对应的MyWebSocket对象。若要实现服务端与单一客户端通讯的话，可使用Map来存放，其中Key能够为用户标识
      public static CopyOnWriteArraySet<CommodityServer> webSocketSet = new CopyOnWriteArraySet<CommodityServer>();

      //与某个客户端的链接会话，须要经过它来给客户端发送数据
      private Session session;

      /** * 链接创建成功调用的方法 * * @param session 可选的参数。session为与某个客户端的链接会话，须要经过它来给客户端发送数据 */
      @OnOpen
      public void onOpen(Session session) {
          this.session = session;
          webSocketSet.add(this);     //加入set中
          addOnlineCount();           //在线数加1
          System.out.println("有新链接加入！当前在线人数为" + getOnlineCount());
      }

      /** * 链接关闭调用的方法 */
      @OnClose
      public void onClose() {
          webSocketSet.remove(this);  //从set中删除
          subOnlineCount();           //在线数减1
          System.out.println("有一链接关闭！当前在线人数为" + getOnlineCount());
      }

      /** * 收到客户端消息后调用的方法 * * @param message 客户端发送过来的消息 * @param session 可选的参数 */
      @OnMessage
      public void onMessage(String message, Session session) {
          System.out.println("来自客户端的消息:" + message);
          //群发消息
          for (CommodityServer item : webSocketSet) {
              try {
                  item.sendMessage(message);
              } catch (IOException e) {
                  e.printStackTrace();
                  continue;
              }
          }
      }

      /** * 发生错误时调用 * * @param session * @param error */
      @OnError
      public void onError(Session session, Throwable error) {
          System.out.println("发生错误");
          error.printStackTrace();
      }

      /** * 这个方法与上面几个方法不同。没有用注解，是根据本身须要添加的方法。 * * @param message * @throws IOException */
      public void sendMessage(String message) throws IOException {
          this.session.getBasicRemote().sendText(message);
          //this.session.getAsyncRemote().sendText(message);
      }

      public static synchronized int getOnlineCount() {
          return onlineCount;
      }

      public static synchronized void addOnlineCount() {
          CommodityServer.onlineCount++;
      }

      public static synchronized void subOnlineCount() {
          CommodityServer.onlineCount--;
      }
  }
复制代码

前端前端

<!DOCTYPE html>
<html>
<head>
    <title>Java后端WebSocket的Tomcat实现</title>
</head>
<body>
Welcome<br/><input id="text" type="text"/>
<button onclick="send()">发送消息</button>
<hr/>
<button onclick="closeWebSocket()">关闭WebSocket链接</button>
<hr/>
<div id="message"></div>
</body>

<script type="text/javascript"> var websocket = null; //判断当前浏览器是否支持WebSocket if ('WebSocket' in window) { websocket = new WebSocket("ws://localhost:8081/onepic/websocket"); } else { alert('当前浏览器 Not support websocket') } //链接发生错误的回调方法 websocket.onerror = function () { setMessageInnerHTML("WebSocket链接发生错误"); }; //链接成功创建的回调方法 websocket.onopen = function () { setMessageInnerHTML("WebSocket链接成功"); } //接收到消息的回调方法 websocket.onmessage = function (event) { setMessageInnerHTML(event.data); } //链接关闭的回调方法 websocket.onclose = function () { setMessageInnerHTML("WebSocket链接关闭"); } //监听窗口关闭事件，当窗口关闭时，主动去关闭websocket链接，防止链接还没断开就关闭窗口，server端会抛异常。 window.onbeforeunload = function () { closeWebSocket(); } //将消息显示在网页上 function setMessageInnerHTML(innerHTML) { document.getElementById('message').innerHTML += innerHTML + '<br/>'; } //关闭WebSocket链接 function closeWebSocket() { websocket.close(); } //发送消息 function send() { var message = document.getElementById('text').value; websocket.send(message); } </script>
</html>
复制代码

测试

注意点

webSocketSet设置为全局静态变量，为其余类提供调用java

public static CopyOnWriteArraySet<CommodityServer> webSocketSet = new CopyOnWriteArraySet<CommodityServer>();
复制代码

服务端都是用注解实现的 @ServerEndpoint @OnOpen @OnClose @OnMessage @OnErrorgit
Tomcat7.0.47以上版本支持websocket1.0github

pom中添加jar支持web

<dependency>
    <groupId>javax</groupId>
    <artifactId>javaee-api</artifactId>
    <version>7.0</version>
    <scope>provided</scope>
</dependency>
复制代码

Kafka

简介

Kafka是一个分布式的、可分区的、可复制的消息系统。spring

开发

window系统搭建kafka环境，请参照个人《 kafka环境搭建(windows) 》笔记apache

kafka client for java

package com.ykkj.weiyi.socket;

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;

import java.io.IOException;
import java.util.Arrays;
import java.util.Properties;
import static com.ykkj.weiyi.socket.CommodityServer.webSocketSet;

public class ConsumerKafka extends Thread {
    private KafkaConsumer<String, String> consumer;
    private String topic = "test.topic";
    public ConsumerKafka() {
    }

    @Override
    public void run() {
        //加载kafka消费者参数
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092");
        props.put("group.id", "ytna");
        props.put("enable.auto.commit", "true");
        props.put("auto.commit.interval.ms", "1000");
        props.put("session.timeout.ms", "15000");
        props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        //建立消费者对象
        consumer = new KafkaConsumer<String, String>(props);
        consumer.subscribe(Arrays.asList(this.topic));
        //死循环，持续消费kafka
        while (true) {
            try {
                //消费数据，并设置超时时间
                ConsumerRecords<String, String> records = consumer.poll(100);
                //Consumer message
                for (ConsumerRecord<String, String> record : records) {
                    //Send message to every client
                    for (CommodityServer webSocket : webSocketSet) {
                        webSocket.sendMessage(record.value());
                    }

                }
            } catch (IOException e) {
                System.out.println(e.getMessage());
                continue;
            }
        }
    }

    public void close() {
        try {
            consumer.close();
        } catch (Exception e) {
            System.out.println(e.getMessage());
        }
    }

    //供测试用，若经过tomcat启动需经过其余方法启动线程
    public static void main(String[] args) {
        ConsumerKafka consumerKafka = new ConsumerKafka();
        consumerKafka.start();
    }
}

复制代码

注意topic 和 bootstrap.servers配置bootstrap

调用类

package com.ykkj.weiyi.socket;

  public class RunThread {
      public RunThread() {
          ConsumerKafka kafka = new ConsumerKafka();
          kafka.start();
      }
  }
复制代码

web.xml 配置

<listener>
	<listener-class>com.ykkj.weiyi.socket.RunThread</listener-class>
 </listener>
复制代码

测试

注意点

ConsumerKafka 须要在web.xml中配置监听，否则在ConsumerKafka 类中不能获取webSocketSet变量
引用webSocketSet变量方式import static com.ykkj.weiyi.socket.CommodityServer.webSocketSet;
注意topic 和 bootstrap.servers配置

结束语

这里只是作了技术验证，尚未真正实现。真实场景下，kafka获取到的数据须要进行数据清洗，把不符合当前规范的数据清洗掉，而且按照前端展现须要的格式组装数据。

参考网上资料

https://blog.csdn.net/lw_ghy/article/details/73252904

https://blog.csdn.net/liu857279611/article/details/70157012