java java8下spark-streaming结合kafka编程(spark 2.3 kafka 0.10)
前面有说道spark-streaming的简单demo,也有说到kafka成功跑通的例子,这里就结合二者,也是常用的使用之一。 1.相关组件版本 首先确认版本,因为跟之前的版本有些不一样,所以才有必要记录...
kafka Spark 2.1.2 Streaming + Kafka 1.1.0 -- 在IDEA中通过Maven创建Spark项目
一、开发环境中需要安装和配置如下安装JDK,配置JDK环境变量(jdk1.8)安装Scala,配置JDK环境变量(scala2.11.8)最好安装一个Maven,虽然Idea已经集成自带的有Maven测试环境中已经安装有Zookeep...
java Kafka学习(三)——Java工具类、Springboot集成批量消费、SparkStreaming集成
前言本次记录全部来自工作学习中,总结和测试。并非生产环境,仅供参考使用! 提示:以下是本篇文章正文内容,下面案例可供参考 一、Java中工具类常用于测试使用~ 1. 添加maven依赖<depen...
CentOS7查看和关闭防火墙
CentOS 7.0默认使用的是firewall作为防火墙 查看防火墙状态 firewall-cmd --state 1 停止firewall systemctl stop firewalld.service 1 禁止firewall开机启动 systemctl disable fi...
linux Linux查看磁盘使用情况命令
一.统计磁盘整体情况,包括磁盘大小,已使用,可用。命令“df” 1.命令"df -lh"使用这个命令会更清楚磁盘使用情况 2.命令"df -a"是全部的文件系统的使用情况 3.命令"df ...
linux 关于linux系统数据盘合并到系统盘(图文教程)
查看一下,当前命令: df -h # df -h Filesystem Size Used...
Zookeeper单机版安装与配置
一、下载安装 1、下载 https://www.apache.org/dyn/closer.lua/zookeeper/zookeeper-3.6.1/apache-zookeeper-3.6.1-bin.tar.gz 2、安装 tar -zxvf apache-zookeeper-3.6.1-bin.tar.gz 3、...
linux Linux配置ntp时间服务器(全)
时间服务器作用: 大数据产生与处理系统是各种计算设备集群的,计算设备将统一、同步的标准时间用于记录各种事件发生时序, 如E-MAIL信息、文件创建和访问时间、数据库处理时间等。 大数据系...
ZooKeeper设置开机启动
1 在init.d目录下新建脚本文件 进入到/etc/rc.d/init.d目录下,命令是: cd /etc/rc.d/init.d 新建一个...