nginx 基于 Nginx 和 FFmpeg 搭建流媒体服务器
什么是流媒体 流媒体就是将视频文件分成许多小块儿，将这些小块儿作为数据包通过网络发送出去，实现一边传输视频数据 包一边观看视频。 什么是流式传输 客户端通过链接视频服务器实时传输音...
服务端 Hadoop各个服务端口列表
端口 Hadoop集群的各部分一般都会使用到多个端口，有些是daemon之间进行交互之用，有些是用于RPC访问以及HTTP访问。而随着Hadoop周边组件的增多，完全记不住哪个端口对应哪个应用，特收集...
hadoop2 作业执行过程之作业提交
hadoop2.2.0、centos6.5 hadoop任务的提交常用的两种，一种是测试常用的IDE远程提交，另一种就是生产上用的客户端命令行提交 通用的任务程序提交步骤为： 1.将程序打成jar包； 2.将jar包...
hadoop2 作业执行过程之map过程
在执行MAP任务之前，先了解一下它的容器和它容器的领导：container和nodemanager NodeManager NodeManager(NM)是YARN中每个节点上的代理，它管理Hadoop集群中的单个计算节点，包括与Resourc...
yarn作业提交过程以及常用命令
1、yarn简介1、Hadoop1.x版本中最大的问题是资源问题对数据的处理和资源调度主要依赖MapReduce完成，只能运行MapReduce程序JobTracker负责资源管理和程序调度，压力较大2、Hadoop2.x版本添加...
7.hdfs工作流程及机制
1. hdfs基本工作流程 1. hdfs初始化目录结构 hdfs namenode -format 只是初始化了namenode的工作目录而datanode的工作目录是在datanode启动后自己初始化的 namenode在format初始化的时候会...
hadoop之hdfs、yarn、MR相关总结
简介：这里对之前的hdfs、yarn、MR相关概念做一个总结，方便快速阅读理解。 一、HDFSHDFS是分布式文件系统，有高容错性的特点，可以部署在价格低廉的服务器上，主要包含namenode和datanode。...
Hadoop集群的JobHistoryServer详解(转载）
Hadoop自带了一个历史服务器，可以通过历史服务器查看已经运行完的Mapreduce作业记录，比如用了多少个Map、用了多少个Reduce、作业提交时间、作业启动时间、作业完成时间等信息。默认情况下...
YARN配置
说明 最近关于YARN的配置，尤其是调试日志的信息，总是记不住，留个记录，方便以后查看。 转自董西成的博客,在此感谢董西成老师的分享。 如需转载，请注明出处，链接列表如下 RM与NM相关参...
spring springboot+kafka+sparkstreaming 生产及消费数据-超简单实例
springboot+kafka+sparkstreaming 生产及消费数据-超简单实例 kafka生产者实例： import org.apache.kafka.clients.producer.Callback;import org.apache.kafka.clients.producer.KafkaProd...