Hadoop作业提交多种方案具体流程详解

前言:    提交hadoop作业时我们遇到了许多的问题,在网上也查过许多的文章,有许多对hadoop提交作业原理进行分析的文章,却总看不到对具体操作过程讲解的文章,导致我们在eclipse...

2022-12-10 402 阅读

本地IDEA链接远程Hadoop

本文使用的Hadoop为2.7.7,版本如果不同要下载相应版本的文件 配置本地的Hadoop库(不需完整安装,但是要有环境支持) 下载文件 https://github.com/speedAngel/hadoop2.7.7 解压到任...

2022-12-10 217 阅读

mysql SQOOP 导出Hive数据到MySQL

基本知识:Sqoop导出的基本用法:https://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_syntax_4  的10. sqoop-export 内容摘要:本文主要是对--update-mode参数的用法进行...

2022-12-10 279 阅读

mysql sqoop hive 导出到mysql,hive字段个数必须要跟mysql一致吗

不用一致的,可以使用--columns指定哪些字段--columns id,name,hobby,birthday如果不使用--columns这个参数,那么个数就得一致了,不然会报错的        

2022-12-10 320 阅读

基于CentOS7的hue部署

准备工作1、 安装python2、 安装maven3、应用类服务一般用专有账号启动,我们建立一个hue用户和用户组 groupadd hadoopuseradd -g hadoop hue 安装hue依赖的第三方软件包yum -y install...

2022-12-10 371 阅读

Cloudera公司的CDH与HDP均无法下载问题(403 Forbidden (varnish) the provided credentials were incorrect)

Cloudera公司的CDH与HDP均无法下载问题1.问题描述2.解决方法1.问题描述最近想下载CDH的相关安装包,发现需要输入用户名和密码     然而输入cloudera账号之后,会出现如下提示 &n...

2022-12-10 641 阅读

Impala的安装和使用

通过本地yum源进行安装impala 所有cloudera软件下载地址 http://archive.cloudera.com/cdh5/cdh/5/ http://archive.cloudera.com/cdh5/ 1、 impala的介绍 imala基本介绍 impala是cloude...

2022-12-10 558 阅读

Impala编译部署-3

开始编译impala,这一步在下载文件上面耗时较长。   注意:在执行编译之前,source ~/.bash_profile使环境变量生效   #cd /root/impala #./buildall.sh -notests 编译过程中需...

2022-12-10 319 阅读

PYCHARM三方库安装方法

查看已安装的库:   cmd—输入pip list 卸载已安装的库:   cmd— 输入pip uninstall 库名称 常用标准库(安装了python环境后就可以导入使用的库 ):   time da...

2022-12-10 413 阅读

Python turtle安装和使用教程

1 安装turtle Python2安装命令: pip install turtule Python3安装命令: pip3 install turtle 因为turtle库主要是在Python2中使用的,所以安装的时候可能会提示错误: Command "python...

2022-12-10 522 阅读