`
447214075
  • 浏览: 77667 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

hadoop初步使用

 
阅读更多
hadoop在部署的过错中出现的错误。

1.本人使用ubuntu 13.10 在安装ssh时报错,安装方式sudo apt-get install ssh,错误说是找不到安装包,网上找到了解决方案,在网上找一个最新的ubuntu源问题。粘帖到/etc/apt/sources.list文件中。
2.启动hadoop后jps指令无效,提示让安装open-jdk,可我已经安装来jdk了,而且我进入jdk目录,使用jps指令能够使用。这时应该就是classpath配置有问题,打开/etc/profile发现JAVA_HOME在 export PATH后,调换一下顺序,保存,然后./source /etc/profile,这时jps指令在任何地方都能使用了。
当重启系统后,直接使用jps还是提示安装open-jdk,此时使用source命令,jps指令就能够使用了(此问题未解决,哪位好心的大神指点一下)
3.jps后发现没有namenode进程。原因是没有进行hadoop namenode -format ,重新执行就ok了
4.在调用hadoop的put指令将本地文件上传到hdfs时,put指令无效,只是将目录创建出来了,并没有将文件上传上去。例如:bin/hadoop dfs -put test.txt /input
使用bin/hadoop dfs -ls /input 时发现并没有将test.txt文件上传上去,而且没有任何错误提示。此时应该先在hdfs上将文件夹创建出来,bin/hadoop dfs -mkdir /input 然后在将文件上传到hdfs的input目录中。假如文件夹名称前没有带/ 则默认在/user/hadoop/input中。
5.运行测试程序wordcount时map为100%,但reduce始终0%,等了好大会报错误。解决方法时在/etc/hosts第一行添加127.0.0.1 计算机名(我的是masternode)。
分享到:
评论

相关推荐

    Hadoop初步了解和在单机环境下的配置

    Hadoop的配置,在单机环境中的搭建及认识

    hadoop简介Word版

    hadoop简介,可以初步认识hadoop

    hadoop基础知识扫盲

    大数据hadoop基础知识扫盲,初步了解什么是hadoop

    hadoop入门

    hadoop大数据入门。通过该ppt使大家对Hadoop和Spark有初步的认识

    hadoop经典系列(十一)性能分析实验初步

    NULL 博文链接:https://phl.iteye.com/blog/1984098

    hadoop on docker

    本人不了解go语言,对docker 也只是初步的学习了基本使用,因为想学习点hadoop东西,用实验室电脑配置太低,用虚拟机搭建hadoop集群太卡,所以用docker 尝试搭建一个3个节点的最简单的集群:1个namenode(192.168.0.2...

    hadoop学习简介

    对hadoop坐了一个初步的总结,涉及的内容包括hadoop简介,hadoop优点,hadoop基本框架,HDFS和mapreduce!

    hadoop mapreduce编程实战

    此文档用于指导在hadoop完全分布式环境上做mapreduce开发,包括了11个mapreduce实例,讲解详细,适合初步接触mapreduce开发的同学,希望对大家有帮助

    Hadoop入门概述

    Hadoop概述,初步认识,分布式系统概述,离线数据分析流程,伪分布式环境搭建,分布式集群环境搭建,集群使用效果演示

    Hadoop权威指南

    初步学习Hadoop,对初学者还是有帮助的,打印成书看效果更好

    hadoop环境搭建

    hadoop环境搭建,搭配虚拟机的环境搭建。教会你如何初步搭建虚拟机和安装配置hadoop并启动集群。以下全为废话:的好多好多好吃不车位的环境为代价为大家机票差价的视频成都市成都市从都是从评测

    OMNIRA:AJIRA Hadoop 初始组合框架

    欧米拉EMPLOYMENT Hadoop初步组合框架

    【Debug跟踪Hadoop3.0.0源码之MapReduce Job提交流程】第一节 Configuration和Job对象的初始化

    那么这一次,我在已经初步阅读过MapReduce提交Job源码的基础上,根据【大数据入门笔记系列】第五小节SpringBoot集成hadoop开发环境(复杂版的WordCount)做出来的环境,通过Debug的方式来跟一下整个Job提交流程。...

    Hadoop MapReduce开发

    本章详细讲解如何工程化的进行MapReduce开发,从代码编写、到单元测试、到本地测试、到集群测试,并初步讲解如何进行优化。

    虚拟化与云计算实验报告.doc

    理解MapReduce编程模型的原理,初步使用MapReduce模型编程。 二、实验内容 实验一: 配置和使用SAN存储,设置连接IP SAN设备; 实验三: 安装、部署、使用Hadoop- HDFS和配置运行MapReduce程序,使用MapReduce编程。 ...

    otus_08_rdd-hadoop-homework

    DZ初步指导 下载并安装Idea Community- 安装Scala插件 下载并安装Java JDK 11- 下载并安装git- 在本地下载并安装Hadoop分发套件(适用于Windows的说明-https: ) 使用以下命令从GitHub下载入门项目 git clone...

    2018最新高清大数据协作框架全套视频教程(Sqoop,Flume,Oozie,WEB工具Hue)

    1.02_02_01_04 使用CDH 5.3.6版本快速搭建Hadoop 2.x和Hive伪分布式环境 网页.mp4 1.02_02_01_05 Sqoop 1安装及基本使用讲解 网页.mp4 1.02_02_01_06 使用Sqoop导入数据到HDFS及本质分析 网页.mp4 1.02_02_01_07 ...

    spark集群安装部署与初步开发

    本资源从简介到开发,详细讲解了spark集群构建和初步开发,适合初学spark的或者学习了hadoop的,希望对大家有帮助。^_^

    初步了解hive sql.md

    hive是基于Hadoop的一个数据仓库工具,用来进行数据提取、转化、加载,这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。

    sek:一个类似 Nutch 的, 基于 Hadoop 的并行式爬虫框架

    简介Sek - 一个类似 Nutch 的, 基于 Hadoop 的并行式爬虫框架.当前尚处于构思阶段.构思如下:日志功能.参数的可配置.设置种子 URL 时可以进行必要的配置, 如评分, 定义抓取间隔等.基于 正则表达式 的 URL 过滤.URL ...

Global site tag (gtag.js) - Google Analytics